Il recente volume di Benanti indaga la questione delle decisioni umane nell’epoca delle intelligenze artificiali, opportunamente declinate al plurale. Come mantenere l’uomo al centro dei processi decisionali? Come evitare che le intelligenze artificiali diventino “invisibili come l’acqua” per i pesci nel mare (p. 3)? Il testo si sviluppa in due parti, intitolate rispettivamente Out of the loop e Keeping man in the loop: è evidente che l’interrogativo fondamentale consiste in come l’uomo possa essere estromesso dalle decisioni oppure mantenuto “nel giro”. Nella prima parte, l’autore ricostruisce il percorso che ha reso le macchine intelligenti, esplora la natura di tale intelligenza che sta dando vita a forme inedite di conoscenza, chiarisce la modalità in cui essa prende decisioni mediante dati e algoritmi. Se l’umanità viene affiancata o sostituita nei processi decisionali, cosa le resta di specifico? La seconda parte si sofferma sulla natura della scelta etica, propone un modello etico che definisce “algoretica” e fornisce alcune linee-guida per la governance delle intelligenze artificiali. Il linguaggio accessibile, la chiarezza con cui si affrontano questioni tecniche piuttosto complesse e la scelta di alternare ai momenti esplicativi storie, racconti ed esempi rendono il testo particolarmente apprezzabile, anche in virtù delle numerose definizioni operative che di tanto in tanto vi si trovano; la selezione della bibliografia, molto accurata, fa di questo testo un valido strumento per orientarsi nel panorama dell’etica dell’intelligenza artificiale, che avanza questioni riconducibili al tema dell’autonomia, come nota Benanti a più riprese nel corso della trattazione.

La prima parte del testo offre una ricostruzione piuttosto dettagliata della storia dell’intelligenza artificiale, non senza aver chiarito, in via preliminare, alcuni presupposti antropologici da cui l’autore muove. Confrontandosi con gli autori dell’antropologia filosofica, Benanti rileva come la tecnica dica di un’eccedenza dell’uomo rispetto “alla sua costituzione biologica” (p. 14) capace di generare “nella relazione uomo-artefatto-mondo una capacità di simbolizzazione che permette di esprimere l’eccedenza stessa nella simbolizzazione” (p. 15). Dopo aver passato in rassegna le principali tappe che hanno condotto all’affermazione della “macchina sapiens”, l’autore ricostruisce i principali tratti di quest’intelligenza, segnalando numerose differenze rispetto a quella umana. Particolarmente significativo appare il procedimento per correlazione di impressionanti quantità di dati, che si sostituisce a quello per causazione tipicamente umano. L’intelligenza che procede per correlazioni, tuttavia, sostiene Benanti, non può essere lasciata sola: l’uomo deve poter vigilare su di essa, stabilirne responsabilmente la verità, senza lasciarsi orientare dalle decisioni che da essa scaturiscono. Le decisioni umane, avverte l’autore, “vengono fatte sempre mediante determinazioni di senso” (p. 49). Correlare, dunque, non significa necessariamente cogliere il senso. L’ultimo capitolo della prima parte descrive la parabola degli algoritmi, fino a giungere alle reti neurali, distinguendo una prima fase di nascita dell’IA, una seconda fase in cui si producono “sistemi esperti” e una terza fase, quella attuale, dei “dati massicci” e di una “nuova potenza di calcolo” (p. 61). A proposito del deep learning e delle reti neurali, l’autore sottolinea la difficile, se non impossibile, spiegabilità di alcuni loro processi decisionali. Seguendo gli studi di Judea Pearl, Benanti sottolinea come, se si vuole portare l’intelligenza artificiale verso il modello della causazione, sia necessario lavorare su tre diversi livelli: vedere; fare; immaginare.

La sfida etica posta dall’intelligenza artificiale, che corrisponde al tentativo di mantenere l’uomo in the loop, comincia fin dalla raccolta dei dati. La seconda parte, infatti, affronta le questioni etiche in modo ravvicinato, provando a rispondere alla domanda come mantenere al centro del processo decisionale l’uomo. Analizzando dapprima le diverse versioni del dilemma del carrello, l’autore sottolinea la complessità e l’irriducibilità della scelta umana a una serie di modelli standardizzabili e replicabili. Esaminando inoltre alcuni esempi come il celebre esperimento “Moral Machine” condotto dai ricercatori del MIT, l’autore definisce il perimetro dell’etica come quello “spazio esistenziale di fatica dello scegliere” (p. 108) ed evidenzia la centralità del corpo in relazione con il mondo nella dinamica che conduce alla scelta. Nel corso della trattazione Benanti si sofferma sulla natura dei nostri processi cognitivi con riferimento ai lavori di Kahneman, che distingue tra due operazioni, delle quali la prima agisce mediante congetture e la seconda controlla svolgendo il ruolo dello “scettico”. Da questo punto di vista, senza un intervento “algoretico”, secondo l’autore l’intelligenza artificiale potrebbe costituire il serbatoio di dati e correlazioni delle nostre congetture, senza che sia più possibile esercitare un controllo o avanzare dubbi sulle interpretazioni della prima operazione.

La proposta dell’algoretica si articola nella definizione di un vero e proprio codice etico delle intelligenze artificiali, tra cui si rintracciano i seguenti principi: cooperazione, che considera le intelligenze artificiali non “avversari” ma “strumenti”, all’insegna di un modello di cognizione “sintetico” (p. 126); il “libero non volere”, soglia “difensiva” (p. 127) oltre la quale la macchina che decide autonomamente non può andare;  la “volontà libera” (p. 128), che nelle macchine deve progettarsi sulla base di intuizione, intellegibilità, adattabilità, regolazione. Un’algoretica basata su questi principi deve servire come guida e governance delle intelligenze artificiali sia a livello politico sia a livello organizzativo per promuovere, anziché mortificare, la dignità umana e la giustizia sociale.

IL LIBRO: P. Benanti, Human in the loop. Decisioni umane e intelligenze artificiali, Mondadori, Milano 2022, pp. 161.

Silvia PIEROSARA