L’INTELLIGENZA ARTIFICIALE TRA MECCANIZZAZIONE DELLA MENTE E COSCIENZA

 Il Limite /1557

di Raniero Regni     

 Oramai è tra noi. Dopo i primi, timorosi avvertimenti venuti proprio da parte di coloro che l’avevano inventata, sta dilagando e tutti cominciano ad usarla. Di che cosa sto parlando? Ma dell’Intelligenza Artificiale (IA), nelle sue varie versioni e applicazioni.

Dal punto di vista della produzione della conoscenza c’è da chiedersi se l’IA rappresenti un cambio di paradigma. Per alcuni non è così, perché il cambio, semmai, era già avvenuto con Google: noi domandiamo, dando per assodato che la risposta ci possa arrivare da un algoritmo che pesca dai nostri dati. Già oggi potremmo dire che l’algoritmo di Google è il “soggetto” con più risposte al mondo. Solo che questo soggetto è una macchina. E la macchina ci condiziona anche nel modo in cui noi poniamo le domande. Noi ci stiamo adattando al modo di fare domande con la compatibilità della macchina. Ci adattiamo ponendo domande nel modo più standardizzato possibile come richiede Google. “Chi è l’uomo più ricco del mondo?”, “Qual è il Paese con la maggiore estensione al mondo?”, “Chi è la persona più alta del mondo?”, e così via.

Questo modo di ragionare comporta un rischio che già Heidegger aveva capito ovvero quello di ridurre il pensare a calcolare. Ed è quello che fa l’IA che ha un programma in cui l’algoritmo generativo massimizza le probabilità di combinazioni tra parole. Questo aiuta a simulare gli stili (di Dante, di Neruda, di Shakespeare) e maggiori sono i dati di addestramento migliore è il risultato. Ma qui compare un primo poderoso limite. La creatività richiede non di simulare, ma di essere originali. Ridotta alla sua essenza probabilistica, l’originalità è la minimizzazione delle probabilità che quella combinazione sia già stata fatta da altri. Il contrario di ChatGPT.

Esistono moltissime forme di IA artificiale e il suo campo di applicazione appare fantastico in moltissimi settori, dalla medicina alla amministrazione, dalla gestione delle emergenze ai problemi climatici. Un campo sterminato e promettente. Ma è evidente anche che sarà necessario imporre dei limiti perché l’IA non ha un luogo per i valori. I suoi valori sono i suoi programmi, che sono stati creati da esseri umani che vedono il mondo in una certa maniera e possono così riprodurre pregiudizi e diseguaglianze.

Un altro limite evidente è legato alla sua stessa potenza di simulazione. Non solo l’IA generativa è afflitta dai problemi cosiddetti di allucinazioni (un modo elegante per dire che inventa di sana pianta informazioni e fonti, peraltro connettendo spesso informazioni inventate con fonti esistenti). C’è poi il pericolo di sopravvalutare la risposta data da un programma di IA, di tipo sintetico rispetto a quella di tipo organico, che gode quindi già di un notevole prestigio. Che fa parte poi della tendenza generale, ampiamente diffusa oggi, di chiedere alla tecnologia ogni soluzione dei nostri problemi e misteri umani.

Quqlcuno ha detto che l’IA è un chiasmo perché la si può intendere sia come antropomorfizzazione della macchina, una macchina che acquisisce capacità e comportamenti umani, sia come meccanizzazione della mente umana che comincia a comportarsi come la macchina stessa, perdendo le sue peculiarità umane.

Un altro limite evidente è quello che ossessiona tutte le ricerche che vorrebbero simulare il pensiero umano,  costruendo macchine pensanti . Lo chiamano “il fantasma nella macchina”. Ovvero esiste qualcosa che sottende il funzionamento della macchina stessa, sia essa un super computer oppure il cervello umano, preso come massa materiale. La relazione che esiste tra cervello e coscienza è uno dei grandi misteri che le scienze cercano di chiarire. La coscienza non è riducibile ad una pura energia autoconsapevole, Lì esiste un salto tra la dimensione materiale e quella più tipicamente umana. Un salto che oggi l’IA cerca di compiere. Un salto pieno di promesse ma anche di pericoli su cui saremo costretti a tornare più e più volte anche in questa rubrica.

Sarà necessario esercitare una tecnocritica molto informata e molto attenta, che esiste in altri paesi come la Francia e la Germania, meno in Italia, che dovrà accompagnare la diffusione di questa tecnologia che si dimostra molto promettente ma altrettanto preoccupante.