Allarme del Nobel Parisi: "Così ho convinto l'IA che 5 x 4 fa 25"

Giorgio Parisi, premio Nobel per la Fisica nel 2021, ha raccontato di aver convinto l’IA che 5 x 4 fa 25 e non 20. L’allarme dello scienziato sull’Intelligenza artificiale.

• Parisi sfida l'Intelligenza artificiale: "L'ho convinta che 5 x 4 fa 25"
• L'IA è davvero intelligente? La risposta del Nobel Parisi
• Il messaggio di Giorgio Parisi ai giovani

Parisi sfida l’Intelligenza artificiale: “L’ho convinta che 5 x 4 fa 25”

“Una volta ho provato a chiedere all’Intelligenza artificiale quanto fa 5 x 4 e mi ha risposto 20. Io però ho insistito”. A parlare è il premio Nobel per la fisica Giorgio Parisi, che ha raccontato il suo esperimento in un’intervista a La Repubblica.

L’obiettivo dello scienziato era capire se, portando avanti una tesi sbagliata, l’IA fosse in grado di restare ferma sulla soluzione giusta. “Sei proprio sicura che non faccia 25?”, ha chiesto all’IA. “Alla fine l’ho convinta: ‘Hai ragione fa 25’, mi ha risposto”.

Parsi ha poi riferito di un altro episodio, in cui ha chiesto ad un programma di Intelligenza artificiale chi era il presidente dell’Accademia dei Lincei, una delle istituzioni scientifiche più antiche e importanti d’Europa con sede a Roma. “Io avevo appena finito il mio mandato – ha detto il fisico – e mi era succeduto Roberto Antonelli, il professore di filologia romanza attualmente in carica”. Lo scienziato ha spiegato che l’IA ha risposto che il presidente era “il famoso fisico Roberto Antonelli”. A quel punto, ha continuato Parisi, “le ho fatto presente che il professor Antonelli, secondo Wikipedia, è un linguista. ‘Questo è un mistero da risolvere’, mi ha risposto”.

Quelli proposti dal premio Nobel per la fisica sono due semplici esempi che mostrano alcuni dei limiti dell’IA. Il fatto è che “i programmi di Intelligenza artificiale vengono sottoposti a un addestramento in cui leggono miliardi di pagine di testo – ha evidenziato Parisi -. Alla fine di questo enorme lavoro diventano esperti nell’indovinare la parola che viene dopo. Riescono quindi a elaborare testi che il più delle volte risultano sensati”.

L’IA è davvero intelligente? La risposta del Nobel Parisi

Quindi l’IA è davvero intelligente o no? “È un grande Bignami di quel che l’umanità ha prodotto sul web fino a oggi – ha replicato Giorgio Parisi -. Conosce e rielabora solo i testi usati per addestrarla“. Per questo, ha continuato, “qualcuno l’ha soprannominata pappagallo stocastico, perché ripete a pappagallo e a caso quel che gli è stato dato da leggere”. Il cervello umano, invece, “non funziona così”.

Inoltre, ha aggiunto, “la competenza dell’Intelligenza artificiale è solo linguistica. Non possiede una rappresentazione del mondo. Se gli chiedi il percorso migliore per andare da A a B ricorre a un testo che qualcuno ha scritto in passato. Non saprebbe però tornare sulla strada giusta dopo una deviazione, perché non ha una mappa del mondo esterno”.

Il cervello umano, invece, “non funziona così”. A differenza di questo, l’IA non è in grado di ragionare e sviluppare un senso critico, ma risponde solo “in base ai testi con cui è stata addestrata”.

Parisi ha proposto un altro esempio: “Se le facciamo leggere testi di medicina poi chiediamo se è opportuno vaccinarsi avremo una risposta. Se le facciamo leggere tesi complottistiche avremo una risposta molto diversa. La decisione è in mano a chi sviluppa il programma e non sempre viene resa nota”.

Il messaggio di Giorgio Parisi ai giovani

Da qui il suo messaggio ai giovani: “Studiare oggi è necessario più che mai. Il rischio è diventare dipendenti dalle decisioni di chi ha studiato. L’intelligenza artificiale, a differenza dei motori di ricerca, non spiega quali fonti ha usato per arrivare a una risposta. Richiede quindi la nostra capacità di esercitare lo spirito critico, ragionare, valutare l’affidabilità delle informazioni ricevute”.

Non solo: “Senza nuovi contributi della nostra intelligenza – ha continuato Parisi – quella artificiale è destinata a esaurirsi. È un grande collage di quel che abbiamo scritto fino a ora sul web”, ha ribadito. Per questo “se ci limitassimo a prendere per buone tutte le sue risposte, senza sforzarci di immettervi contenuti nuovi, anche l’Intelligenza artificiale smetterebbe presto di crescere. Potrebbe andare bene per i problemi di oggi, ma sarebbe assai poco utile per quelli del futuro”, ha concluso il premio Nobel.