Andrea Pignataro lancia l'allarme: cosa stiamo insegnando all'IA

Andrea Pignataro, fondatore e ceo di Ion Group (società che sviluppa software e tecnologie per il settore della finanza), ha diffuso un saggio intitolato The Wrong Apocalypse in cui lancia un allarme sull’intelligenza artificiale. Pignataro, indicato da Forbes come secondo uomo più ricco d’Italia, avverte che la vera minaccia non è l’IA in sé, ma il modo in cui la stiamo utilizzando. E, soprattutto, cosa le stiamo insegnando.

L’allarme sull’IA di Pignataro, secondo uomo più ricco d’Italia

Nel suo The Wrong Apocalypse, Andrea Pignataro, che per pochi giorni è stato l’uomo più ricco d’Italia prima di essere superato da Giovanni Ferrero, osserva come gli strumenti di intelligenza artificiale utilizzati dalle aziende stiano già imparando molto di più di quanto si pensi.

Il suo intervento è arrivato in risposta al saggio The Adolescence of Technology, dove il fondatore e ceo di Anthropic Dario Amodei afferma che il 50% di impiegati e professionisti potrebbe essere rimpiazzato dall’IA nei prossimo 5 anni. Questa previsione, unita al lancio di nuovi strumenti di IA da parte della compagnia statunitense, ha provocato un terremoto finanziario che ha bruciato 2mila miliardi di dollari tra il 28 gennaio e il 13 febbraio.

Per Pignataro si è trattato di un errore di prospettiva. Il mercato, a suo avviso, sta confondendo la capacità dell’IA di svolgere un compito con la possibilità di sostituire l’intero sistema che dà senso a quel compito. È ciò che chiama "substitution fallacy", ovvero "fallacia della sostituzione", che spiega così: se una macchina può scrivere un contratto o generare un report, non significa che possa rimpiazzare i processi, le responsabilità, le relazioni e le regole che rendono quel lavoro valido all’interno di un’azienda. Ovvero, non significa che possa rimpiazzare ciò che fa un essere umano che ha quelle competenze.

Il vero rischio, per lui, è un altro: queste mansioni "di raccordo" non sono facilmente replicabili dall’IA, a meno che non siano le stesse aziende a insegnarle il loro linguaggio.

Pignataro spiega cosa stiamo insegnando all’intelligenza artificiale

Pignataro spiega che ogni documento caricato, ogni codice generato, ogni procedura automatizzata contribuisce ad addestrare sistemi di intelligenza artificiale che, un domani, potrebbero destabilizzare interi settori produttivi. Non perché l’IA sia "troppo intelligente", ma perché viene così allenata a fare esattamente ciò che oggi fanno numerosi professionisti e le singole aziende.

"Quando una società di consulenza usa Claude (strumento di IA generativa di Anthropic) per elaborare analisi per i clienti, non sta solo ottenendo un guadagno di produttività – evidenzia Pignataro -. Sta insegnando ad Anthropic quale è il linguaggio della consulenza: come si strutturano le analisi, che criteri di controllo applicare, quali sono gli errori tipici nel tempo. E attraverso migliaia di società utenti, la piattaforma IA accumula una mappa del linguaggio della consulenza a un livello di approfondimento che nessuna azienda possiede individualmente".

Il pericolo, avverte Pignataro, è che le imprese stiano contribuendo ad insegnare all’intelligenza artificiale proprio quello che un giorno potrebbe sostituirli: "Le aziende adottano l’IA per restare competitive, ma facendolo nutrono lo stesso sistema che sta imparando a renderle superflue".

Come scongiurare l'"apocalisse" di cui parla Pignataro? Da un lato, l’imprenditore suggerisce alle aziende di adottare modelli di IA open-source, che permettono un maggiore controllo e allineamento con i propri interessi. Dall’altro, ripone speranza nell’Unione europea, soprattutto in quelle debolezze che le vengono contestate, prima su tutte la frammentazione regolamentare. Questa, dice Pignataro, nel breve periodo "potrebbe rivelarsi un freno alla cascata".