L'agenda scolastica generata con l'IA è un caso: quanti errori!
I genitori degli studenti di una scuola americana si sono accorti che l'agenda scolastica era piena di imprecisioni geografiche e ortografiche
In una scuola americana l’agenda scolastica è stata realizzata con l’intelligenza artificiale ma il risultato è stato decisamente negativo. Nel testo erano contenuti numerosi errori geografici e ortografici che hanno fatto decisamente inquietare i genitori degli studenti che avevano pagato per un prodotto scadente e diseducativo con nomi degli stati sbagliati e diverse altre imprecisioni.
Gli errori nell’agenda scolastica creata con IA
Il caso dell’agenda scolastica creata con l’intelligenza artificiale e piena di errori è in scuola media pubblica di Louisville, nel Kentucky, la Farnsley Middle School.
Il supporto didattico, che sarebbe stato prodotto utilizzando un software di intelligenza artificiale generativa, conteneva una mappa degli Stati Uniti con nomi errati, una tavola periodica colma di errori, fasi lunari inesistenti.
Tra gli esempi di imprecisioni più significative, come riportato da alcune emittenti locali, la mappa degli Stati Uniti presentava il Kentucky come "Venecky", la Louisiana come "Lookoong" e l’Alabama era stata trasformata in "Alotome".
Secondo molti si tratterebbe di tipici errori visivi che si riscontrano con la realizzazione di grafiche tramite strumenti di IA commerciali. E ancora l’Illinois sarebbe stato indicato come "Vitoiis", l’Arizona come "Arizone" e la Carolina del Sud come "Sorth Cuanto".
Le lamentele dei genitori
Ad accorgersi per prima degli errori è stata Stacey Morris, la madre di uno studente. Già dopo il primo giorno di scuola, il figlio le ha detto: "Lo sai che viviamo a Venecky?".
La donna ha quindi segnalato gli errori alla scuola e, in seguito, la direzione ha avvisato gli insegnanti della presenza di "moltissimi errori" nelle pagine dalla 19 alla 36 e ha dato istruzioni agli studenti di strappare quelle pagine dalle loro agende prima di portarle a casa.
Per i genitori, tuttavia, il problema va oltre le nozioni geografiche errate. Le famiglie hanno lamentato di aver pagato una quota annuale di 10 dollari per il materiale didattico, incluse le agende.
"Qualcuno non ha controllato ciò che veniva distribuito agli studenti", si è lamentata Morris. Il complesso scolastico avrebbe già mostrato problemi nella gestione delle risorse finanziarie e, per le famiglie degli studenti, una risorsa didattica costellata di errori è un ennesimo campanelli d’allarme sulla mancanza di controlli su ciò che viene fornito ai ragazzi.
Le testate locali americane hanno commentato la vicenda trovando un lieve elemento positivi: gli studenti sembrano aver imparato che è sempre bene verificare la fonte delle informazioni che si ricevono, anche se provengono da testi scolastici.
Il caso della rivista scientifica
Il caso della Farnsley Middle School non è però l’unico. Un episodio emblematico ha coinvolto la rivista scientifica "Frontiers in cell and developmental biology", che ha dovuto ritirare uno studio precedentemente approvato e pubblicato, perché contenente errori.
La ricerca era stata pubblicata con immagini anatomiche di un roditore generate dal software Midjourney che l’aveva realizzato con proporzioni grottesche, dettagli inesistenti in natura e diciture composte da lettere casuali, sfuggite al controllo dei revisori umani.
Gli episodi dello studio scientifico e della scuola hanno acceso i riflettori sull’efficacia dell’impiego di strumenti di IA generativa nella preparazione dei materiali destinati alle classi e, soprattutto, sulla necessità di sottoporli a un controllo umano prima della distribuzione.