ChatGPT annuncia il Parental Control per genitori e figli: cos'è

Dopo un recente caso che ha sconvolto tutto il mondo, con un ragazzino che si è tolto la vita seguendo i consigli dell’intelligenza artificiale, ChatGPT ha annunciato l’arrivo di misure di sicurezza più ferree. Nel dettaglio, l’azienda OpenAI ha spiegato che a breve sarà introdotto un sistema di parental control, per permettere ai genitori di decidere quello che i figli possono consultare sulla piattaforma di AI.

Su ChatGPT in arrivo il parental control

OpenAI, azienda americana di intelligenza artificiale, ha annunciato che verrà introdotto il parental control al suo chatbot ChatGPT. La decisione è stata annunciata a pochi giorni di distanza dalla denuncia presentata da una coppia californiana, Matthew e Maria Raine, che si è rivolta al tribunale sostenendo che il sistema di AI ha incoraggiato il figlio di 16 anni, Adam, a togliersi la vita, spiegando, tra l’altro, con precisione come fare un nodo scorsoio, con il quale poi il giovane si è impiccato.

“Quando una persona utilizza ChatGPT ha realmente la sensazione di parlare con qualcuno che sta dall’altra parte”, ha spiegato l’avvocata Melodi Dincer, del Technology Justice Project, che segue la famiglia. “Sono queste stesse caratteristiche che possono portare qualcuno come Adam, col tempo, a condividere sempre di più sulla propria vita personale e, in ultima analisi, a cercare consigli e orientamento da un prodotto che sembra avere tutte le risposte”.

La triste vicenda riguarda quella della famiglia Raine, che vive in California, ma di storie analoghe ce ne sono state tante altre negli ultimi mesi: molte persone sarebbero state istigate a comportamenti dannosi e ragionamenti deliranti proprio dai chatbot di intelligenza artificiale.

OpenAI, vista l’escalation di situazioni di questo tipo, ha spiegato di aver ridotto “l’adulazione” dei modelli verso gli utenti: Continuiamo a migliorare il modo in cui i nostri modelli riconoscono e rispondono ai segnali di disagio mentale ed emotivo”.

Come funzionerà il parental control di ChatGPT

“Entro il prossimo mese, i genitori potranno collegare il proprio account a quello del figlio adolescente“, ha scritto la società statunitense in un post sul suo blog,

Nel suo intervento online, OpenAI ha spiegato anche come funzionerà il parental control inserito all’interno del chatbot: le famiglie potranno “controllare come ChatGPT risponde al figlio con regole di comportamento modello appropriate all’età”.

Inoltre, secondo quanto riferito dall’azienda americana i genitori potranno anche ricevere delle notifiche da ChatGPT “quando il sistema rileva che il figlio adolescente si trova in un momento di grave disagio”.

Come verranno migliorati i chatbot di OpenAI

Ma non sarebbe solo il parental control l’unica novità introdotta dall’azienda con sede nel Mission District di San Francisco, in California. La società ha infatti annunciato di avere in mente anche altri piani per poter garantire una migliore sicurezza dei suoi chatbot e per un uso più “sereno” dell’intelligenza artificiale.

Tra le novità e i cambiamenti che saranno introdotti nei prossimi tre mesi c’è anche un reindirizzamento di “alcune conversazioni sensibili a un modello di ragionamento” che sfrutta una potenza maggiore di calcolo per generare una risposta. “I nostri test dimostrano che i modelli di ragionamento seguono e applicano le linee guida di sicurezza in modo più coerente”, ha spiegato OpenAI.

Resta sempre aggiornato: iscriviti al nostro canale WhatsApp!