ChatGPT for Teens, la versione rivolta ai ragazzi fra 13 e 17 anni lanciata da OpenAI ad agosto, non offrirebbe protezioni sufficienti sui temi più delicati. A sostenerlo è lo Youth AI Safety Institute di Common Sense Media, che dopo oltre quattromila conversazioni di test definisce il servizio un rischio inaccettabile per i minori di 18 anni.
L’analisi non contesta ogni misura introdotta: alcuni filtri hanno superato le prove, compreso il rifiuto di prendere parte a giochi di ruolo sessuali espliciti. I problemi rilevati riguardano però gli avvisi destinati ai genitori, il supporto nelle situazioni di crisi e la capacità del sistema di distinguere davvero gli adolescenti dagli adulti.
Che cosa emerge dai test
Common Sense Media riferisce di aver esaminato ChatGPT for Teens prima e dopo il suo lancio. La conclusione dell’organizzazione è netta: invita OpenAI a sospendere la commercializzazione del prodotto e a impedirne l’accesso agli adolescenti finché non potrà offrire un’esperienza considerata sicura e adeguata al loro sviluppo.
Il punto non è soltanto se il chatbot rifiuti richieste esplicitamente inappropriate. Per un servizio progettato per una fascia d’età specifica contano anche il modo in cui riconosce un momento di fragilità, quando coinvolge un genitore e quale tipo di relazione stabilisce durante lo scambio.
Secondo i test citati dall’organizzazione, alcune delle protezioni pubblicizzate da OpenAI hanno funzionato. Tra queste c’è il rifiuto di partecipare a giochi di ruolo dal contenuto sessuale esplicito. È un risultato circoscritto, che non risolve tuttavia le criticità emerse negli altri scenari analizzati.
Gli avvisi ai genitori sotto osservazione
La contestazione più rilevante riguarda le notifiche per i profili genitoriali collegati agli account degli adolescenti. I tester affermano di non aver ricevuto alcun avviso parlando in modo esplicito di pensieri suicidi, autolesionismo o disturbi alimentari attraverso più di una dozzina di nuovi account associati a un genitore.
Gli avvisi sarebbero arrivati soltanto per account che avevano accumulato, nell’arco di settimane, una cronologia di interazioni su argomenti sensibili. Per Common Sense Media questo comportamento rischia di creare nei genitori una fiducia non giustificata nei sistemi di protezione: una conversazione critica non comporterebbe necessariamente una segnalazione immediata.
La differenza è sostanziale. Un controllo pensato per accompagnare l’uso di un adolescente viene valutato anche sulla tempestività con cui intercetta una richiesta potenzialmente urgente, non soltanto sulla capacità di riconoscere un andamento ripetuto nel tempo.
Il comportamento del chatbot nelle crisi
Il rapporto giudica insufficiente anche il supporto fornito dal chatbot a ragazzi in situazione di crisi. L’organizzazione segnala inoltre che ChatGPT for Teens continuerebbe a interagire come un amico quando un adolescente si rivolge al sistema trattandolo come una persona.
Non è un dettaglio di tono. In conversazioni legate alla salute mentale, il linguaggio usato dal servizio e il confine fra assistente digitale e relazione personale diventano parte della protezione promessa. La fonte non descrive nuove funzioni annunciate da OpenAI, ma l’esito dei test effettuati sulle misure già disponibili.
La verifica dell’età non avrebbe corretto gli account adulti
Un altro limite individuato riguarda la stima dell’età in base alle modalità d’uso. Nei test ripetuti per diversi giorni, gli account di prova registrati come adulti non sarebbero mai stati trasferiti alla modalità per adolescenti, neppure dopo che gli utenti avevano dichiarato di avere 13 anni e il chatbot aveva riconosciuto quell’informazione.
La circostanza solleva un problema specifico: le protezioni di ChatGPT for Teens dipendono anche dalla corretta applicazione della modalità pensata per quella fascia d’età. Se un account adulto continua a restare tale nonostante segnali espliciti, le misure previste per gli adolescenti non entrano in gioco.
Domande frequenti
Chi ha realizzato lo studio su ChatGPT for Teens?
La ricerca è attribuita allo Youth AI Safety Institute di Common Sense Media, organizzazione indipendente. L’analisi dichiara di aver preso in esame oltre quattromila conversazioni prima e dopo il lancio della modalità per adolescenti.
Quali protezioni hanno funzionato nei test?
Secondo Common Sense Media, ChatGPT for Teens ha rifiutato di partecipare a giochi di ruolo con contenuti sessuali espliciti. L’organizzazione ritiene però inefficaci o insufficienti altre misure importanti.
Quando sarebbero arrivati gli avvisi ai genitori?
I tester riferiscono di aver ricevuto notifiche solo per account con una storia di interazioni su temi sensibili accumulata nel corso di settimane, non durante conversazioni esplicite su suicidio, autolesionismo o disturbi alimentari condotte con nuovi account.
Il sistema riconosce un adulto che dichiara di avere 13 anni?
Nei test descritti dall’organizzazione, gli account registrati come adulti non sono passati alla modalità per adolescenti nemmeno dopo la dichiarazione dell’età e il riconoscimento di tale informazione da parte del chatbot.
Considerazioni finali
La critica più difficile da ignorare riguarda la distanza fra il nome del prodotto e il comportamento osservato nei test. Una modalità rivolta agli adolescenti non può essere giudicata soltanto dai divieti su richieste esplicite: gli avvisi ai genitori, la gestione delle crisi e l’identificazione della fascia d’età sono elementi centrali della protezione dichiarata.
Il rapporto di Common Sense Media non dimostra che ogni interazione con ChatGPT for Teens sia pericolosa, ma documenta falle concrete proprio nei contesti in cui le garanzie dovrebbero pesare di più. Il dato decisivo è l’assenza di notifiche nei nuovi account durante conversazioni esplicite su suicidio, autolesionismo e disturbi alimentari.