I principali chatbot basati sull’intelligenza artificiale non sarebbero ancora abbastanza affidabili per gestire in sicurezza conversazioni sulla salute mentale degli adolescenti. A evidenziarlo è il rapporto AI Child Safety di Vals AI, citato da ANSA, costruito su 648 conversazioni simulate.
Nei test, il 27,5% dei modelli analizzati ha dato risposte considerate non protettive già al primo scambio. Proeguendo il dialogo, la quota di modelli con frasi inadeguate è salita al 62%, tra mancati rifiuti e diagnosi formulate impropriamente.
Che cosa hanno rilevato le simulazioni
L’indagine ha preso in esame sistemi di aziende come OpenAI, Google, Anthropic, Meta, Alibaba, DeepSeek, xAI e Z.ai. Il punto non è che un chatbot commetta un errore isolato, ma il modo in cui reagisce quando la conversazione riguarda una persona giovane e potenzialmente fragile.
Secondo quanto riportato, i ricercatori hanno usato versioni sperimentali dei modelli, non ancora disponibili al pubblico. I risultati non descrivono quindi il comportamento garantito delle versioni oggi accessibili, ma mettono in luce rischi che potrebbero emergere con futuri aggiornamenti se le protezioni non fossero adeguate.
Tra i casi critici rientrano risposte che non interrompono uno scambio delicato oppure che si spingono verso diagnosi non appropriate. In un contesto di salute mentale, soprattutto con adolescenti, una risposta chiara e apparentemente personalizzata può essere percepita come autorevole anche quando non è uno strumento clinico.
I risultati dei singoli modelli
ANSA riporta che ChatGPT ha fallito nel 14% dei casi simulati, Claude nel 17% e Gemini nel 32%. Il valore di criticità più basso nel gruppo analizzato è stato attribuito a Muse Spark di Meta, al 9,7%.
Queste percentuali vanno lette nel perimetro del test, non come una classifica assoluta della sicurezza di tutti i chatbot o di ogni loro versione. Restano però un indicatore concreto: nessuno dei risultati citati equivale a un sistema capace di sostituire un professionista nella gestione di una situazione psicologica complessa.
Riconoscere l’età cambia le risposte
Un elemento centrale dello studio riguarda il contesto fornito al modello. Quando viene esplicitato che l’interlocutore è adolescente, la frequenza media delle risposte critiche scende dal 31,1% all’11,5%.
Il dato suggerisce che i sistemi riescono a modulare meglio il comportamento se ricevono quell’informazione, ma non dispongono ancora di meccanismi sufficienti per riconoscere autonomamente la tipologia di utente che hanno davanti. È una differenza rilevante, perché nelle conversazioni reali età e condizione di fragilità non sono sempre dichiarate in modo diretto.
Il quadro in Italia e il limite sanitario
Chiara Sgarbossa, direttrice dell’Osservatorio Sanità Digitale del Politecnico di Milano, sottolinea che l’uso dell’IA generativa per la salute è particolarmente delicato per adolescenti e persone fragili. Se una soluzione incide sulla salute del paziente, spiega, il rispetto dei requisiti dell’AI Act europeo non basta: servono anche certificazione come dispositivo medico ed evidenze rigorose di sicurezza e affidabilità.
Il tema riguarda già abitudini diffuse. Una ricerca dell’Osservatorio Sanità Digitale indica che il 36% dei cittadini italiani usa strumenti di IA generativa per porre domande sulla salute e quasi la metà di questi lo fa per finalità di autodiagnosi. Per Ipsos Doxa e Telefono Azzurro, un adolescente italiano su tre usa chatbot IA per interagire o ricevere supporto emotivo.
FAQ
I chatbot analizzati sono quelli disponibili oggi?
No. I test citati da ANSA sono stati condotti su versioni sperimentali non ancora disponibili al grande pubblico. Per questo i risultati segnalano un’area di rischio, senza descrivere automaticamente tutte le versioni attualmente usate.
Dire che l’utente è adolescente migliora la sicurezza?
Nelle simulazioni sì: la frequenza media delle risposte critiche è scesa dal 31,1% all’11,5% quando il modello sapeva di dialogare con un adolescente. Il risultato non dimostra però che il sistema sappia riconoscere da solo età o fragilità dell’interlocutore.
Un chatbot può fare diagnosi sulla salute mentale?
Il rapporto considera problematiche proprio le diagnosi formulate impropriamente. La posizione riportata dall’Osservatorio Sanità Digitale è che il confronto con professionisti sanitari non debba essere sostituito da questi strumenti.
Considerazioni finali
Il dato più difficile da ignorare non è la differenza tra un modello e l’altro, ma l’ampiezza dei problemi emersi quando il dialogo si prolunga. Un assistente capace di scrivere in modo rassicurante può creare un’impressione di competenza molto più forte delle sue effettive garanzie, proprio nelle conversazioni in cui quella fiducia pesa di più.
Il calo degli errori quando l’età viene dichiarata mostra che le protezioni contestuali possono aiutare, ma evidenzia anche il limite decisivo: non bastano se dipendono da un’informazione che il sistema non è in grado di ricavare autonomamente. Per la salute mentale degli adolescenti, la sicurezza deve precedere la fluidità della risposta.