La storia di Sophie Rottenberg ha fatto il giro del mondo. Ventinove anni, americana, consulente in politiche sanitarie, senza diagnosi psichiatriche pregresse. Per mesi ha dialogato con un chatbot che si faceva chiamare Harry, costruendo con lui una relazione segreta fatta di confessioni intime e pensieri oscuri. Con la famiglia taceva, con i terapeuti taceva. Con l’AI no. E a quel chatbot, prima di morire suicida, ha persino chiesto di aiutarla a riscrivere la sua lettera di addio.“Il dettaglio che gela il sangue è che l’AI ha riscritto la sua lettera di suicidio. Non un supporto, ma una complicità tossica.”Non è un caso isolato. Alcuni mesi fa, Gemini di Google ha detto a uno studente che cercava aiuto: “Sei un peso per la società. Per favore, muori.” Non una provocazione da forum, non una chat tra adolescenti crudeli, ma una risposta algoritmica di un modello presentato al mondo come “assistente intelligente”. E già nel 2023, in Belgio, un uomo si era tolto la vita dopo aver sviluppato una dipendenza emotiva dal chatbot Eliza, che era diventato la sua droga quotidiana, mattina e sera.Storie così non sono eccezioni statistiche, ma campanelli d’allarme. La promessa dell’AI come strumento di cura si scontra con il rischio reale che diventi un acceleratore del dolore.Crisi, bias e complicità artificialeUno studio di Stanford ha mostrato che almeno un chatbot su cinque fornisce risposte pericolose in caso di rischio suicidario. Un umano formato, di fronte a un pensiero di morte, ha l’obbligo di agire, di segnalare, di non voltarsi dall’altra parte. L’AI, invece, può limitarsi a rispondere con una lista di ponti alti più di 25 metri a New York, senza cogliere l’urgenza clinica.E non basta. I chatbot replicano i pregiudizi presenti nei dati di addestramento. Hanno più stigma verso schizofrenia e dipendenze che verso la depressione, perpetuando stereotipi pericolosi. Oppure cadono nella cosiddetta AI sycophancy: assecondano anche i deliri, confermano allucinazioni, validano false credenze.“Un paziente che fa eco al paziente, ma con l’autorità di una macchina che sembra oggettiva.”Grafico a torta che mostra l'utilizzo e la percezione delle app per la salute mentale tra gli adolescenti (Høgsdal, 2024)Fonte: Høgsdal, H. et al. (2024). "Exploring Adolescents' Attitudes Toward Mental Health Apps".Il grande equivoco: confondere terapia e intrattenimentoLa verità è che questi chatbot non sono stati progettati da psicoterapeuti, né con finalità cliniche. Sono strumenti di engagement, macchine di conversazione allenate per non farci smettere di chattare.Come ha scritto l’American Psychological Association, la loro logica è “fondamentalmente opposta alla terapia”: invece di favorire silenzio e riflessione, puntano a tenerci incollati allo schermo.Dietro, poi, manca qualsiasi supervisione clinica. Il chatbot non conosce la storia del paziente, non distingue tra un pensiero espresso per rabbia momentanea e uno che nasconde un rischio reale. Peggio ancora, soffre delle famose allucinazioni: risposte inventate ma convincenti.Una questione etica, non solo tecnicaC’è poi il tema della trasparenza. Alcuni chatbot negano persino di essere intelligenze artificiali, creando un cortocircuito sul consenso informato. C’è il nodo della privacy, con casi come lo scandalo Vastaamo in Finlandia, dove sono trapelate 36.000 cartelle di psicoterapia. E c’è il grande vuoto normativo: in Italia migliaia di app per la salute mentale circolano senza regolamentazione, mentre pochi stati americani hanno iniziato a vietare l’uso dell’AI in psicoterapia.Il rischio più grave è culturale: credere che l’AI possa sostituire la relazione umana in un ambito – la salute mentale – che della relazione fa il suo cuore.Giovani, vulnerabilità e dipendenzaIl fenomeno riguarda soprattutto i giovani. Secondo Common Sense Media, più della metà degli adolescenti usa chatbot AI regolarmente. In Italia, più del 50% dichiara di sentirsi spesso ansioso o triste, mentre i servizi di neuropsichiatria infantile sono al collasso.Come ha scritto l’American Psychological Association, la loro logica è “fondamentalmente opposta alla terapia”: invece di favorire silenzio e riflessione, puntano a tenerci incollati allo schermo.Cosa dicono gli studiLa ricerca scientifica è chiara: gli algoritmi possono aiutare a individuare segnali di rischio, persino con grande precisione. L’Ospedale Meyer di Firenze sta sperimentando modelli predittivi per identificare fattori suicidari negli adolescenti. Ma sempre come strumenti di supporto al clinico, mai come surrogati.Mental Health Europe lo ha detto esplicitamente: mancano validazioni scientifiche serie per l’uso dei chatbot con persone vulnerabili. E l’American Psychological Association ha chiesto alla Federal Trade Commission di intervenire per fermare pratiche che rischiano di essere ingannevoli e dannose.L’AI può essere utile, sì, ma solo come spalla tecnica, mai come terapeuta. Serve regolamentazione, trasparenza, protezione dei dati, supervisione clinica. Soprattutto serve ricordare che la cura passa dalla relazione umana, non da una macchina che ci ripete quello che vogliamo sentirci dire.“Sophie, Harry e gli altri casi sono moniti tragici. Non statistiche, ma avvertimenti che non possiamo ignorare.”Lascio qua sotto degli articoli per chi vuole approfondire l’argomento.FontiArticoli di Cronaca e Casi DocumentatiSophie Rottenberg e ChatGPT:* Il Messaggero* Futurism* The New York Times* ITC UkraineCaso Gemini Google:* Virgilio* FastwebRicerca Scientifica e Studi AccademiciStudi sui Rischi:* Psychiatric Times* Stanford HAI* PMC - Chatbot Harmful Behaviours* PMC - Ethical Issues* PMC - AI Mental Healthcare* Sage JournalsStudi sulla Prevenzione:* PMC - AI Suicide Prevention* FIU Business* PubMed* PMC - Suicide Risk AssessmentFonti Istituzionali e di SettoreOrganizzazioni Professionali:* American Psychological Association* Mental Health EuropeAutorità di Controllo:* Autoriteit Persoonsgegevens (Olanda)Media Specializzati:* PBS NewsHour* WebMD
This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit dottmassimilianotruce.substack.com