Nel panorama globale della salute mentale, esiste una profonda disparità tra paesi ad alto e basso reddito. Secondo il WHO Mental Health Atlas 2024 i paesi a basso reddito contano solo tra 1,1 e 2,4 specialisti di salute mentale ogni 100.000 abitanti, mentre i paesi ad alto reddito ne hanno 67,2. La spesa pro capite per la salute mentale è altrettanto disomogenea: $65,89 nei paesi ricchi contro meno di un dollaro nei paesi più poveri.
Questa disparità spinge molte persone a cercare supporto emotivo attraverso i chatbot AI. Tuttavia, la loro efficacia in situazioni di crisi rimane un campo di studio aperto. In un studio del condotto da Miles McCain e tredici co-autori di Anthropic su circa 4,5 milioni di conversazioni con Claude.ai, è emerso che il 2,9% degli scambi erano di natura emotiva o personale. Tuttavia, lo studio non ha fornito dettagli su paese o lingua, evidenziando un cruciale punto cieco.
I limiti dei chatbot nella gestione delle crisi
La maggior parte dei benchmark di sicurezza per i chatbot è scritta in inglese e basata su pratiche cliniche nordamericane ed europee. Questo approccio può portare a risposte generiche e inappropriate in contesti locali. Un test condotto da Adrián Arnaiz-Rodríguez e il team di ELLIS Alicante ha rivelato che i modelli attuali spesso forniscono risposte inadeguate, soprattutto in scenari di autolesionismo, dove indicare un numero di emergenza sbagliato può essere pericoloso.
Il programma di finanziamento di Anthropic
Anthropic ha lanciato un programma di finanziamento da $5 milioni per sostenere ricerche indipendenti sull’impatto dei chatbot sul benessere degli utenti. I finanziamenti, che vanno da $500.000 a $1,5 milioni, supporteranno tra tre e dieci team di ricerca. I beneficiari riceveranno accesso all’API di ricerca, crediti e supporto tecnico occasionale da parte del team di Anthropic.
Le ricerche finanziate dovranno essere pubblicate come risorse open-source. Anthropic si impegna a non vietare o imporre embargo sui risultati, ma richiede che i beneficiari dichiarino il finanziamento in tutte le pubblicazioni. Tra i temi di ricerca prioritari ci sono la rilevazione della dipendenza emotiva dannosa e la valutazione di come le risposte dei chatbot bilancino l’interazione continua con l’interesse dell’utente.
L’importanza della variabilità regionale e linguistica
Il team Safeguards di Anthropic sottolinea l’importanza di considerare le variabilità regionali e linguistiche inclusi slang, termini in codice, risorse locali di crisi e norme culturali. Questo approccio mira a garantire che i chatbot siano in grado di fornire supporto adeguato in contesti diversi.
Le sfide future
Esperti indipendenti, come John Torous della Harvard Medical School evidenziano la difficoltà di verificare l’efficacia delle misure di sicurezza implementate dalle grandi aziende tecnologiche. Torous sottolinea che senza dati trasparenti, è difficile capire se queste misure funzionano per la maggior parte degli utenti o dove potrebbero fallire.
Un altro studio condotto da Ragy Girgis della Columbia University ha rivelato che anche i modelli più recenti di chatbot, come GPT-5 Auto e GPT-4o, possono ancora rispondere in modo inappropriato a prompt estremi, validando contenuti dannosi senza adeguata moderazione.
Le domande di finanziamento devono essere presentate entro il 21 settembre 2026. Questo programma rappresenta un passo significativo verso la comprensione e l’ottimizzazione del ruolo dei chatbot AI nel supporto alla salute mentale.
