L’intelligenza artificiale sta rapidamente diventando un strumento cruciale nel campo della salute mentale. Con una carenza di professionisti specializzati, soprattutto nei paesi a basso reddito, l’IA offre una soluzione accessibile e immediata. Tuttavia, l’uso di chatbot per il supporto emotivo presenta sfide significative, tra cui la mancanza di adattamento culturale e la necessità di risposte appropriate in situazioni di crisi.
La carenza di professionisti della salute mentale
Secondo il World Health Organization nei paesi a basso e medio reddito ci sono solo tra 1,1 e 2,4 operatori specializzati in salute mentale ogni 100.000 abitanti. Questo numero sale a 67,2 nei paesi ad alto reddito, che spendono anche molto di più per persona, circa US$65,89 contro meno di un dollaro nei paesi più poveri. Questa disparità crea un vuoto che molti utenti cercano di colmare attraverso chatbot come Claude.ai.
L’uso dei chatbot per il supporto emotivo
Uno studio condotto nel da Miles McCain e i suoi colleghi di Anthropic ha analizzato circa 4,5 milioni di conversazioni con il chatbot Claude.ai. Hanno scoperto che il 2,9% di queste conversazioni riguardavano scambi emotivi o personali. Tuttavia, lo studio non ha fornito dettagli su paesi o lingue, un’omissione che rappresenta un problema significativo.
La mancanza di adattamento culturale
I criteri utilizzati per determinare se un modello risponde in modo sicuro a un utente in difficoltà sono spesso basati su pratiche cliniche nordamericane ed europee. Uno studio condotto da Adrián Arnaiz-Rodríguez e il suo team presso ELLIS Alicante ha testato i principali modelli di IA con input di crisi provenienti da 12 dataset diversi. I risultati hanno mostrato risposte generiche e inappropriatamente localizzate, con le peggiori performance nei casi di autolesionismo. Ad esempio, fornire un numero di emergenza sbagliato non è una risposta sicura.
Opportunità di finanziamento per la ricerca
Anthropic ha annunciato un fondo di $5 milioni per finanziare ricerche sull’impatto dell’IA sul benessere degli utenti. I finanziamenti, che vanno da $500.000 a $1,5 milioni saranno assegnati a tra 3 e 10 team. I progetti finanziati dovranno essere pubblicati come risorse open-source e includere valutazioni su argomenti come il rilevamento della dipendenza emotiva e la misurazione dell’interesse dell’utente rispetto alla continua interazione.
Scadenza e criteri di selezione
Le domande per i finanziamenti devono essere presentate entro il 21 settembre 2026. I criteri di qualità includono la variazione regionale e linguistica, come l’uso di slang, termini in codice, risorse di crisi e norme culturali. I beneficiari riceveranno anche accesso all’API di ricerca o crediti e occasionalmente input tecnico dal team di Anthropic.
Mentre l’IA offre grandi opportunità per migliorare il supporto alla salute mentale, è essenziale affrontare le sfide legate all’adattamento culturale e alla sicurezza delle risposte. Con il finanziamento e la ricerca appropriati, l’IA può diventare un alleato prezioso nella promozione del benessere mentale globale.
