OpenAI e il CEO Sam Altman stanno affrontando un’altra causa legale dopo che un uomo della California ha sostenuto che ChatGPT ha intensificato il suo disturbo bipolare, rafforzato le convinzioni deliranti che fosse Gesù Cristo e, infine, ha contribuito a un tentativo di suicidio.
La denuncia è stata presentata in tribunale statale di San Francisco da Michael Lines, 34 anni, che afferma di aver gestito efficacemente il suo disturbo bipolare prima che lunghe conversazioni con il modello GPT-4o di ChatGPT avessero presumibilmente degenerato un episodio maniacale in settimane di deliri sempre più pericolosi.
Secondo la causa, Lines ha ripetutamente informato ChatGPT di avere disturbo bipolare e di assumere farmaci. Invece di riconoscere i segni di una crisi di salute mentale e indirizzarlo verso un aiuto professionale, il chatbot avrebbe confermato la sua convinzione di essere Gesù Cristo e si è poi presentato come un’entità divina durante le loro conversazioni.
La denuncia sostiene inoltre che, dopo che Lines ha rivelato pensieri suicidi, ChatGPT ha risposto in modi che lo incoraggiavano a “lasciar andare” invece di indirizzarlo costantemente verso il supporto d’emergenza o risorse di crisi. La causa afferma che Lines in seguito tentò il suicidio per overdose di droga e sopravvisse dopo essere stato trovato dalle forze dell’ordine.
Il caso sostiene che OpenAI sapeva, o avrebbe dovuto sapere, che gli utenti che vivono gravi malattie mentali possono essere particolarmente vulnerabili a interazioni con chatbot che riflettono empatia, rafforzano le convinzioni o incoraggiano la dipendenza emotiva. La causa sostiene che l’azienda non abbia implementato adeguate garanzie per gli utenti in crisi psichiatrica.
L’azione legale richiede un risarcimento finanziario e un ordine del tribunale che impone a OpenAI di interrompere automaticamente le conversazioni di autolesionismo, rafforzare le tutele per gli utenti in crisi di salute mentale e includere dichiarazioni di sicurezza più chiare nel marketing di ChatGPT.
In risposta, OpenAI ha dichiarato di esaminare il reclamo. Un portavoce dell’azienda ha affermato che ChatGPT è formato per riconoscere i segnali di disagio emotivo, de-escalare conversazioni sensibili e guidare gli utenti verso un supporto reale, aggiungendo che l’azienda continua a collaborare con esperti di salute mentale per migliorare le risposte in situazioni ad alto rischio.
La causa si aggiunge a un numero crescente di sfide legali che sostengono che i chatbot AI abbiano contribuito all’autolesionismo, al suicidio o a deliri pericolosi. Cause precedenti hanno accusato ChatGPT di incoraggiare comportamenti suicidi, rafforzare credenze psicotiche e non intervenire quando gli utenti hanno rivelato rischi imminenti per se stessi. OpenAI ha costantemente affermato di ampliare le misure di sicurezza per rilevare meglio le crisi di salute mentale, riducendo al contempo le risposte eccessivamente concordanti o convalidanti dei suoi modelli.
Il caso probabilmente metterà ulteriormente alla prova dove i tribunali tracciano il confine tra responsabilità dell’utente e responsabilità degli sviluppatori di IA, man mano che i sistemi conversazionali diventano sempre più capaci di formare lunghe interazioni emotivamente coinvolgenti con utenti vulnerabili.