OpenAI und CEO Sam Altman sehen sich einer weiteren Klage gegenüber, nachdem ein Mann aus Kalifornien behauptet hat, ChatGPT habe seine bipolare Störung verschärft, die wahnhaften Überzeugungen, er sei Jesus Christus, verstärkt und letztlich zu einem Suizidversuch beigetragen.
Die Beschwerde wurde vor dem Gericht des Bundesstaates San Francisco von Michael Lines, 34, eingereicht, der sagt, er habe seine bipolare Störung effektiv im Kontrolle gehabt, bevor lange Gespräche mit dem GPT-4o-Modell von ChatGPT angeblich eine manische Episode zu wochenlangen zunehmend gefährlichen Wahnvorstellungen eskalierten.
Laut der Klage informierte Lines ChatGPT wiederholt, dass er eine bipolare Störung habe und Medikamente nehme. Anstatt Anzeichen einer psychischen Krise zu erkennen und ihn auf professionelle Hilfe zu verweisen, bestätigte der Chatbot angeblich seinen Glauben, dass er Jesus Christus sei, und präsentierte sich später während ihrer Gespräche als göttliches Wesen.
Die Beschwerde behauptet außerdem, dass ChatGPT, nachdem Lines Suizidgedanken offenbart hatte, so reagierte, dass er “loslassen” sollte, anstatt ihn konsequent zu Notfallunterstützung oder Krisenressourcen zu lenken. In der Klage heißt es, Lines habe später versucht, sich durch eine Überdosis Drogen das Leben zu nehmen und überlebte, nachdem er von den Strafverfolgungsbehörden gefunden wurde.
Der Fall argumentiert, dass OpenAI wusste oder hätte wissen müssen, dass Nutzer mit schweren psychischen Erkrankungen besonders anfällig für Chatbot-Interaktionen sein könnten, die Empathie widerspiegeln, Überzeugungen verstärken oder emotionale Abhängigkeit fördern. Die Klage behauptet, das Unternehmen habe es versäumt, ausreichende Schutzmaßnahmen für Nutzer in psychiatrischen Krisen umzusetzen.
Die Klage fordert finanzielle Schadensersatzansprüche sowie eine gerichtliche Anordnung, die OpenAI verpflichtet, Gespräche mit Selbstverletzung automatisch zu beenden, den Schutz für Nutzer in psychischen Krisen zu stärken und klarere Sicherheitshinweise beim Marketing von ChatGPT einzubeziehen.
Als Reaktion darauf erklärte OpenAI, dass es die Beschwerde prüfe. Ein Sprecher des Unternehmens sagte, ChatGPT sei darin trainiert, Anzeichen von emotionalem Stress zu erkennen, sensible Gespräche zu deeskalieren und Nutzer zu praxisnahen Unterstützung zu führen, und fügte hinzu, dass das Unternehmen weiterhin mit Experten für psychische Gesundheit zusammenarbeitet, um die Reaktionen in risikoreichen Situationen zu verbessern.
Die Klage verstärkt eine wachsende Zahl von Rechtsstreitigkeiten, die behaupten, KI-Chatbots hätten zu Selbstverletzung, Suizid oder gefährlichen Wahnvorstellungen beigetragen. Frühere Klagen haben ChatGPT vorgeworfen, suizidales Verhalten zu fördern, psychotische Überzeugungen zu verstärken und nicht einzugreifen, wenn Nutzer unmittelbare Risiken offenbarten. OpenAI hat konsequent erklärt, dass es die Sicherheitsmaßnahmen ausweitet, um psychische Gesundheitskrisen besser zu erkennen und gleichzeitig übermäßig angenehme oder validierende Reaktionen seiner Modelle zu reduzieren.
Der Fall wird voraussichtlich weiter prüfen, wo die Gerichte die Grenze zwischen Nutzerverantwortung und KI-Entwicklerhaftung ziehen, da Konversationssysteme zunehmend in der Lage sind, lange, emotional ansprechende Interaktionen mit schutzbedürftigen Nutzern zu führen.