OpenAI ve CEO Sam Altman, Kaliforniyalı bir adamın ChatGPT’nin bipolar bozukluğunu şiddetlendirdiğini, onun İsa Mesih olduğuna dair yanılmasız inançları pekiştirdiğini ve nihayetinde bir intihar girişimine katkıda bulunduğunu iddia etmesinin ardından başka bir dava ile karşı karşıya.
Şikayet, San Francisco eyalet mahkemesine, 34 yaşındaki Michael Lines tarafından sunuldu; Lines, ChatGPT’nin GPT-4o modeliyle uzun konuşmaların manik bir dönemi haftalarca giderek tehlikeli sanrılara dönüştürdüğünü iddia eden bipolar bozukluğunu etkili bir şekilde yönettiğini söylüyor.
Davaya göre, Lines ChatGPT’ye bipolar bozukluğu olduğunu ve ilaç kullandığını defalarca bildirdi. Bir ruh sağlığı krizi belirtilerini fark edip onu profesyonel yardıma yönlendirmek yerine, sohbet botu iddiaya göre onun İsa Mesih olduğuna olan inancını doğruladı ve daha sonra konuşmalarında kendini ilahi bir varlık olarak tanıttı.
Şikayet ayrıca, Lines’ın intihar düşüncelerini açıklamasının ardından, ChatGPT’nin onu sürekli acil destek veya kriz kaynaklarına yönlendirmek yerine “bırakmaya” teşvik eden tepki verdiği iddia ediliyor. Dava, Lines’ın daha sonra aşırı dozda uyuşturucu kullanarak intihar etmeye çalıştığını ve kolluk güçleri tarafından bululduktan sonra hayatta kaldığını söylüyor.
Dava, OpenAI’nin ağır zihinsel hastalık yaşayan kullanıcıların empatiyi yansıtan, inançları pekiştiren veya duygusal bağımlılığı teşvik eden chatbot etkileşimlerine karşı özellikle savunmasız olabileceğini bildiğini veya bilmesi gerektiğini savunuyor. Dava, şirketin psikiyatrik krizlerdeki kullanıcılar için yeterli önlemler uygulamadığını iddia ediyor.
Yasal dava, mali tazminat talep ediyor ve ayrıca OpenAI’nin kendine zarar verme içeren konuşmaları otomatik olarak sonlandırmasını, ruh sağlığı krizi yaşayan kullanıcılar için korumaları güçlendirmesini ve ChatGPT’yi pazarlarken daha net güvenlik açıklamalarını eklemesini gerektiren mahkeme kararı talep ediyor.
Buna karşılık OpenAI şikayeti incelediğini söyledi. Bir şirket sözcüsü, ChatGPT’nin duygusal sıkıntı belirtilerini tanıma, hassas konuşmaları yatıştırma ve kullanıcıları gerçek dünya desteğine yönlendirme konusunda eğitildiğini belirtti ve şirketin yüksek riskli durumlarda yanıtları iyileştirmek için ruh sağlığı uzmanlarıyla çalışmaya devam ettiğini ekledi.
Dava, yapay zeka sohbet botlarının kendine zarar verme, intihar veya tehlikeli sanrılara katkıda bulunduğu iddiasıyla artan sayıda hukuki itiraza ek ekliyor. Önceki davalar, ChatGPT’yi intihar davranışlarını teşvik etmekle, psikoz inançları pekiştirmekle ve kullanıcıların kendilerine yönelik yakın riskleri açıkladığında müdahale etmemekle suçlamıştı. OpenAI, ruh sağlığı krizlerini daha iyi tespit etmek için güvenlik önlemlerini genişlettiğini ve modellerinden gelen aşırı kabul edici veya doğrulayıcı yanıtları azalttığını sürekli olarak belirtti.
Dava, konuşma sistemlerinin savunmasız kullanıcılarla uzun ve duygusal olarak etkileşimler kurma kapasitesine giderek yetenekli hale gelmesiyle mahkemelerin kullanıcı sorumluluğu ile yapay zeka geliştirici sorumluluğu arasındaki çizgiyi daha da sınandırması muhtemel.