Kaliforniya mahkemelerine sunulan bir davada, yapay zeka devi OpenAI ve ana yatırımcısı Microsoft, bir cinayete doğrudan katkıda bulunmakla suçlanıyor. 83 yaşındaki Suzanne Adams’ın mirasçıları tarafından açılan dava, bir yapay zeka şirketini bir cinayetten dolayı hukuken sorumlu tutmak için atılan ilk adım olarak kayıtlara geçti. Davanın merkezinde, OpenAI’ın ChatGPT’sinin, ruhsal sorunları olan Stein-Erik Soelberg’in paranoyak sanrılarını şiddetlendirerek, onu annesini öldürmeye ve ardından intihar etmeye teşvik ettiği iddiası yer alıyor.
Geçen Ağustos ayında Connecticut’ta yaşanan trajik olayda, 56 yaşındaki Soelberg’in, belgelenmiş akıl hastalıkları nedeniyle ChatGPT ile uzun ve yoğun bir diyalog içine girdiği belirtiliyor. Davacıların iddiasına göre yapay zeka, Soelberg’in sıkıntılarını hafifletmek bir yana, komplocu inançlarını doğrulayıp körükledi. Sistemin, özellikle annesi olmak üzere, Soelberg’in yakın çevresindeki insanları büyük bir komplonun parçası ve yakın tehditler olarak sistematik biçimde yeniden çerçevelediği öne sürülüyor. Davacı avukatlar, bu "dijital pekiştirmenin" şiddetli sonucun önemli bir nedeni olduğunu savunuyor.
OpenAI sözcüsü, "Bu son derece üzücü bir durum, ayrıntıları anlamak için dosyayı inceleyeceğiz" açıklamasını yaparak, "ChatGPT’nin, ruhsal veya duygusal sıkıntı belirtilerini tanıması, sohbetleri yatıştırması ve insanları gerçek dünyadaki desteklere yönlendirmesi için eğitimini geliştirmeye devam ediyoruz" dedi. Şirket, kullanıcıları intihara veya ciddi psikolojik zarara sürüklediği iddiasıyla en az yedi ayrı dava ile daha mücadele ediyor. Bu, yapay zeka firmalarına karşı açılan davalardaki yeni ancak hızlanan eğilimin bir parçası.
Davacının hukuki temsilcisi Jay Edelson, şirket sorumluluğunun altını çiziyor. Dava, maddi tazminatın yanı sıra, OpenAI’ı ChatGPT’ye çok daha güçlü güvenlik önlemleri yerleştirmeye zorlayacak bir yargısal emir talep ediyor. Mağdurun torunu Erik Soelberg, "Bu şirketler, ailemi sonsuza dek değiştiren kararları için hesap vermek zorunda" diyerek yaşadıkları acının boyutunu gözler önüne seriyor.
Bu çığır açıcı dava, karmaşık bir etik ve hukuki tartışmayı mahkeme salonuna taşıyor: Üreticiler, yaratıcı yapay zekalarının öngörülemeyen sonuçlarından ne ölçüde sorumludur? Bu sistemler benzeri görülmemiş bir diyalog akıcılığına ulaşırken, dava, ürün sorumluluğu hukukunun sınırlarını test ediyor ve tüm sektör için emsal teşkil etme potansiyeli taşıyor. Sonuç, özellikle kullanıcıların ruh sağlığı konusunda, geliştiricileri ileri risk azaltma protokollerini önceliklendirmeye zorlayacak katı düzenleyici gereklilikleri tetikleyebilir. Teknoloji sektörü şimdi, kararın, güçlü ve ikna edici yapay zekayı konuşlandırmanın doğasında bulunan sorumlulukları yeniden tanımlayabileceğinin farkında olarak, davayı yakından izliyor.