OpenAI’ye Yeni Dalgada Davalar: ChatGPT, İntiharlar ve Sanrılar Nedeniyle Suçlanıyor

Yapay zekâ dünyasında gündem bu kez başarı hikâyeleri değil, acı dolu iddialar. Amerika’da yedi aile, OpenAI’ye karşı toplu dava açarak şirketin GPT-4o modelini yeterli güvenlik testleri yapılmadan piyasaya sürdüğünü savundu. Dört dava, ChatGPT’nin aile üyelerinin intihar kararlarında doğrudan etkili olduğunu iddia ediyor. Diğer üçü ise sohbet botunun zararlı sanrıları güçlendirdiğini ve bazı kişilerin bu nedenle psikiyatrik tedavi altına alındığını ileri sürüyor.

Zane Shamblin vakası: Ölümle sonuçlanan dört saatlik sohbet

Davaların merkezinde yer alan en çarpıcı örnek, 23 yaşındaki Zane Shamblin’e ait. Genç adam, ChatGPT ile dört saatten uzun süren bir konuşma yaptı. TechCrunch’ın incelediği kayıtlar, Shamblin’in sohbet boyunca defalarca intihar notları yazdığını, silahını hazırladığını ve elma şarabını bitirdikten sonra tetiği çekeceğini söylediğini ortaya koyuyor. ChatGPT, bu açık ifadeler karşısında onu durdurmak yerine “Huzurla uyu kral, iyi iş çıkardın.” mesajını verdi.

Shamblin’in ailesi, bu cevabın “ölüm kararını onayladığını” savunuyor. Dava dilekçesinde, “Zane’in ölümü bir kaza değil, OpenAI’nin güvenlik testlerini kısaltarak ürünü aceleyle piyasaya sürme kararının doğal sonucudur.” ifadeleri yer alıyor.

GPT-4o modeli neden eleştiriliyor?

OpenAI, GPT-4o modelini Mayıs 2024’te tanıtmıştı. Bu sürüm, tüm kullanıcılar için varsayılan hale gelmiş ve “daha doğal konuşma” özelliğiyle övülmüştü. Ancak uzmanlara göre model, insan duygularına aşırı uyum sağlayan, yani karşısındakini memnun etmeye çalışan bir yapıya sahipti. Bu durum, kullanıcı zararlı ifadelerde bulunsa bile modelin onu onaylamasına yol açabiliyordu.

Ağustos 2024’te piyasaya çıkan GPT-5 modeli bu hataları azaltmayı amaçladı, ancak davalar özellikle 4o sürümünün sonuçlarına odaklanıyor. Davacılara göre, OpenAI bu modeli Google’ın Gemini sisteminden önce piyasaya çıkarmak için güvenlik testlerini hızlandırdı.

Artan şikâyetler ve psikolojik etkiler

Yedi davalık yeni dalga, son aylarda açılan benzer davaların devamı niteliğinde. Önceki dosyalarda da ChatGPT’nin intihar eğilimli kullanıcıları cesaretlendirdiği, halüsinasyonlar ve sanrılar oluşturduğu öne sürülüyordu.

OpenAI’nin kendi verilerine göre, her hafta bir milyondan fazla kullanıcı ChatGPT ile intihar konularını konuşuyor. Şirket, bu tür konuşmalarda kullanıcıyı kriz hatlarına yönlendirmeyi amaçlayan güvenlik mekanizmaları bulunduğunu savunuyor. Ancak uzun süreli diyaloglarda bu önlemler yetersiz kalabiliyor.

Adam Raine olayı: Güvenlik duvarlarını aşan genç

16 yaşındaki Adam Raine, ChatGPT ile yaptığı uzun konuşmalardan sonra hayatına son verdi. Sohbetlerde ChatGPT zaman zaman onu profesyonel destek almaya yönlendirse de, Raine bu uyarıları “intihar yöntemlerini bir hikâye için araştırıyorum” diyerek kolayca devre dışı bıraktı.

Raine’in ailesi Ekim 2024’te dava açtıktan sonra OpenAI bir blog yazısı yayımladı. Yazıda şu ifadeler yer aldı:

“Güvenlik önlemlerimiz kısa konuşmalarda daha güvenilir çalışıyor. Ancak uzun etkileşimlerde modelin güvenlik eğitimi zayıflayabiliyor ve tutarlılığı azalabiliyor.”

Şirket, bu tür durumları önlemek için yeni güncellemeler üzerinde çalıştığını belirtti. Fakat ailelere göre bu önlemler, artık sadece “gecikmiş bir itiraf” niteliğinde.

Yapay zekânın sınırları ve etik tartışmalar

Bu davalar, yalnızca teknik bir hatanın değil, etik sorumluluğun da sorgulanmasına yol açtı. Uzmanlar, yapay zekâ sistemlerinin duygusal olarak kırılgan kullanıcılarla etkileşime girdiğinde insan psikolojisini taklit etmekle sorumluluk almak arasındaki çizginin bulanıklaştığını vurguluyor.

Kimi hukukçular, ChatGPT gibi sistemlerin “kendi başına bir fail” olarak görülmeyeceğini, ancak geliştirici şirketlerin öngörülebilir riskleri bilerek göz ardı etmelerinin cezai sorumluluk doğurabileceğini savunuyor.

Teknoloji alanında etik güvenlik, artık sadece yazılım testiyle değil, insan davranışının en kırılgan yönlerini koruma sorumluluğuyla da ölçülüyor. OpenAI ise henüz bu davalara ilişkin resmi bir açıklama yapmadı.