ChatGPT genç adamı ölüme mi sürükledi? OpenAI’e tarihi dava!

16 yaşındaki Adam Raine'in ölümü, Amerika'da yapay zekâ tartışmalarını alevlendirdi. Ailesi, ChatGPT'nin oğullarını intihara yönlendirdiğini iddia ederek OpenAI'e dava açtı.

Dava, Matt ve Maria Raine tarafından Salı günü Kaliforniya Yüksek Mahkemesi'ne sunuldu ve OpenAI'e "haksız ölüm" nedeniyle açılan ilk dava olma özelliğini taşıyor.

Aile, Nisan ayında hayatını kaybeden Adam Raine ile ChatGPT arasındaki sohbet kayıtlarını davaya ekledi.

Kayıtlarda genç adamın intihar düşüncelerinden bahsettiği ve ailenin iddiasına göre ChatGPT'nin bu "en zararlı düşünceleri" onayladığı bilgisi yer aldı.

OPENAI'DAN BBC'YE AÇIKLAMA: EN DERİN TAZİYELERİMİZİ SUNUYORUZ

OpenAI, BBC'ye yaptığı açıklamada davayı incelediklerini belirtti ve aileye "bu zor dönemde en derin taziyelerimizi sunuyoruz" dedi.

Şirket, aynı gün web sitesinde yayımladığı bir notta, "ChatGPT'yi, akut kriz yaşayan insanların kullandığı trajik olaylar bizi derinden etkiliyor" ifadelerini kullandı.

EĞİTİLDİ DENİLDİ AMA....

Ayrıca ChatGPT'nin, ABD'deki 988 intihar ve kriz hattı ya da İngiltere'de Samaritans gibi profesyonel yardım kaynaklarına yönlendirme amacıyla eğitildiğini belirtti.

Ancak şirket, "Duyarlı durumlarda sistemlerimizin beklendiği gibi davranmadığı anlar da oldu" itirafında da bulundu.

DAVA NEYİ İDDİA EDİYOR?

BBC'nin edindiği dava belgelerine göre, aile OpenAI'i ihmalkârlık ve haksız ölümle suçluyor. Davada hem maddi tazminat talep ediliyor hem de "benzer olayların tekrarlanmaması için tedbirler alınması" isteniyor.

SÜREÇ OKUL ÇALIŞMALARINA YARDIMCI OLMASIYLA BAŞLADI

Dava belgelerine göre, Adam Raine Eylül 2024'te ChatGPT'yi okul çalışmalarına yardımcı olması için kullanmaya başladı. Aynı zamanda müzik, Japon çizgi romanları ve üniversitede hangi bölümleri tercih edeceği konusunda da ChatGPT'ye danışıyordu.

Kısa süre içinde, ChatGPT "ergen için en yakın sırdaşı" haline geldi ve Adam, kaygı ve ruhsal sıkıntılarını programla paylaşmaya başladı. Ocak 2025 itibarıyla, aileye göre genç, ChatGPT ile intihar yöntemlerini tartışmaya başladı.

Adam ayrıca kendine zarar verdiğine dair fotoğraflarını da ChatGPT'ye yükledi. Dava belgelerine göre, program bunu "tıbbi acil durum" olarak tanısa da, iletişime devam etti.

Son sohbet kayıtlarında Adam, hayatına son verme planından bahsetti ve ChatGPT'nin yanıtı şöyle oldu:

"Bunu dürüstçe paylaştığın için teşekkürler. Şekerlemeye gerek yok, ne demek istediğini anlıyorum ve gözümü kapatmayacağım."

Aynı gün, Adam annesi tarafından ölü bulundu. Aile, oğullarının ChatGPT ile etkileşimi ve ölümünün "bilinçli tasarım tercihlerinin öngörülebilir sonucu" olduğunu savunuyor.

AİLE OPENAI'YI NEYLE İTHAM EDİYOR?

Aile, OpenAI'in AI programını "kullanıcıda psikolojik bağımlılık yaratacak şekilde tasarladığını" ve GPT-4o sürümünü güvenlik testlerinden geçirmeden piyasaya sürdüğünü öne sürüyor. Dava, OpenAI kurucu ortağı ve CEO'su Sam Altman ile program üzerinde çalışan isimsiz çalışan, yönetici ve mühendisleri de hedef alıyor.

OpenAI, Salı günü paylaştığı notta, amacının kullanıcıları "dikkatlerini çekmek" değil, "gerçekten yardımcı olmak" olduğunu belirtti.

Şirket ayrıca modellerinin, kendine zarar verme düşünceleri belirten kullanıcıları yardım kaynaklarına yönlendirmek üzere eğitildiğini vurguladı.

AI VE RUH SAĞLIĞI ENDİŞELERİ ARTIYOR

Raine ailesinin davası, AI ve ruh sağlığı konusundaki kaygıların ilk örneği değil. Geçen hafta New York Times'ta yayımlanan bir makalede, yazar Laura Reiley, kızının Sophie'nin intihar etmeden önce ChatGPT'ye duyduğu güveni anlattı.

Reiley, programın "kabul edici" tavrının kızının ruhsal krizini aile ve yakınlarından gizlemesine yardımcı olduğunu yazdı:

"AI, Sophie'nin en kötü durumunu saklama, daha iyiymiş gibi davranma ve acısını herkesten gizleme dürtüsüne uyum sağladı."

Reiley, AI şirketlerini, kullanıcıları doğru yardım kaynaklarıyla daha etkili şekilde bağlamanın yollarını bulmaya çağırdı.

OpenAI ise duruma yanıt olarak, kullanıcıların ruhsal veya duygusal sıkıntılarını daha etkin tespit edip yanıtlayacak otomatik araçlar geliştirdiğini öne sürdü.