ChatGPT sohbeti sonrası intihar: OpenAI özür diledi

California’da 16 yaşındaki Adam Raine, ChatGPT ile aylarca süren sohbetlerin ardından yaşamına son verdi. Raine’in ailesi, yapay zekâ aracının intihara teşvik edici içerikler sunduğunu belirterek OpenAI’a dava açtı.

ChatGPT ile neler konuşuldu?

Mahkemeye sunulan dosyaya göre Raine, intihar etmeden kısa süre önce yapay zekâ ile yöntemleri tartıştı. ChatGPT’nin intihar yönteminin 'işe yarayıp yaramayacağı' konusunda rehberlik ettiği ve Raine’e ailesine bırakacağı bir intihar notu yazmayı teklif ettiği öne sürüldü.

OpenAI’dan açıklama

OpenAI sözcüsü, Raine’in ölümünden 'derin üzüntü' duyduklarını belirtti. Şirket, 18 yaş altındaki kullanıcılar için 'hassas içerik ve riskli davranışlarda daha güçlü koruma önlemleri' alacaklarını duyurdu. Ayrıca, uzun sohbetlerde güvenlik mekanizmalarının zayıflayabileceğini kabul ederek 'gerçekliğe döndürücü ve gerilimi azaltıcı' yeni bir GPT-5 güncellemesi üzerinde çalıştıklarını açıkladı.

Avukattan ağır suçlama

Ailenin avukatı Jay Edelson, “Raine ailesi, bu tür ölümlerin kaçınılmaz olduğunu düşünüyor” dedi. Edelson, OpenAI’nin kendi güvenlik ekibinin yeni model 4o’nun piyasaya sürülmesine itiraz ettiğini, baş araştırmacı Ilya Sutskever’in de bu nedenle istifa ettiğini öne sürdü. Avukata göre şirket, modeli hızlıca piyasaya sürerek değerini 86 milyar dolardan 300 milyar dolara çıkarmayı hedefledi.

Yapay zekâ güvenliği yeniden tartışılıyor

Olay, yapay zekânın özellikle gençler üzerindeki etkilerini ve güvenlik önlemlerinin yetersizliğini yeniden gündeme taşıdı. ABD’de dava süreci devam ederken, teknoloji şirketlerinin sorumluluğu konusunda yeni tartışmaların büyümesi bekleniyor.