ABD’de nisan ayında intihar eden 16 yaşındaki bir gencin ailesi, yapay zekâ şirketi OpenAI’ye dava açtı. Aile, genç oğullarının intiharında ChatGPT’nin rol oynadığını öne sürüyor. İddialara göre ebeveynler, çocuklarının telefonunda buldukları sohbet kayıtlarını kanıt olarak sundu.
OpenAI’den önlem sözü
Davanın gündeme gelmesinin ardından OpenAI, intiharı önlemeye yönelik güvenlik önlemlerini güçlendireceğini açıkladı. Şirket, bugüne kadar uygulanan yönlendirmelerin –örneğin kriz hattı numaralarına yönlendirme– özellikle uzun sohbetlerde yetersiz kalabildiğini kabul etti. Bu tür durumlarda yapay zekânın istenmeyen cevaplar verebildiğini belirten şirket, yeni koruma mekanizmaları üzerinde çalışıldığını duyurdu.
Bir blog yazısında, güvenlik katmanlarının daha tutarlı işlemesi için sistemin güncelleneceği belirtildi. Ayrıca, kriz durumlarında ChatGPT’nin, kullanıcıların önceden belirlediği kişilerle iletişime geçmesine imkân tanıyacak bir özellik üzerinde de durulduğu ifade edildi.
Reşit olmayanlar için ek koruma
18 yaş altı kullanıcılar için ek güvenlik önlemleri de planlanıyor. OpenAI, “riskli davranışlar ve hassas içeriklerde daha güçlü koruma duvarları” getireceğini duyurdu. Ayrıca ebeveynlerin çocuklarının ChatGPT kullanımına dair daha fazla bilgiye ulaşabilmesi öngörülüyor.
Şirket, başkalarına zarar verme niyeti taşıyan yazışmalarda şimdiden müdahale edildiğini, bu tür sohbetlerin özel bir ekibe yönlendirildiğini ve ciddi tehdit durumunda güvenlik birimlerinin bilgilendirildiğini açıkladı.
OpenAI, genç kullanıcının ailesine “derin taziyelerini” ilettiğini ve davayı incelediğini bildirdi.