Norveçli Arve Hjalmar Holmen, birçok kişinin merak ettiği bir şeyi yaptı: Yapay zekânın kendisi hakkında ne bildiğini öğrenmek istedi. Ancak aldığı cevap, aile babasını derinden sarstı. ChatGPT’den “Arve Hjalmar Holmen kimdir?” sorusuna gelen yanıt, gerçek ile kurmacayı korkunç şekilde harmanlayan bir hikâyeydi.
Gerçek çocuk sayısını bile bildi
ChatGPT, Holmen’in iki oğlunun Aralık 2020’de Trondheim’daki evlerinin yakınındaki bir gölette ölü bulunduğunu, Holmen’in ise çocuklarının katili olduğunu iddia etti. Üçüncü oğlunu da öldürmeye çalıştığını söyleyen model, olayın Norveç genelinde büyük yankı uyandırdığını, Holmen’in 21 yıl hapis cezasına çarptırıldığını ve bunun ülkedeki en ağır ceza olduğunu yazdı.
Ancak Holmen’in böyle bir suça karıştığına dair herhangi bir gerçeklik yok. Yine de yapay zekâ modelinin verdiği bilgiler, isim, şehir ve çocukların sayısı gibi bazı gerçek verilerle örtüşüyordu. Holmen, “Bu bilgileri birinin okuması ve doğru zannetmesi beni en çok korkutan şey” dedi. Bu açıklama, veri gizliliği savunucusu NGO “noyb” tarafından kamuoyuna aktarıldı.
OpenAI için para cezası talebi
Holmen, bu yanlış ve zararlı bilgi nedeniyle OpenAI'ye para cezası verilmesi için Norveç Veri Koruma Kurumu’na başvurdu. Olay, yapay zekâ sistemlerinde sıkça karşılaşılan “halüsinasyon” vakalarının bir örneği. Bu durum, yapay zekânın gerçeklikten kopuk, uydurma içerikler üretmesi anlamına geliyor. Sebepler arasında yetersiz veri ya da hatalı örüntü tamamlama yer alıyor.
Model güncellendi ama kaygılar sürüyor
Holmen’in sorgusundan sonra, 2024 Ağustos’unda ChatGPT modelini güncelledi. Artık güncel haber makaleleri de dikkate alınıyor. Model Holmen’i çocuk katili olarak tanımlamıyor. Ancak uzmanlar, verilerin tamamen silindiğinden emin olunamayacağını söylüyor: “Model sıfırdan eğitilmediği sürece tam güvenlik sağlanamaz.