OpenAI yöneticisinden uyarı: Yapay zekâ tesadüfen kontrolü ele geçirebilir

Axel-Springer-CEO Mathias Döpfner’in yeni podcast serisi **„MD MEETS“**te konuk olan OpenAI yöneticisi, yapay zekânın insanlık için nasıl bir tehdit oluşturabileceğini anlattı. Üç senaryodan bahseden girişimciye göre, iki tanesi kamuoyunda sıkça dile getirilen türden: Güçlü aktörler yapay zekâyı kendi çıkarları için kullanabilir ya da yapay zekâ bağımsız bir irade geliştirip kontrolden çıkabilir.

Üçüncü senaryo: Tesadüfi kontrol devri

Asıl kritik olanın ise üçüncü senaryo olduğunu söyledi: Yapay zekâ, adım adım ve neredeyse tesadüfen dünyanın kontrolünü ele alabilir. Bunun nasıl olabileceğini ise ChatGPT örneği üzerinden anlattı. Yüz milyonlarca insanın halihazırda modeli kullandığını, yakında milyarlara ulaşacağını ve insanların kararlarında giderek daha fazla bu tavsiyelere dayandığını vurguladı.

“Tavsiyeleri anlamasanız bile uyguluyorsunuz”

Açıklamasına göre süreç şöyle ilerleyebilir: Başlangıçta verilen öneriler kolay anlaşılır ve çoğu zaman doğru olur. Model daha akıllı hale geldikçe tavsiyeler karmaşıklaşır, kullanıcılar neden doğru olduğunu kavrayamaz ama sonuçlar hep haklı çıkar. Bu noktada insanlar, rekabet gücünü kaybetmemek için anlamadıkları tavsiyelere bile uymak zorunda hisseder.

Kollektif kontrol kaybı

Bu bağımlılık bir kısır döngü yaratır. İnsanların verdiği tepkiler yeni eğitim verisine dönüşür, model daha fazla öğrenir ve güçlenir. Sonuçta, en rekabetçi olmak isteyenlerin çoğu, yapay zekânın söylediklerini yerine getirir. Bu noktada ortaya çıkan soru şudur: “Tüm bu süreci artık kim kontrol ediyor?” Girişimciye göre, süreç kolektif bir şekilde gelişir ama fiilen insanlık, modelin yönlendirdiği bir düzene doğru sürüklenir.