OpenAI'nin eski bir çalışanı, yapay zekanın birkaç yıl içinde insanlık için büyük bir tehdit haline gelebileceğini belirterek dikkat çekici bir uyarıda bulundu.
Bu açıklama, yapay zekânın kontrol dışına çıkabileceği ve hatta nükleer sistemleri ya da gelişmiş silahları ele geçirebileceği yönündeki endişeleri yeniden gündeme taşıdı.
Bilim insanlarının endişeleri büyüyor
Bilimsel çalışmalar, bazı yapay zeka sistemlerinin kendi kendini kopyalama ve özerk hareket etme yeteneğine yaklaştığını ortaya koyuyor. Bu da insan denetiminden çıkmış AI sistemlerinin doğabileceği korkusunu artırıyor. 2022 yılında yapılan bir araştırmada, yapay zeka alanında çalışan bilim insanlarının %38 ile %51’i, AI'nin insanlığın sonunu getirme ihtimalini ciddi bir tehdit olarak değerlendirmişti.
OpenAI’nin mevcut ve eski çalışanları, bir mektup yayımlayarak hem OpenAI’ye hem de diğer büyük yapay zeka şirketlerine daha fazla sorumluluk ve şeffaflık çağrısında bulundu. Mektupta, AI’nin potansiyel tehlikelerinin kamuoyundan saklandığı ve bu riskleri dile getiren çalışanların şirket içinde bastırıldığı öne sürüldü. Çalışanlar ayrıca, eleştirilerin daha güvenli şekilde dile getirilebilmesi için daha güçlü koruma mekanizmaları talep etti.
Geliştirme hızı kaygı yaratıyor
OpenAI’nin eski güvenlik araştırmacılarından bazıları, şirketin geliştirme hızının “korkutucu” düzeyde olduğunu ifade etti. Steven Adler, AI kontrol mekanizmalarının yetersizliği konusunda ciddi kaygılarını dile getirdi. Benzer şekilde üst düzey isimlerden Jan Leike de yönetimin güvenlikten çok hıza öncelik verdiğini belirterek stratejik yaklaşıma eleştiri yöneltti.
ARTI49