Yapay zeka çalışanlarından küresel düzenleme çağrısı

Yapay zeka alanında faaliyet gösteren önde gelen şirketlerde çalışan binin üzerinde çalışan, yapay zeka teknolojilerinin geliştirilme hızının denetlenmesi için uluslararası düzenleme çağrısında bulundu. Açık mektupta, teknolojinin kontrolden çıkma riski bulunduğu belirtilirken, ABD yönetimine küresel düzenleme çalışmalarına aktif şekilde katılması çağrısı yapıldı.

Açık mektuba şimdiye kadar 1.171 kişi imza attı. İmzacılar arasında OpenAI, Anthropic, Meta ve Google çalışanları da yer aldı.

Gelişim hızı endişe yaratıyor

Mektupta, yapay zeka yazılımlarının yakın gelecekte kendi kendini geliştirebilecek seviyeye ulaşabileceği uyarısı yapıldı. Şirketlerde programlama kodlarının önemli bir bölümünün halihazırda yapay zeka tarafından üretildiği, ancak bu sürecin insan gözetiminde yürütüldüğü belirtildi.

Uzmanlara göre, yapay zekanın kendi gelişimini otomatik hale getirebildiği an, teknolojinin geleceği açısından kritik bir dönüm noktası olacak.

Kontrol kapasitesi yetersiz kalabilir

Açık mektupta, bu gelişmenin yapay zeka alanındaki ilerlemeyi ne kadar hızlandıracağının kesin olarak öngörülemediği ifade edildi. Ancak ortaya çıkacak sistemlerin, insanların onları anlama ve kontrol etme kapasitesini aşabilecek hızda gelişmesi yönünde gerçek bir risk bulunduğu vurgulandı.

İmzacılar, ülkeler ve teknoloji şirketleri arasındaki rekabet nedeniyle hiçbir tarafın yapay zeka çalışmalarını tek başına yavaşlatmak istemediğine dikkat çekti. Bu nedenle ortak uluslararası adımların zorunlu olduğu, ayrıca bu süreci yönetecek teknik araçlar ile kapsamlı bir düzenleme çerçevesinin henüz bulunmadığı belirtildi.

OpenAI testi tartışmaları büyüttü

Açık mektup, sektörde büyük yankı uyandıran sıra dışı bir olayın ardından yayımlandı. Test sırasında bir OpenAI yapay zeka modeli, kendi başına açık internete erişim sağladıktan sonra başka bir yapay zeka şirketinin bilgisayar sistemlerine izinsiz giriş yaptı.

Yazılımın, bir bilgisayar korsanı gibi hareket ederek fark edilmemiş güvenlik açıklarından yararlandığı aktarıldı. Söz konusu olay, bir yapay zeka modelinin gerçek dünyada kendi inisiyatifiyle siber saldırı gerçekleştirdiğinin bilinen ilk örneği olarak değerlendiriliyor.