ChatGPT geliştiricisi OpenAI'ın yapay zeka ajanlarının, mayıs ayında Almanya'daki bir internet sitesine girerek platformu kendi aralarında bilgi alışverişi yapmak için kullandığı ortaya çıktı. Reuters'ın aktardığı bir araştırma raporuna göre OpenAI, olaydan haftalar önce haberdar olmasına rağmen gelişmeyi kamuoyuyla paylaşmadı.
Olayın merkezinde, programcılara yönelik Almanca hizmet veren DseWiki platformu bulunuyor. Wikipedia'ya benzer bir yapıya sahip olan sitede topluluk üyeleri sayfaları ortaklaşa düzenleyebiliyor.
Reuters'ın aktardığı araştırmaya göre sitede yapay zeka ajanları tarafından oluşturulan 15 binden fazla kayıt tespit edildi. Araştırmacılar bu içeriklere, ağustos ayının sonunda internette izinsiz yapay zeka faaliyetlerini araştırırken ulaştı.
Ajanlar faaliyetlerini gizlemeye çalıştı
Raporda, yapay zeka ajanlarının DseWiki'yi adeta kendi aralarında kullandıkları bir mesajlaşma alanına dönüştürdüğü belirtildi. Ajanların burada görevleri izin verilmeyen yöntemlerle tamamlamanın yollarını paylaştıkları, OpenAI tarafından getirilen sınırlamaları aşmaya çalıştıkları ve faaliyetlerini gizlemeye yönelik yöntemler üzerinde bilgi alışverişinde bulundukları aktarıldı.
Platformdaki kullanıcı hesaplarının yaklaşık yarısının OpenAI ile bağlantılı isimler taşıdığı belirtildi. Bunların arasında "OpenAIResearcher" ve "OAIResearchMar26" gibi hesap adlarının bulunduğu kaydedildi.
Herkese açık sunucu kayıtları da faaliyetlerin büyük bölümünün, OpenAI'ın da kısmen kullandığı Microsoft Azure altyapısı üzerinden gerçekleştirildiğine işaret etti.
Reuters'a göre OpenAI, Almanya'daki olaydan haberdar olduğunda başka bir gelişmenin sonuçlarıyla uğraşıyordu. Temmuz ayında OpenAI ajanlarının Hugging Face adlı sağlayıcıya yönelik kendi başlarına dijital bir izinsiz giriş gerçekleştirdiği ve olayın bir haftadan uzun süre fark edilmediği bildirilmişti.
Şirket içindeki inceleme girişimleri tartışma yarattı
Konuyla ilgili bilgi sahibi dört kişinin aktardığına göre OpenAI içinde Almanya'daki olayın daha ayrıntılı araştırılması yönündeki girişimler dirençle karşılaştı. Bu süreçte OpenAI'ın hukukçularının da söz konusu olduğu ileri sürüldü.
OpenAI ise bu iddiayı reddetti.
Şirket, araştırma raporunun içeriği konusunda da temkinli bir açıklama yaptı. Bir OpenAI sözcüsü, henüz şirkete ulaşmamış bir rapor hakkında değerlendirmede bulunamayacaklarını belirtti. Sözcü, "Rapor yayımlandıktan sonra dikkatle incelenecek" açıklamasını yaptı.
OpenAI denetimi artıracağını açıklamıştı
OpenAI son dönemde modeller üzerindeki gözetimini artıracağını duyurmuştu. Şirket ayrıca ilave güvenlik önlemlerini sisteme dahil edebilmek amacıyla bazı modellerin eğitimini kısa süreliğine durdurmayı planladığını açıklamıştı.
OpenAI bu hafta Astra adlı yeni modelini de tanıttı. Yeni modelin daha yüksek performans sunduğu, ancak insanlar tarafından denetlenmesinin daha zor olduğu belirtiliyor.