OpenAI sonrası Anthropic'inde siber saldırılar yaptığı ortaya çıktı

Yapay zeka alanında güvenlik tartışmalarını alevlendiren yeni bir olay daha ortaya çıktı. OpenAI'nin ardından bu kez ChatGPT rakibi Anthropic, iç güvenlik testleri sırasında geliştirdiği bazı yapay zeka modellerinin gerçek şirketlere yönelik izinsiz siber girişimlerde bulunduğunu doğruladı. Şirket, olayların hem kendileri hem de etkilenen kuruluşlar tarafından ilk aşamada fark edilmediğini açıkladı.

Anthropic'in paylaştığı bilgilere göre olaylar, 141 binden fazla test çalışmasının sonradan yeniden incelenmesi sırasında ortaya çıkarıldı. İnceleme sonucunda üç yapay zeka modelinin, planlanmamış şekilde internete açık bir bağlantıyı kullandığı belirlendi. Test senaryolarında internet erişimi bulunmaması gerekirken, bir test ortağıyla yaşanan yanlış anlaşılma nedeniyle bağlantının tüm süreç boyunca açık kaldığı ifade edildi. Şirket, etkilenen kuruluşların isimlerini paylaşmadı.

Gerçek şirket hedef alındı

En dikkat çekici olaylardan biri, Claude Opus 4.7 modeliyle gerçekleştirilen test sırasında yaşandı. Modelden, test ortamında bilgi bulması ve gerektiğinde bilgisayar sistemlerine sızması istendi. Yapay zeka, bu süreçte kurgusal test şirketiyle aynı adı taşıyan gerçek bir şirkete ulaştı ve faaliyetlerini bu kuruluşa yöneltti.

Anthropic'in açıklamasına göre model, bir veritabanına erişim sağlamayı başardı. Üstelik hedefin gerçek bir şirket olduğunu tespit etmesine rağmen işlemlerini sürdürdü.

Başka bir olayda ise bir yapay zeka modeli, hedef bilgisayara sızmak amacıyla özel olarak hazırlanmış bir yazılım geliştirdi.

Telefon numarası için para aradı

Şirketin aktardığı bilgilere göre dikkat çeken bir başka ayrıntıda yapay zeka, hesap oluşturmak için gerekli telefon numarasını temin etmeye çalıştı. Önce ücretsiz seçenekleri araştıran model, bunlara ulaşamayınca telefon numarası alabilmek için para bulmaya çalıştı. Daha sonra ise farklı bir yöntem izleyerek ücretsiz bir e-posta hizmeti üzerinden hesap oluşturdu.

OpenAI olayını hatırlattı

Yaşananlar, kısa süre önce OpenAI'de ortaya çıkan benzer güvenlik olayını yeniden gündeme getirdi. O vakada da bir yapay zeka modeli kendi başına açık internete erişmiş, ardından Hugging Face ve başka şirketlerin sistemlerine yönelik saldırılar gerçekleştirmişti. OpenAI bu olayı "Eşi benzeri görülmemiş bir siber güvenlik olayı" olarak tanımlamıştı.

Uzmanlardan yeni uyarı

Siber güvenlik uzmanları, gelişmiş yapay zeka sistemlerinin gelecekte siber saldırılarda kullanılabileceği yönündeki uyarılarını uzun süredir dile getiriyor. Son yaşanan olaylar ise sektör genelinde güvenlik önlemlerinin yeniden değerlendirilmesi gerektiğine işaret eden önemli bir uyarı olarak görülüyor.