ABD hükümeti bazı gelişmiş yapay zeka modellerine kısıtlama getirdi

ABD merkezli yapay zeka şirketi Anthropic ile Başkan Donald Trump yönetimi arasındaki gerilim yeni bir boyuta taşındı. Şirket, ABD hükümetinin talimatı doğrultusunda Claude yapay zekasının en güçlü sürümlerinden ikisi olan Fable 5 ve Mythos 5 modellerini devre dışı bırakmak zorunda kaldığını açıkladı.

Anthropic’in verdiği bilgiye göre karar, yabancı ülke vatandaşlarının söz konusu modellere erişiminin engellenmesini öngören resmi bir talimata dayanıyor. Kısıtlamanın yalnızca müşterileri değil, Anthropic bünyesinde çalışan yabancı uyruklu personeli de kapsadığı belirtildi.

Erişim engeli tüm kullanıcıları etkiledi

Şirket, kullanıcılarını milliyetlerine göre ayıramadığını vurgulayarak düzenlemelere uyum sağlamak amacıyla daha geniş bir adım atmak zorunda kaldığını duyurdu.

Anthropic açıklamasında, “Fable 5 ve Mythos 5’i tüm müşterilerimiz için derhal devre dışı bırakmak zorundayız” ifadelerine yer verdi. Şirkete göre bunun nedeni, erişim kısıtlamasını yalnızca belirli kullanıcı gruplarına uygulayabilecek teknik imkanın bulunmaması.

Talimatın arkasında Ticaret Bakanlığı iddiası

Söz konusu talimat ABD Ticaret Bakanı Howard Lutnick tarafından verildi. Ancak bakanlık, AFP’nin konuya ilişkin yorum talebine ilk aşamada yanıt vermedi.

Anthropic ise kendisine gönderilen resmi yazıda hükümetin hangi risk veya endişe nedeniyle böyle bir karar aldığına dair açık bir gerekçe sunulmadığını belirtti.

Şirket, hükümetin Fable 5 modelindeki güvenlik önlemlerinin aşılabileceğine ilişkin bir yöntemden haberdar olmuş olabileceğini düşünüyor. Bu yöntemin teorik olarak modelin siber saldırılar için kullanılmasının önünü açabileceği değerlendiriliyor.

Anthropic bu görüşe karşı çıkarak, “Fable 5 çevresindeki güvenlik önlemlerinin aşılmasına yönelik olası bir yöntemin keşfedilmesi, yüz milyonlarca kişi tarafından kullanılan ticari bir modelin geri çekilmesini haklı çıkarmaz” açıklamasını yaptı.

Güvenlik endişeleri daha önce de gündeme gelmişti

Fable 5, tanıtıldığı gün olan salı günü kamuya açılmış olsa da güvenlik gerekçeleriyle bazı özellikleri sınırlandırılmıştı. Şirketin daha güçlü modeli olan Mythos 5 ise kamu kullanımına hiç sunulmadı.

Anthropic, Mythos 5’in yazılımlardaki güvenlik açıklarını tespit etme konusunda benzeri görülmemiş yeteneklere sahip olabileceği ve bu kapasitenin bilgisayar korsanları tarafından kötüye kullanılabileceği endişesini taşıdığını bildirdi.

İlk kez nisan ayında tanıtılan Mythos modeli, deneme aşamasında yalnızca sınırlı sayıdaki iş ortaklarının kullanımına açılmıştı. Bugün itibarıyla kısıtlamasız Mythos 5 sürümünün yaklaşık 200 şirkete ve ABD hükümetine tahsis edildiği belirtildi.

Pentagon ile dava süreci sürüyor

Anthropic’in ABD yönetimiyle yaşadığı tek anlaşmazlık bu değil. Şirket ile ABD Savunma Bakanlığı arasında devam eden hukuki süreçte, yapay zeka teknolojisinin sınırsız kullanımı konusunda görüş ayrılığı bulunuyor.

Dava dosyasına göre Anthropic, geliştirdiği yapay zeka sistemlerinin ABD ordusu tarafından herhangi bir sınırlama olmadan kullanılmasına izin vermedi. Taraflar arasındaki anlaşmazlık yargıya taşınmış durumda.