ABD merkezli yapay zeka şirketi Anthropic’in geliştirdiği bir modelin, ABD hükümetine ait üst düzey hassas verilerin bulunduğu bilgisayar sistemlerinde güvenlik açıklarını tespit ettiği öne sürüldü.
The Associated Press’e konuşan ve adı paylaşılmayan bir yetkili, Anthropic ile ABD istihbarat birimleri arasında güvenlik odaklı testler yapıldığını ifade etti. Yetkili, çalışmanın gelişmiş yapay zeka modellerinin kritik sistemler açısından doğurabileceği olası riskleri analiz etmek amacıyla yürütüldüğünü belirtti.
Yapay zeka modeli hassas sistemlerde açık tespit etti
Yetkili, testlerin Anthropic tarafından geliştirilen Mythos modeliyle gerçekleştirildiğini belirtti. Denemelerin, “dünyanın kritik öneme sahip yazılımlarını” Mythos’un kamu güvenliği, ulusal güvenlik ve ekonomi üzerinde yaratabileceği olası ciddi risklere karşı korumayı amaçladığı ifade edildi.
Süreç kapsamında Mythos modelinin, ABD hükümetine ait yüksek hassasiyetli veriler içeren bilgisayar sistemlerinde saatler içinde bazı güvenlik açıklarını belirlediği aktarıldı. Ancak yetkili, bunun modelin aynı süre içinde bu sistemlere sızabileceği anlamına gelmediğini vurguladı.
Yapay zeka testi ABD’de güvenlik tartışması başlattı
Demokrat Senatör Mark Warner da 11 Haziran’da Senatoda yapılan bir oturumda bu testlere dikkat çekmişti. Warner, yapay zeka modelinin gizli sistemlerde ulaştığı seviyeye işaret ederek aracın haftalar içinde değil, saatler içinde çok sayıda hassas sisteme erişim sağladığını belirtmişti.
Warner’ın sözleri, gelişmiş yapay zeka modellerinin ulusal güvenlik açısından oluşturabileceği tehditlere ilişkin tartışmaları yeniden gündeme getirdi.
ABD’den Anthropic modellerine erişim yasağı
ABD yönetimi, 13 Haziran’da Anthropic’in geliştirdiği “Fable 5” ve “Mythos 5” yapay zeka modellerine erişime yönelik yeni bir karar aldı. Ulusal güvenlik tehdidi gerekçesiyle yabancı hükümetlerin, şirketlerin ve bireylerin bu modellere erişimi yasaklandı.
Kararın ardından Anthropic, söz konusu gelişmiş yapay zeka modellerini tüm kullanıcılar için kullanıma kapattı.