Anthropic'ın Mythos modeli ABD'nin gizli sistemlerindeki açıkları tespit etti
Associated Press
🔹 Bir ABD yetkilisi, Anthropic'in yapay zeka modeli Mythos'un test çalışmaları sırasında son derece hassas ve gizli ABD hükümet sistemlerindeki bazı güvenlik açıklarını tespit ettiğini söyledi.
🔹 Yetkiliye göre Anthropic, ABD istihbarat kurumlarıyla birlikte yürütülen testlerde güvenlik açıklarını saatler içinde belirledi.
🔹 Modelin açıkları tespit ettiği ancak bu açıkları aynı süre içinde kullanarak sistemlere sızdığı anlamına gelmediği belirtildi.
🔹 Testler, Anthropic'in "Project Glasswing" adlı girişimi kapsamında gerçekleştirildi.
🔹 Program, gelişmiş yapay zeka sistemlerinin kamu güvenliği, ulusal güvenlik ve ekonomi üzerindeki olası etkilerine karşı kritik yazılımları korumayı amaçlıyor.
🔹 Virginia Senatörü Mark Warner, 11 Haziran'daki Senato oturumunda testlere değinerek sistemlerin haftalar değil saatler içinde aşılabildiğini söylemişti.
🔹 Warner, bu bilgiyi Ulusal Güvenlik Ajansı (NSA) ve ABD Siber Komutanlığı Başkanı General Joshua Rudd'dan aldığını belirtmişti.
🔹 Anthropic ile ABD kurumları arasındaki iş birliğine rağmen şirket ile Trump yönetimi arasında yapay zeka kullanımı konusunda görüş ayrılıkları bulunuyor.
🔹 Anthropic, ABD ordusunun yapay zekayı kullanım biçimi konusunda endişelerini dile getirirken, yönetim bazı Anthropic modellerinin kullanımını sınırlandırdı.
🔹 Trump yönetimi bu ay yayımladığı talimatla Anthropic'in Fable 5 ve Mythos 5 modellerine yabancı ülke vatandaşlarının erişiminin engellenmesini istedi.
🔹 Anthropic, talimata uymak için ilgili modelleri tüm müşterileri için geçici olarak devre dışı bıraktığını açıkladı.
🔹 Trump, bu ay imzaladığı kararnameyle gelişmiş yapay zeka sistemlerinin kamuya sunulmadan önce ulusal güvenlik riskleri açısından incelenmesine yönelik bir çerçeve oluşturdu.
🔹 Kararname, federal hükümetin yapay zeka sistemlerini yayımlanmadan önce 30 güne kadar değerlendirebilmesine imkan tanıyor.
🔹 Adobe ve Nvidia'nın da aralarında bulunduğu şirketlerden 100'den fazla siber güvenlik uzmanı ve yönetici, Anthropic üzerindeki kısıtlamaların kaldırılması çağrısında bulundu.
🔹 Uzmanlar, Mythos modellerinin yazılım açıklarını bulma ve istismar yöntemleri geliştirme konusunda güçlü olduğunu ancak bu alanda benzersiz olmadığını belirtti.
🔹 Mektupta, ABD'nin siber savunma kabiliyetlerinin yeterli gerekçe olmadan sınırlandırılmasının ülkenin rakiplerine avantaj sağlayabileceği uyarısı yapıldı.