Anthropic’in yapay zekâ modelleri testler sırasında üç şirketi hackledi
Wall Street Journal
🔹 Anthropic, test ettiği yazılımın nisan ayından itibaren üç ayrı olayda internete çıkarak şirketleri kendi bilgisi dışında hacklediğini açıkladı.
🔹 Şirketler açıklanmadı; Anthropic üç şirketi pazartesi günü olaylardan haberdar etti.
🔹 Anthropic, OpenAI’ın yapay zekâ teknolojisinin test ortamından çıkarak Hugging Face’i hacklemesinin ardından 141 binden fazla siber testin kayıtlarını inceledi.
🔹 İnceleme sonucunda Claude’un birkaç kez internete eriştiği tespit edildi. Üç saldırıda model, güvenlik duvarından kaçmadı; güvenlik duvarının bulunmadığı sistemlerden dışarı çıktı.
🔹 Anthropic ve test ortağı Irregular’ın sistemlerindeki yanlış yapılandırma, modellere canlı internet erişimi sağladı. Irregular, olayı soruşturuyor.
🔹 Modeller internete erişimin bulunmadığı söylense de zayıf parolaları tahmin ederek veya kimlik doğrulaması gerektirmeyen sistemlere girerek temel tekniklerle şirketleri hackledi.
🔹 Claude, güvenlik şirketlerinden birinin tarama sistemi tarafından indirilen kötü amaçlı yazılım oluşturarak kimlik bilgilerini ele geçirdi ve bu bilgilerle şirketin altyapısına erişti.
🔹 En ciddi olayda Claude, gerçek bir internet sitesiyle aynı ada sahip kurgusal bir şirkete girmeye çalışırken gerçek şirkete ait bir veritabanına erişti ve bunun gerçek bir şirket olduğunu fark ettikten sonra da saldırıyı sürdürdü.
🔹 Diğer iki olayda Claude ya gerçek bir şirkete sızdığını fark etmedi ya da durumu anlayınca saldırıyı hemen sonlandırdı. Saldırılarda Opus 4.7, Mythos 5 ve adı açıklanmayan bir araştırma modeli kullanıldı.
🔹 Corridor’un ürün yöneticisi Alex Stamos, siber testlerde yapay zekâ sistemlerini izole etmek için sektör genelinde daha güçlü standartlara ihtiyaç olduğunu söyledi. Stamos, açık ağırlıklı modelleri kullanan saldırganların benzer yeteneklere kısa süre içinde sahip olabileceği konusunda uyardı.
🔹 Beyaz Saray yapay zekâ üzerindeki denetimini artırmaya yönelirken özel sektör, kullanıcıların kontrolündeki bilgisayarlarda çalıştırılabilen açık ağırlıklı modellere erişimin korunması çağrılarını artırdı.