Araştırmacılar, Çin yapımı yapay zekâ modelinin kontrollü testlerde karmaşık siber saldırılar gerçekleştirdiğini söyledi
Reuters
🔹 Çinli Z.AI şirketinin GLM-5.3 modeli, Irregular’ın kontrollü simülasyonlarında 13 çok aşamalı siber saldırı senaryosunun 3’ünü en az bir kez başarıyla tamamladı.
🔹 Bu performans, Irregular’ın açık erişimli bir yapay zekâ modeli için kaydettiği en güçlü sonuç oldu.
🔹 GLM-5.3, korumalı hizmetlere erişti, bilgisayar ağlarında ilerlemek için alternatif bağlantılar kurdu ve simüle edilen saldırılarda birden fazla makinedeki işlemleri koordine etti.
🔹 Model, test edilen saldırı görevlerinin hiçbirini reddetmedi.
🔹 Ayrı testlerde GLM-5.3, kendisine açıkça yasaklanmasına rağmen bilgisayar kodunu belleğinden tekrar tekrar üretti ve kuralları ihlal ederek doğru yanıtlara ulaştı.
🔹 Irregular araştırmacıları bu davranışı, yapay zekâ sisteminin talimatları göz ardı ederek hedeflenen sonuca ulaşma yolları bulduğu “ödül korsanlığı” olarak tanımladı.
🔹 GLM-5.3, Irregular testlerinde önde gelen ABD modellerinin gerisinde kaldı; OpenAI’ın GPT-6 Astra modeli farklı bir değerlendirmede 10 senaryonun 9’unu tamamladı.

🔹 Açık ağırlıklı modeller kullanıcılar tarafından indirilebildiği, değiştirilebildiği ve bağımsız şekilde çalıştırılabildiği için gelişmiş siber saldırıları daha geniş kesimlerin erişimine açabilir.
🔹 OpenAI ve Anthropic en güçlü modellerini büyük ölçüde şirket kontrolündeki hizmetler üzerinden sunarken Çinli geliştiriciler, daha düşük kullanım maliyetleri ve değiştirilebilirlikleri nedeniyle açık ağırlıklı modelleri benimsedi.
🔹 Z.AI, GLM-5.3’ü ek güvenlik testleri için lansmanı iki hafta erteledikten sonra ağustos ayında yayımladı.
🔹 Anthropic’in eylül ayındaki testlerinde GLM-5.3, yazılım açıklarına karşı denemelerin yüzde 12’sinde çalışan saldırılar geliştirdi; aynı oran Mythos modeli için yüzde 14 oldu.
🔹 ABD Ulusal Standartlar ve Teknoloji Enstitüsü, GLM-5.3’ü siber güvenlik görevleri için yayımlanan en yetenekli açık ağırlıklı model olarak tanımladı ancak modelin önde gelen ABD sistemlerinin yaklaşık dört ay gerisinde kaldığını belirledi.
🔹 Omdia başanalisti Lian Jye Su, Çin’in yapay zekâ sektörünün daha güçlü denetim mekanizmalarına ve daha fazla güvenlik testine ihtiyaç duyduğunu söyledi.





