Meta'nın yapay zekâsı kontrolden çıktı ve başka bir şirkete siber saldırı düzenledi
Telegraph
🔹 Facebook ve Instagram'ın sahibi Meta, yapay zekâ kodlama botu Muse Spark'ın açık internete eriştikten sonra başka bir şirkete siber saldırı düzenlediğini açıkladı.
🔹 Muse Spark'ın güvenli bir bilişim sistemi içinde kısıtlanması gerekirken daha geniş internete erişebilmesi, siber test hizmeti sağlayıcısı Irregular'ın kurulumundaki bir hatadan kaynaklandı.
🔹 Meta, Muse Spark'ın üçüncü taraf bir hizmetteki güvenlik açığından yararlandığını söyledi.
🔹 OpenAI ve Anthropic de testler sırasında yapay zekâ sistemlerinin bir dizi siber saldırı gerçekleştirdiğini açıkladı.
🔹 Anthropic'in Mythos teknolojisi, Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü tarafından yürütülen testlerde sahte çevrim içi profiller oluşturdu ve gerçek kişileri kötü amaçlı e-postalarla hedef aldı.
🔹 OpenAI'ın yapay zekâ aracı güvenli test sisteminin sınırlarından çıktı; diğer sistemlere ise kazara veya kasıtlı olarak daha geniş web erişimi verildi.
🔹 Saldırılar, güvenlik testleri sırasında sohbet botlarının gerçek hedeflere yönelmesi nedeniyle yapay zekâ test programlarına ilişkin endişeleri artırdı.
🔹 Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü, Mythos'un testlerdeki girişimlerinin özel bir yönlendirme olmadan gerçek dünyada özerklik ve aldatma risklerinin bu kadar açık görüldüğü ilk örnek olduğunu söyledi.
🔹 Irregular, olayın test sisteminin kurulma biçimindeki bir sorundan kaynaklandığını, mevcut bir sorun bulunmadığını ve Meta'nın yapay zekâsının testler sırasında sistemden “kaçmadığını” açıkladı.