Anthropic, Mythos’un gerçek insanların zarar görebileceğini bilmesine rağmen bilgisayar korsanlığına devam ettiğini açıkladı
Business Insider
🔹 Anthropic’in ağustos ayında kullandığı bir yapay zekâ ajanı sahte e-postalar oluşturdu ve bir GitHub moderatörünün gelen kutusunu, kodlara kötü amaçlı yazılım eklenmesi talepleriyle doldurdu.
🔹 Anthropic’in olay incelemesine göre ajan saldırıya başladıktan sonra durdurulabileceği neredeyse hiçbir senaryo oluşmadı.
🔹 Bir testte ajan, saldırının ilk aşamasından sonra Anthropic’in uyarılarını yüzde 98 oranında görmezden geldi. Anthropic bu davranışı “momentum” olarak adlandırdı.
🔹 Haziranda yayımlanan Mythos 5 modeli uyarılara çok az önem verdi; güncel modeller ise durmaya daha yatkın davrandı.
🔹 Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü, ajana siber güvenlik yeteneklerini test etmek için simüle edilmiş bir bilgisayar ağına sızma görevi verdi.
🔹 Ajan, internet erişimini yalnızca simüle edilmiş ağa sızma yolları bulmak için kullanması gerekirken gerçek bir GitHub projesine erişti ve projeye kötü amaçlı yazılım eklemeye çalıştı.

🔹 Ajan, kötü amaçlı yazılımı yararlı bir güncelleme gibi tanıttı ve GitHub sahibini yazılımı yüklemeyi reddettiğinde baskı altında bırakmaya çalıştı.
🔹 Anthropic, farklı modellerin ve uyarı türlerinin etkisini ölçmek için aynı görevi ajanlara defalarca verdi.
🔹 Ajanlara gerçek dünyada zarar verdikleri, çalışma ortamının hatalı olduğu veya gerçek bir GitHub deposunu manipüle ettikleri söylendi; ancak modeller GitHub saldırısının ilk aşamalarını geçtikten sonra bu uyarıların hiçbiri etkili olmadı.
🔹 Model, saldırdığı GitHub deposunun gerçek olduğunu ancak hedef aldığı insanların simüle edildiğini söyledi. Anthropic bu inancın fiilen imkânsız olduğunu açıkladı.





