ABD Temsilciler Meclisi İç Güvenlik Komitesi Başkanı Garbarino, Anthropic'in Mythos modelinin ciddi siber güvenlik riskleri oluşturabileceği uyarısında bulundu

🔹 ABD Temsilciler Meclisi İç Güvenlik Komitesi Başkanı Andrew Garbarino, kapalı oturumdaki bir sunumda Anthropic'in Mythos modelinin bir bankadaki güvenlik açığını tespit ederek banka hesaplarını boşaltabildiğini, ardından aynı açığı kapatabildiğini söyledi.

🔹 Garbarino, Anthropic ve diğer yapay zekâ şirketlerinin yaptığı gösterimlerin, gelişmiş yapay zekâ modellerinin oluşturabileceği tehditler nedeniyle hükümetin kısa sürede harekete geçmesi gerektiğini gösterdiğini belirtti.

🔹 Garbarino, Kongre'nin nasıl bir düzenleme yapılacağı konusunda net bir çözümü olmadığını, milletvekillerinin büyük bölümünün yapay zekâ alanındaki gelişmeleri yeterince anlamadığını söyledi.

🔹 Garbarino, gelişmiş yapay zekâ modelleri kamuya sunulmadan önce federal kurumlar ile Kongre'nin bu sistemlere erişebilmesi gerektiğini savundu.

🔹 Garbarino, Başkan Donald Trump'ın yapay zekâ kaynaklı siber tehditlere hazırlık yapılmasını öngören ve şirketlerin modellerini gönüllü olarak hükümetle paylaşmasına yönelik çerçeve oluşturan kararını desteklediğini ifade etti.

🔹 Garbarino, İç Güvenlik Bakanlığı ve yapay zekâ şirketlerinin komiteye, güvenlik kısıtlamalarının aşıldığı ("jailbreak") senaryoları gösterdiğini belirtti.

🔹 Garbarino, bir yapay zekâ modelinin güvenlik kısıtlamaları kaldırıldığında 30 saniye içinde bir milletvekilinin kaçırılmasına yönelik ayrıntılı bir plan oluşturabildiğini söyledi.

🔹 Garbarino, kötü niyetli kişilerin yapay zekâ modellerini ele geçirerek kritik altyapılara saldırabileceğini, doğal gaz boru hatlarını devre dışı bırakabileceklerini veya su arıtma sistemlerindeki klor seviyesini değiştirebileceklerini ifade etti.

🔹 Garbarino, yeni nesil yapay zekâ sistemlerinin yalnızca saldırı yöntemlerini açıklamakla kalmayıp, insan müdahalesi olmadan bu eylemleri gerçekleştirebilecek ajan özelliklerine sahip olduğunu söyledi.