Anthropic raporu: Claude’un savaş, casusluk ve baskı için istismar edildiği 5 yöntem
Axios
🔹 Anthropic, Claude’un kötüye kullanımını sekiz ay boyunca izlediğini ve engellemeye çalıştığını açıkladı.
🔹 İran bağlantılı bir operasyon, ABD deniz kuvvetlerini hedef almak için Claude’dan yararlandı. Model; gemi konumları, ABD personeli, uçaklar, gemi kimlikleri, uydu görüntüleri ve deniz hareketlerini gösteren internet sitelerini içeren hedefleme kılavuzlarının hazırlanmasına yardımcı oldu.
🔹 Yemen’in kuzeyindeki bir silah hücresi, roket ve füzeler için güdüm yazılımı geliştirmek üzere Claude Code kullandı. Ekip, başarısız görünen bir güdümlü roket testinin ardından hatayı teşhis etmek için saatler içinde Claude’a döndü.
🔹 Çin bağlantılı bir operasyon, Suriye’deki Uygurları tespit etmek için 100’den fazla WhatsApp grubu ile onlarca Telegram kanalını taradı. Claude, Suriye Arapçasıyla gizli iletişim kurulmasına ve para sorunları, aile ayrılığı ile Sincan’da yaşayan akrabalar üzerinden baskı uygulanmasına yardımcı oldu.
🔹 Mali’deki bir danışman, 25 milyon telefona yönelik ülke çapında bir gözetim sistemi kurarken Claude’u başlıca mühendislik aracı olarak kullandı. Sistem; arama kayıtlarını, mesajları ve ses trafiğini toplayabiliyor, farklı SIM kartlardaki kişileri seslerinden tanımlayabiliyor ve mahkeme kararı olmadan telefon numaraları hakkında istihbarat dosyaları oluşturabiliyordu.
🔹 Devlet destekli bir hibe kapsamındaki araştırmacılar, sivrisineklerle bulaşan chikungunya virüsünü daha kolay yayılacak veya bağışıklık savunmalarından kaçacak şekilde değiştirmeye çalıştı. Çalışma bir askeri araştırma enstitüsü için yürütüldü.
🔹 Claude, virüs araştırmasına ilişkin en hassas talepleri engelledi; bunun üzerine istekler, daha zayıf güvenlik önlemlerine sahip rakip bir yapay zekâ modeline yönlendirildi.
🔹 Anthropic, insan onayı olmadan insan hedeflerini seçmek üzere tasarlanan Rus insansız hava araçlarını da tespit etti. Yapay zekâ modelleri, kötüye kullanımı kolaylaştırırken geliştiricilerine ortaya çıkan tehditleri erken görme imkânı sağlayabiliyor.
🔹 ABD’de iki partili bir Temsilciler Meclisi grubu, Kongre harekete geçene kadar ara verilmemesi için Meclis Başkanı Mike Johnson’a çağrı yaptı. Senatör Bernie Sanders ise süperzekânın tamamen yasaklanmasını istiyor.
🔹 Kapsamlı federal yapay zekâ güvenliği kuralları henüz oluşturulmadı. Başkan Donald Trump, yapay zekânın insanlığın yok oluşuna yol açabileceği yönündeki endişeleri reddederek daha büyük tehlikenin ABD’nin yapay zekâ yarışında Çin’e yenilmesi olduğunu söyledi.