Anthropic, biyolojik silah geliştirebilecek yapay zekânın kötüye kullanımını engelledi
BBC
🔹 Anthropic, biyolojik ve konvansiyonel silah geliştirilmesini destekleyebilecek kötü amaçlı faaliyetlerde yapay zekâ modelinin kullanımına yönelik girişimleri tespit edip durdurduğunu açıkladı.
🔹 Şirketin Claude modeli, Rusya bağlantılı bir siber casusluk kampanyasında ve İranlı bir propaganda kurumu tarafından da kullanıldı.
🔹 Son sekiz ayda tespit edilen vakalar sahte flört uygulamalarından otel Wi-Fi dolandırıcılıklarına ve muhalifleri belirlemeye yönelik gözetim sistemlerine kadar uzandı.
🔹 Anthropic, Aralık 2025 ile Ağustos 2026 arasında Claude Haiku, Sonnet ve Opus modellerinin kötüye kullanımını engelledi.
🔹 Şirket, modellerini biyolojik silah geliştirilmesini destekleyebilecek biçimlerde kullanan bilim insanlarını engelledi ve bu kapsamda beş vaka tespit etti.
🔹 Anthropic, biyolojik amaçlı kötüye kullanımın ileri yapay zekâ modellerinin en ciddi risklerinden biri olduğunu açıkladı. Şirket, uygun güvenlik önlemleri olmadan bu yeteneklerin yıkıcı sonuçlara yol açabileceğini söyledi.
🔹 Claude’un aşı veya hastalık tedavisi geliştirmeye yarayabilecek aynı bilgileri biyolojik silah geliştirmek için de sağlayabileceği belirtildi.
🔹 Raporda Claude’un ateşli silahlar, füzeler, silahlı insansız hava araçları, bombalar ve diğer mühimmatlar için yazılım geliştirilmesinde kullanıldığı altı vaka yer aldı.
🔹 Siber suçlular ve devlet destekli bilgisayar korsanları, operasyonlarına yardımcı olmak için Anthropic’in teknolojisini giderek daha fazla kullandı. ShinyHunters grubu ve Çin merkezli laboratuvarlar raporda adı geçen aktörler arasında yer aldı.
🔹 Rusya merkezli Midnight Blizzard grubuyla uyumlu faaliyetler yürüten bir bilgisayar korsanı grubu, kötü amaçlı yazılımının güvenlik sistemlerince tespit edilip edilmediğini otomatik olarak kontrol eden ve tespit edilmesi halinde kodu yeniden yazan bir sistem oluşturmak için yapay zekâ kullandı.
🔹 Anthropic, bulgularını gelecekteki kötüye kullanımları daha iyi önlemek, tespit etmek ve durdurmak amacıyla süreçlerine dahil ettiğini açıkladı; uygun durumlarda istihbaratı yetkililer ve sektör ortaklarıyla paylaştı.
🔹 OpenAI başbilimcisi Jakub Pachocki, güvenlik önlemleri oluşturulana kadar sektörün gönüllü yavaşlamalar uygulamasını istedi. ABD’li Demokrat senatör Bernie Sanders ise yapay zekâ süperzekâsını yasaklamak ve gelişmiş yapay zekâ çalışmalarına geçici ara vermek için yasa tasarısı sundu.