Anthropic, kötü aktörlerin biyolojik silahlar için yapay zekâsını kötüye kullanma girişimlerini ayrıntılandırdı
Guardian
🔹 Anthropic’in yayımladığı 154 sayfalık tehdit istihbaratı raporu, suçluların, devlet destekli grupların, casus yazılım şirketlerinin, bilim insanlarının ve propagandacıların şirketin yapay zekâ modellerini füze ve bomba tasarlamak, ölümcül patojenler oluşturmak ve muhalifleri gözetlemek için kullanmaya çalıştığını ortaya koydu.
🔹 Şirket, yapay zekâ modellerini biyolojik araştırmalarda kullanan bilim insanlarına ilişkin beş vaka inceledi.
🔹 Araştırmacılar, desteklenmeyen bölgelerdeki kullanıcıları engelleyen güvenlik önlemlerini aşmaya ve çalışmalarının amacını gizlemeye çalıştı.
🔹 Anthropic bu hesapları yasakladı; araştırma kurumlarının ve ülkelerin adlarını, araştırmacıların niyetlerinden emin olmadığı gerekçesiyle açıklamadı.
🔹 Raporda Rus casusluğu ve siber saldırılar, Suriye’deki Uygurları ve Çin’deki iç muhalifleri hedef alan gözetim programları ile Rusya, Malezya, İran ve Bangladeş’teki propaganda kampanyaları yer aldı.
🔹 Claude modeli Yemen, Çin ve Rusya’da ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatlar için yazılım geliştirmede kullanıldı.
🔹 Anthropic, bir bilim insanının devlet destekli bir hibe başvurusunda dang humması ve sıtmaya benzer hastalıklara yol açan chikungunya virüsü üzerine çalışmak için Claude kullandığını tespit etti. Çalışmanın askerî bir araştırma kurumunda yürütülecek olması, biyolojik silah üretimi ihtimali nedeniyle endişe yarattı.
🔹 Anthropic çalışanı Jacob Coxon, şirketin teknolojisini sorumlu biçimde geliştirmediğini söyleyerek istifa etti. Coxon, Anthropic ile OpenAI’ın 2030’a kadar insanlığın yok olmasına yol açabilecek kendi kendini geliştiren süperzekâya doğru ilerlediğini söyledi.
🔹 Anthropic, yapay zekâ modelleri daha yetenekli hâle geldikçe risklerin artacağını ve yapay zekâ geliştiricileri ile toplumun savunucuları daha güvenli sistemler oluşturmadığı sürece bu risklerin büyüyeceğini açıkladı.
🔹 Şirket, yapay zekâ sektörünün hükümetlerle birlikte çalışarak kötüye kullanımdan kaynaklanan zararları ele alması ve savunma mekanizmaları geliştirmesi gerektiğini söyledi.