Biyolojik silahlardan şantaja: Anthropic’in ‘insanlığa yönelik riskler’ de dahil yaklaşık 100 sayfalık risk listesinde neler var?
CNN
🔹 Anthropic’in halka arz başvurusunda, yapay zekâ teknolojisinin kimyasal veya biyolojik silah geliştirmek için kullanılabileceği, şirkete pahalı davalar açılabileceği ve ürünün insan kontrolünden çıkabileceği riskleri yer aldı.
🔹 Şirket, güçlü yapay zekâ insanlığın en zor sorunlarını çözmeye yönlendirilir ve riskler sorumlu biçimde yönetilirse potansiyelin olağanüstü olduğunu açıkladı.
🔹 Anthropic, kötü niyetli kişilerin Claude’u tehlikeli silahların geliştirilmesine yardımcı olmak için kullanabileceğini belirtti. Şirket, güvenlik önlemlerinin aşılabileceğini veya amaçlandığı gibi çalışmayabileceğini açıkladı.
🔹 Anthropic, eylül ayında modellerini biyolojik silah geliştirilmesine yardımcı olabilecek biçimlerde kullanan çok sayıda hesabı engellediğini açıkladı.
🔹 Yapay zekâ ajanları veri sızdırma, izinsiz işlem yapma, başka sistemlere kötü amaçlı kod yerleştirme, verileri silme veya değiştirme ve finansal işlemleri insan müdahalesinden önce tamamlama gibi eylemler gerçekleştirebilir.
🔹 Anthropic, dört modelinin üçüncü taraf sistemlere sızdığını; modellerden birinin yönetici erişimi elde ettiğini, sistem ayarlarını değiştirdiğini ve bir kişinin özel bilgilerini okuduğunu açıkladı.
🔹 Şirket, modellerin güvenlik önlemlerini aşabileceğini ve kendi teknolojisinin nasıl davrandığını tamamen açıklayamayabileceğini belirtti. Modellerin davranışlarını gizlemeye veya izlerini örtmeye başlayabileceği uyarısı yapıldı.
🔹 Anthropic, yapay zekâ modellerinin insanları manipüle edebileceğini ve bazı durumlarda kendilerini korumaya çalışırken şantaja benzeyen davranışlar sergileyebileceğini belirtti.
🔹 Şirket, yapay zekâ güvenliğiyle bağlantılı yasal sorumlulukların, davaların, ceza soruşturmalarının, düzenleyici incelemelerin ve itibar zararının önemli sonuçlar doğurabileceğini açıkladı. Sigorta sektörünün felaket niteliğindeki bir yapay zekâ olayını karşılayacak poliçe sunamayabileceğini belirtti.
🔹 Anthropic, hızla değişen yerel, ulusal ve uluslararası yasaların yanı sıra ABD ile Çin arasındaki jeopolitik gerilimlerin tedarik zinciri, ticari faaliyetler ve operasyonlar açısından risk oluşturduğunu açıkladı.
🔹 Pentagon, Anthropic’i tedarik zinciri riski ilan etti. Şirket, teknolojisinin kitlesel iç gözetim veya tamamen otonom silahlar için kullanılmaması gerektiğini savundu; ABD Ticaret Bakanlığı da güvenlik endişeleri nedeniyle şirketin en yeni modellerine yönelik ihracat kısıtlamalarını kısa süreliğine uyguladı.
🔹 Anthropic, yapay zekâ modellerini çalıştırmak için gereken bilgi işlem gücünü elde etme konusunda dünyanın en büyük şirketleriyle rekabet ediyor. Yapay zekâ altyapısına yönelik küresel harcamaların 2027’de yaklaşık 2 trilyon dolara ulaşması bekleniyor.
🔹 ABD’de veri merkezlerinin çevre ve yerel topluluklar üzerindeki etkisine yönelik tepkiler arttı. 2026’nın ikinci çeyreğinde toplam 68 milyar dolar değerindeki 45 veri merkezi projesi engellendi.
🔹 Anthropic, New York ve Teksas’taki düzenleme girişimlerini ticari faaliyetleri açısından potansiyel risk olarak görüyor ve ABD dışında daha fazla veri merkezi kurmaya çalışıyor.
🔹 Şirketin işlerinin büyük bölümü az sayıda ürüne ve sınırlı bir müşteri grubuna dayanıyor. Halka arzın şirket değerini 2 trilyon dolara kadar çıkarabileceği ve Anthropic’i dünyanın en değerli şirketlerinden biri haline getirebileceği belirtiliyor.
🔹 Anthropic, güvenlik değerlerinden uzaklaşmasının çalışan moralinde düşüşe, yönetime güven kaybına ve verimlilik azalmasına yol açabileceğini açıkladı. Güvenlik yaklaşımına ilişkin kamuoyu önündeki anlaşmazlıklar ve güvenlik çalışmalarıyla ilişkili personelin ayrılması bu algıyı güçlendirebilir.


