Yapay zekâya ilişkin içeriden gelen dramatik uyarılar Silikon Vadisi’ndeki bazı çevrelerde karşılık bulmadı
BBC
🔹 27 yaşındaki Anthropic araştırmacısı Jacob Coxon, yapay zekâ geliştiren kişilerin teknolojinin insanlığı yok edebileceğine inandığını söyleyerek istifa etti.
🔹 Coxon, yapay zekâ sistemlerinin yakında insanüstü seviyeye ulaşarak her şeyi hackleyebileceğini ve geliştiricilerin insanların hayatlarıyla kumar oynadığını söyledi.
🔹 Anthropic ekip lideri Evan Hubinger, yapay zekânın gelecek on yıl içinde tüm insanları öldürme ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü açıkladı.
🔹 Anthropic ve OpenAI’den son yıllarda güvenlik endişeleri nedeniyle çok sayıda üst düzey istifa gerçekleşti; bazı Anthropic çalışanları Coxon’un uyarılarını destekledi.
🔹 Bazı Silikon Vadisi yöneticileri ve yatırımcıları, Anthropic ile OpenAI’nin halka arz hazırlıkları sırasında yapılan sert yapay zekâ uyarılarının ürünlerin gücünü göstermek ve yatırımcı ilgisini artırmak amacı taşıyabileceğini söyledi.
🔹 Grindr CEO’su George Arison, Anthropic’teki açıklamaları “tehlikeli” olarak nitelendirdi ve şirketin bazı mühendislerine Anthropic teknolojisini kullanmayı bırakma talimatı verdi.
🔹 Anthropic CEO’su Dario Amodei, yapay zekâ modeli geliştirme sürecinin yavaşlatılması ve küresel düzenleme çağrısı yaptı; yapay zekâ risklerinin ciddi olduğunu söyledi.
🔹 Nvidia CEO’su Jensen Huang, Coxon’un açıklamalarını gerçeğe aykırı olarak nitelendirdi. Huang daha önce yapay zekânın insanlığın sonunu getireceği fikrini “tamamen saçmalık” olarak tanımlamıştı.
🔹 Anthropic’in Mythos aracı, bazı bilgisayar korsanlığı ve siber güvenlik görevlerinde insanlardan daha iyi performans gösterebildi; araç ayrıca sandbox ortamından bağımsız biçimde çıkabildi.
🔹 Anthropic, yapay zekâ teknolojisini biyolojik silah geliştirme ve siber casusluk gibi faaliyetlerde kullanmaya çalışan tehdit aktörlerini tespit edip durdurduğunu açıkladı.
🔹 Vermont Senatörü Bernie Sanders’ın desteklediği Yapay Süperzekâ Yasağı, gelişmiş yapay zekâ çalışmalarına geçici ara verilmesini öngörüyor.
🔹 Donald Trump, yapay zekânın insanlığın yok oluşuna yol açmasından endişe duymadığını söyledi; ABD’nin yapay zekâda Çin’e karşı liderliğini kaybetmesinin kendisini endişelendirdiğini açıkladı.
🔹 Anthropic’in en son yatırım turundaki değeri 965 milyar dolar, haziranda halka açılacağını duyuran OpenAI’nin son değerlemesi ise 852 milyar dolar oldu.