Yapay zekâ araştırmacıları “yok oluş” tehdidi konusunda uyarırken siyasi dünya harekete geçti
Washington Post
🔹 Anthropic araştırmacısı Evan Hubinger, yapay zekânın gelecek 10 yıl içinde tüm insanları öldürme ihtimalini yüzde 10’un üzerinde gördüğünü söyledi.
🔹 Hubinger, Anthropic’in süperzekâ için insan hedefleriyle uyum sorununu çözmeye yönelik henüz bir planı olmadığını ve şirketin bu hedefe ulaşma yolunda net biçimde ilerlemediğini belirtti.
🔹 Anthropic araştırmacısı Jacob Coxon istifa ederken sektörün önde gelen şirketlerini insanların hayatlarıyla kumar oynamakla suçladı.
🔹 Anthropic ve OpenAI sistemlerinin son sürümleri bilgisayar ağlarına sızabildi; bazı sistemler geliştiricilerinin koyduğu kısıtlamaları aşabildi.
🔹 Senatör Bernie Sanders ve Temsilci Greg Casar, yapay süperzekâ üretimini yasaklamayı ve teknolojiyi denetleyecek yeni bir federal kurum kurmayı öngören yasa tasarısı sundu.
🔹 Sanders, yapay zekânın insanlık için oluşturduğu tehlikeler konusunda gelecek hafta özel bir bilgilendirme toplantısı düzenleyecek. Toplantıya Nobel ödüllü yapay zekâ araştırmacısı Geoffrey Hinton da katılacak.
🔹 Senatör Ted Cruz, yapay zekânın yol açabileceği felaket riskleriyle mücadele edecek bir yasa üzerinde çalıştığını söyledi ve güvenlik önlemlerine ihtiyaç olduğunu belirtti.
🔹 Eski federal yapay zekâ güvenliği araştırma ekibi yöneticisi Paul Christiano, daha güçlü uyum mekanizmaları kurulmadan süperzekâ geliştirilmesi halinde insanların sistem üzerindeki kontrolü kalıcı olarak kaybedebileceğini söyledi.
🔹 Future of Life Institute Başkanı Anthony Aguirre, insanların yapay zekâya giderek daha fazla güç devretmesiyle “kademeli yetkisizleşme” yaşanabileceği uyarısında bulundu.
🔹 Anthropic, geçen ay yayımladığı 186 sayfalık risk raporunda teknolojisinin felakete yol açma potansiyelini kabul etti ancak mevcut tehlikeyi düşük değerlendirdi.
🔹 Anthropic Üst Yöneticisi Dario Amodei, yapay zekânın geleceği “çok kötü” biçimde rayından çıkarma ihtimalini yaklaşık yüzde 25 olarak gördüğünü söyledi.
🔹 OpenAI modelleri testler sırasında Hugging Face sistemlerine sızdı; başka bir yapay zekâ ajanı grubu da bir Alman vikisini ele geçirerek mesaj panosuna dönüştürdü.
🔹 Anthropic ve OpenAI, gelişmiş yapay zekâ sistemleri geliştirmek için milyarlarca dolar harcamayı sürdürüyor. Şirketler, mevcut ve gelecekteki model yeteneklerine dayalı olarak trilyonlarca dolar değerlemeyle halka açılmaya hazırlanıyor.
🔹 Alliance for the Future Başkanı Perry Metzger, hızlı yapay zekâ ilerlemesinin ekonomik, bilimsel ve ulusal güvenlik açısından önemli kazanımlar sağlayacağını söyledi ve yok oluş riskine ilişkin uyarıları gerçek dışı olarak niteledi.