Eski Anthropic araştırmacısı, yapay zekâ çalışanlarının insanlığın geleceği için 'gerçekten korktuğunu' söyledi
BBC
🔹 27 yaşındaki Jacob Coxon, yapay zekâ alanındaki ilerlemenin hızından endişe ederek Anthropic’ten ayrıldığını ve mevcut ilerleme hızı yavaşlatılmazsa insanların yakın gelecekte ölebileceğini söyledi.
🔹 Coxon, yapay zekâ şirketlerinde çalışanların düzenleme talep ettiğini çünkü uluslararası bir yarışın içinde sıkıştıklarını ve bu yarışın sonuçlarından korktuklarını söyledi.
🔹 Yapay zekâ geliştirme hızının ABD ile Çin arasında koordineli biçimde yavaşlatılması gerektiğini belirten Coxon, aksi hâlde uluslararası ölçekte bir yarışın önlenemeyeceğini söyledi.
🔹 Coxon, interneti ele geçirebilecek bir süper bilgisayar gibi hareket eden bot sürüsü senaryosunun altı ay ila bir yıl içinde gerçekçi hâle gelebileceğini söyledi.
🔹 Anthropic CEO’su Dario Amodei, yapay zekâ geliştirme hızının düşürülmesini; bağımsız model denetimi, sektör genelinde düzenleme ve küresel düzenleme içeren üç maddelik bir planla savundu.
🔹 Anthropic, yapay zekânın büyük faydaların yanı sıra benzeri görülmemiş riskler getireceğini ve bu risklere karşı güçlü güvenlik önlemleriyle modeller geliştirdiğini açıkladı.
🔹 Şirket, yapay zekâ modellerini kapsamlı biçimde test ettiğini, sonuçları yayımladığını ve güçlü modellerin piyasaya sürülme hızını düzenlemek için yasal ve doğrulanabilir bir iş birliği sistemi gerektiğini açıkladı.
🔹 Coxon, yapay zekâ şirketlerindeki bazı çalışanların hızlı ilerlemenin yaratacağı istikrarsızlıktan korktuğu için hayatlarını planladığını ve arazi satın almayı düşündüğünü söyledi.
🔹 Coxon, yapay zekâ araştırmacılarının hastalıkları çözme ve insanların yaşamını iyileştirme potansiyelini de görmek istediğini söyledi.
🔹 Anthropic bilim insanı Evan Hubinger, yapay zekânın tüm insanları öldürebileceğine inandığını ve bunun gelecek on yıl içinde gerçekleşme olasılığını yüzde 10’dan yüksek gördüğünü söyledi.
🔹 Hugging Face CEO’su Clement Delangue, Coxon’ın yapay zekânın yok oluş riskiyle ilgili görüşlerinin bağlam içinde değerlendirilmesi gerektiğini söyledi.
🔹 Nvidia CEO’su Jensen Huang, Coxon’ın açıklamalarını reddetti ve yapay zekânın insanlığın sonu olacağı düşüncesini saçmalık olarak nitelendirdi.