Anthropic yöneticisi yapay zekâya fren istiyor ve şirkete dış denetçiler getirmek istiyor
Frankfurter Allgemeine Zeitung
🔹 Anthropic’in kurucu ortağı ve Üst Yöneticisi Dario Amodei, yapay zekâ modellerinin yeteneklerini geliştirme hızının azaltılması gerektiğini söyledi.
🔹 OpenAI Üst Yöneticisi Sam Altman, yapay zekâ geliştirme hızını düşürme çağrısına destek verdi. Elon Musk da “Dario haklı” dedi.
🔹 Altman, OpenAI’ın halka arzının bu yıl gerçekleşmeyeceğini açıkladı. OpenAI’ın halka arzının gelecek yıla ertelenmesi beklenirken Anthropic’in halka arzı hâlâ bu yıl için bekleniyor.
🔹 Anthropic’te daha önce araştırmacı olarak çalışan Jacob Coxon, yapay zekâ geliştiren kişilerin bu teknolojinin on yılın sonuna kadar insanlığın tamamını öldürebileceğine inandığını söyledi.
🔹 Anthropic’in güvenlik ekibine liderlik eden Evan Hubinger, yapay zekânın tüm insanları öldürebileceğine inandığını söyledi ve böyle bir olayın gelecek on yıl içinde gerçekleşme ihtimalini yüzde 10’dan fazla tahmin etti.
🔹 Amodei, yapay zekânın son aylarda çok daha hızlı geliştiğini ve giderek daha az insan yardımıyla kendi kendini geliştirebildiğini söyledi.
🔹 Amodei, OpenAI modellerinin temmuz ayında izole bir test ortamından internete çıktığını ve Hugging Face yapay zekâ platformuna saldırdığını açıkladı. Toplam 1.200 yapay zekâ aracısının birlikte çalıştığı olayda daha güçlü bir grubun felaket boyutunda zarar verebileceğini söyledi.
🔹 Amodei, benzer bir yapay zekâ aracısı grubunun altı ila 12 ay içinde tüm interneti ele geçirebilecek kapasiteye ulaşabileceği konusunda uyardı.
🔹 Amodei’nin üç maddelik planında, güvenlik uygulamalarını denetlemek ve güvenlik olaylarını bildirmek üzere şirketlere dış denetçiler getirilmesi yer alıyor. Anthropic bu uygulamayı tek taraflı olarak hayata geçireceğini açıkladı; Altman, OpenAI’ın da aynı adımı atacağını söyledi.
🔹 Amodei, demokratik ülkelerdeki önde gelen yapay zekâ şirketlerinin ortak güvenlik standartları belirlemesini ve yapay zekâ ilerlemesinin hızına sınır koymasını önerdi. Yapay zekâ çipleri gibi altyapı unsurlarının da sınırlandırılmasını gündeme getirdi.
🔹 Amodei, yapay zekâ şirketlerinin hedefli biçimde düzenlenmesini geliştirme hızını azaltmanın en etkili yolu olarak nitelendirdi. Yasal düzenlemeler hazırlanırken şirketlerin gönüllü olarak güvenlik standartları oluşturmak üzere işbirliği yapmasını istedi.
🔹 Amodei, küresel bir yavaşlamanın Çin’le işbirliği gerektireceğini söyledi. Çin’le yapılacak herhangi bir anlaşmanın sıkı biçimde doğrulanabilir olması gerektiğini, ABD’nin Çin’e özellikle güçlü yapay zekâ çiplerinin satışını engelleyebileceğini açıkladı.
🔹 ABD Başkanı Donald Trump, yapay zekânın insanlığı yok edebileceğine dair endişe taşımadığını söyledi ve Çin’le yapay zekâ yarışını kazanmayı öncelik olarak belirledi.