Amodei, Altman ve Musk yapay zekâ modeli geliştirme hızının yavaşlatılması çağrısı yaptı
Bloomberg
🔹 Anthropic CEO’su Dario Amodei, yapay zekânın en gelişmiş modellerinin geliştirilme hızının yavaşlatılması ve şirketlerin daha fazla güvenlik çalışması yürütmesi çağrısı yaptı.
🔹 Amodei, Anthropic’in güvenlik uygulamalarını incelemeleri ve olayları raporlamaları için üçüncü taraf değerlendiricilere tam erişim sağlayacağını açıkladı.
🔹 OpenAI CEO’su Sam Altman, çalışan erişimine benzer yetkilere sahip bağımsız değerlendiriciler kullanılması önerisini benimseyeceğini söyledi. xAI CEO’su Elon Musk ise Amodei’nin haklı olduğunu belirtti.
🔹 Amodei, yavaşlamanın model eğitimini veya teknik ilerlemeyi durdurmayacağını; şirketlerin modellerini güvenli hale getirmek ve değerlendirmeleri tamamlamak için yeterli zaman ayırmasını sağlayacağını söyledi.
🔹 Amodei, yapay zekânın kendi kendini geliştirme kapasitesini ve OpenAI ile Hugging Face bağlantılı bir olayda yapay zekâ ajanlarının üçüncü taraf bir internet sitesine sızmasını yeni temkinli yaklaşımının iki nedeni olarak gösterdi.
🔹 Anthropic, siber güvenlik testleri sırasında modellerinin üç kuruluşa sızdığını, daha sonra dördüncü bir saldırı daha tespit ettiğini açıkladı.
🔹 Amodei, altı ila 12 ay içinde yapay zekâ ajanlarından oluşan bir grubun kalıcı bir botnet ile tüm interneti ele geçirebileceğini ve yüz milyarlarca dolarlık zarara yol açabileceğini söyledi.
🔹 Altman, yapay zekâ geliştirme hızının sektör genelinde yavaşlatılmasını değerlendirdiklerini açıkladı. OpenAI’nin baş bilim insanı Jakub Pachocki de şirketlerin gerektiğinde gelecekteki geliştirmeleri yavaşlatmak için koordinasyon kurması gerektiğini söyledi.
🔹 Google DeepMind kurucu ortağı Demis Hassabis, Amodei’nin yaklaşımının doğru yönde olduğunu ancak ayrıntıların geliştirilmesi gerektiğini belirtti.
🔹 ABD’de yapay zekâ veri merkezlerinin yerel kaynaklar üzerindeki yükü, artan elektrik faturaları ve istihdam üzerindeki etkileri tartışılıyor. Konu, kasım ayındaki ara seçimlerin gündem maddeleri arasında yer alıyor.
🔹 Temmuz ayında önde gelen yapay zekâ şirketlerinde çalışan 1.000’den fazla kişi, teknolojinin çok hızlı ilerlemesini önlemek için ABD hükümetinin geliştirme hızını bilinçli biçimde ayarlayacak bir mekanizmayı desteklemesini istedi.
🔹 Amodei, ABD’de şirketlerin belirli alanlarda koordinasyon kurabilmesi için bazı antitröst muafiyetlerine ve Çin ile iş birliğine ihtiyaç duyulacağını söyledi. Trump yönetimi ise yapay zekâ geliştirmesine yönelik koruyucu düzenlemeler getirme konusunda şu ana kadar sınırlı ilgi gösterdi.