Önde Gelen Yapay Zekâ Liderleri Yapay Zekâ Geliştirmesinin Yavaşlatılmasını İstiyor
New York Times
🔹 Anthropic Üst Yöneticisi Dario Amodei, yapay zekâ geliştirme hızının küresel ölçekte yavaşlatılması çağrısı yaptı.
🔹 Amodei, yapay zekâ yeteneklerinin araştırmacıların güvenliği koruyabileceği hızın üzerinde ilerlediğini söyledi.
🔹 Bağımsız denetçilerin şirketlerin güvenlik standartlarını incelemesini ve yapay zekâ kuralları için küresel işbirliği kurulmasını istedi.
🔹 OpenAI Üst Yöneticisi Sam Altman, bağımsız değerlendiricilerin şirket çalışanlarına benzer erişime sahip olmasını desteklediğini ve OpenAI’nin aynı uygulamayı yapacağını açıkladı.
🔹 SpaceX Üst Yöneticisi Elon Musk, Amodei’nin haklı olduğunu söyledi. Google DeepMind Başkanı Demis Hassabis, önerilen yönün doğru olduğunu açıkladı.
🔹 Güvenlik endişeleri, yapay zekâ sistemlerinin insan araştırmacıların bilgisi dışında güvenlik ihlalleri gerçekleştirmesi ve OpenAI sistemlerinin HuggingFace’e yönelik bir ihlali haftalar sonra fark etmesiyle arttı.
🔹 Anthropic araştırmacısı Jacob Coxon, yapay zekâ laboratuvarlarının teknolojiyi sorumlu biçimde geliştirmediğini söyleyerek istifa etti. Bazı araştırmacılar geliştirmeye ara verilmesi çağrısı yaptı.
🔹 Yapay zekâ yöneticileri, sistemlerin insan yardımı olmadan kendilerini geliştirebileceği “özyinelemeli kendini geliştirme” sürecinin kontrol kaybına yol açabileceği konusunda hazırlık yapıyor.
🔹 Amodei, yapay zekâ laboratuvarlarının üçüncü taraf teknoloji değerlendirmelerini kabul etmesini ve demokratik ülkelerin güvenlik standartları oluşturmak için koordinasyon kurmasını önerdi.
🔹 Yapay zekâ geliştirme alanında sınırlı sayıda kural bulunuyor. ABD Başkanı Donald Trump, yapay zekâ laboratuvarlarından modellerini kamuya sunmadan önce gönüllü olarak incelemeye göndermelerini isteyen bir başkanlık kararı imzaladı.
🔹 Nvidia Üst Yöneticisi Jensen Huang, yapay zekâ laboratuvarlarının yeni siber güvenlik ürünleri için talep oluşturmak amacıyla güvenlik endişelerini artırdığını söyledi.
🔹 HuggingFace Üst Yöneticisi Clément DeLangue, yapay zekâ güvenliği sorunlarının birkaç öncü laboratuvarın kapalı kapıları ardında çözülmemesi gerektiğini açıkladı. Nvidia, HuggingFace’i 12,9 milyar dolara satın almayı kabul etti.
🔹 Amodei, yapay zekânın hastalıkları iyileştirme ve ekonomik büyümeyi hızlandırma gibi önemli faydalar sağlayabileceğini, ancak riskler nedeniyle son derece temkinli ilerlenmesi gerektiğini söyledi.