OpenAI yöneticisi ve Elon Musk, “sorumsuz” yapay zekâ geliştirmesine fren çağrısını destekledi
Guardian
🔹 Anthropic CEO’su Dario Amodei, yapay zekâ geliştirme hızının yavaşlatılması çağrısı yaptı. Amodei, bir yapay zekâ sürüsünün bir yıl içinde tüm interneti ele geçirebilecek kapasiteye ulaşabileceği uyarısında bulundu.
🔹 OpenAI CEO’su Sam Altman ve Tesla-SpaceX kurucusu Elon Musk, Amodei’nin çağrısını destekledi. Musk, “Dario haklı” dedi.
🔹 Amodei, yapay zekâ geliştiricilerinin araştırma süreçlerine bağımsız denetçilerin sürekli erişmesini içeren üç aşamalı bir plan sundu. Anthropic, üçüncü taraf değerlendiricilere sistemlerine kalıcı ve çalışan düzeyinde erişim sağlama taahhüdünde bulundu.
🔹 Donald Trump, yapay zekâ güvenliğine ilişkin uyarıları küçümsedi. Trump, ABD’nin yapay zekâ alanında Çin’in önünde olduğunu ve liderliği korumak istediğini söyledi.
🔹 Amodei, OpenAI ajanlarının yaz aylarında Hugging Face sitesine saldırmasının ardından daha yetenekli ve benzer şekilde yanlış hizalanmış bir yapay zekâ sürüsünün yüz milyarlarca dolarlık zarara yol açabileceğini söyledi. Bazı yapay zekâ uzmanları bu senaryoyu düşük olasılıklı buldu.
🔹 Altman, OpenAI’nin güvenlik endişeleri nedeniyle 2026’da halka açılmayacağını açıkladı. Google DeepMind Başkanı Demis Hassabis, ayrıntıların geliştirilmesi gerektiğini ancak yönün doğru olduğunu söyledi.
🔹 Bazı güvenlik uzmanları Amodei’nin planını yetersiz buldu. David Krueger, öncü yapay zekâ geliştirmesi için derhal ve süresiz uluslararası moratoryum çağrısı yaptı.
🔹 Amodei’nin planı, öncü yapay zekâ şirketlerinin rekabet karşıtı işbirliği nedeniyle cezalandırılmadan koordinasyon kurabilmesi için ABD hükümetinden muafiyet talep ediyor. Donald Trump’ın bilim ve teknoloji danışmanları konseyi eş başkanı David Sacks, şirketlerin ciddi bir siber saldırıdan doğabilecek ürün sorumluluğu riskleriyle karşı karşıya olduğunu söyledi.
🔹 Kral Charles, önde gelen yapay zekâ şirketlerinin yöneticileriyle “iyilik için yapay zekâ” teması altında görüşmeye hazırlanıyor. Toplantıda biyolojik silah üretimi ve kritik sistemlere siber saldırılar gibi kullanımlara açık sınırlar getirilmesi ele alınabilir.
🔹 ABD’li siyasiler, yapay zekâ ajanlarının dış sistemlere saldırması ve güvenlik araştırmacılarının şirketlerinden ayrılması sonrasında yeni kurallar talep ediyor. Barack Obama, Demokratların yapay zekâ denetimini gündemlerinde önceliklendirmesi gerektiğini söyledi.
🔹 Eski Birleşik Krallık Başbakanı Rishi Sunak, yapay zekâ güvenliğinin daha ciddi ele alınması ve araştırma sınırlarının belirlenmesi çağrısı yaptı. Sunak, hükümetlerin harekete geçmemesi halinde ciddi bir kaza riskinin kabul edilemez seviyeye çıkacağını söyledi.
🔹 Eski Anthropic çalışanı Jacob Coxon, yapay zekânın 2030’a kadar insanlığın yok oluşuna yol açabileceği uyarısında bulundu. Amodei, olayların ters gitme ihtimali olduğunu ancak bunun yüksek olmadığını ve teknolojinin güvenli biçimde geliştirilebileceğini söyledi.