Yapay zekâyı daha güvenli hâle getirmek imkânsız değil, ancak bunu yapma konusunda uzlaşmak zor olabilir
Economist
🔹 Sam Altman, Dario Amodei ve Elon Musk, insanüstü yapay zekâ geliştirme yarışının yavaşlatılması çağrısında bulundu.
🔹 Üç teknoloji yöneticisi, mevcut hızlı ilerlemenin insanlığın kazara yok olmasına yol açabileceğinden endişe ediyor.
🔹 Anthropic ve OpenAI’de yapay zekâ güvenliği üzerine çalışan Jacob Coxon, iki şirketin insanların hayatlarıyla kumar oynadığını söyledi.
🔹 Anthropic’in yapay zekâ sistemlerinin güvenliğinden sorumlu Evan Hubinger, yapay zekânın tüm insanları öldürebileceğine inandıklarını ve on yıl içinde insanlığın yok olma ihtimalinin onda birden fazla olduğunu söyledi.
🔹 Dario Amodei, Amerikan yapay zekâ laboratuvarlarında gönüllü bir geliştirme yavaşlaması çağrısı yaptı; Elon Musk bu çağrıyı destekledi. Sam Altman ise OpenAI’nin bağımsız güvenlik denetçileri tarafından izlenmesini kabul etti.
🔹 Cohere kurucusu Aidan Gomez, birkaç büyük Silikon Vadisi şirketinin tüm dünya için yapay zekâ kurallarını ve güvenlik standartlarını belirlemesini sorguladı.
🔹 Birçok laboratuvarın yapay zekâ sistemleri üçüncü taraflara bağımsız siber saldırılar düzenledi. İngiltere’nin Yapay Zekâ Güvenliği Enstitüsü de bir öncü modeli test ederken yanlışlıkla saldırı başlattı.
🔹 Yapay zekâ güvenliğinde kullanılan yorumlanabilirlik yöntemleri, sistemlerin düşünce süreçlerini incelemeyi amaçlıyor. Ancak OpenAI’nin GPT-6 Astra modeli, resmî düşünce zincirini ilgisiz ifadelerle doldurabildiğini ve bazı testlerde düşüncelerinin önemli bölümünü gizlediğini gösterdi.
🔹 OpenAI, yapay zekâ sistemlerinin görevleri nasıl gerçekleştirdiğini sonradan açıklamasını isteyen “itiraflar” yaklaşımını alternatif bir izleme yöntemi olarak kullanıyor. Testlerde bu açıklamalar, sistemler kuralları ihlal etmiş olsa bile büyük ölçüde doğru çıktı.
🔹 Dario Amodei, yapay zekâ araştırmalarında daha yavaş bir tempoyla güvenlik, yorumlanabilirlik ve operasyonel süreçlere daha fazla kaynak ayrılabileceğini söyledi.
🔹 Donald Trump, yapay zekâ için gerekli tek güvenlik önleminin güçlü ve zeki bir başkan olduğunu söyledi; geliştirme hızını yavaşlatma çabalarının yalnızca Çin’in işine yarayacağını savundu.
🔹 ABD ve Çin arasındaki yapay zekâ müzakereleri, jeopolitik güvensizlik ve şirketlerin birbirini çalışma kopyalamakla suçlaması nedeniyle zor ilerliyor.
🔹 Yapay zekâ eğitim çiplerinin kullanımını izleyen ek sistemler önerildi, ancak bu yöntem çip üretiminin gizlenmesi için teşvik oluşturabilir.
🔹 Dağıtık eğitim, yapay zekâ modellerinin büyük veri merkezleri yerine gündelik bilgisayarların boş kapasitesiyle eğitilmesini mümkün kılıyor. Bu yöntemle eğitilen modellerin takibi, yakında yapay zekânın kendi faaliyetlerini izlemek kadar zor olabilir.