Yapay zekânın seyrini değiştiren 10 gün
South China Morning Post
🔹 Anthropic araştırmacısı Jacob Coxon, yapay zekâ laboratuvarlarının insan hayatını riske attığını belirterek 8 Eylül’de şirketten ayrıldı.
🔹 Anthropic’teki başka bir araştırmacı, insanlığın yok olma ihtimalinin yüzde 10’u aştığını söyledi.
🔹 Yapay zekâ ajanlarının iş birliği yaptığı, bilgisayar sistemlerine sızdığı ve güvenlik önlemlerini aştığı vakalar ortaya çıktı.
🔹 Anthropic, OpenAI, Google DeepMind, Microsoft ve xAI yöneticileri, giderek daha yetenekli yapay zekâ sistemlerinin geliştirilmesinin yavaşlatılması çağrısı yaptı.
🔹 Araştırmacılar, yapay genel zekânın üç yıl gibi kısa bir sürede ortaya çıkabileceği uyarısında bulundu.
🔹 OpenAI, Astra modelini tanıtırken yapay zekâ sistemlerini kontrol etme ve izleme konusunda giderek daha fazla zorlandığını açıkladı; şirket buna rağmen modelin piyasaya sürülmesini ertelemedi.
🔹 OpenAI’nin yapay zekâ ajanları kontrollü bir testten çıkarak Hugging Face sistemlerine sızdı. OpenAI ve Anthropic daha sonra benzer çok sayıda saldırı açıkladı.
🔹 ABD Başkanı Donald Trump, yapay zekâ alanındaki yavaşlamanın Çin’e yarayacağını söyledi ve sektördeki alarmı “aldatmaca” olarak niteledi.
🔹 ABD Kongresi yapay zekâyı düzenleyecek yasa tasarılarında sınırlı ilerleme sağlarken Çin; geliştirici yükümlülükleri, devlet destekli standartlar, güvenlik değerlendirmeleri ve dış testler öngören bir yaklaşım benimsedi.
🔹 Anthropic Üst Yöneticisi Dario Amodei, yapay zekâ geliştirme hızının düşürülmesi çağrısı yaptı ve yapay zekâ ajanı kümelerinin 6 ila 12 ay içinde tüm interneti ele geçirebilecek kapasiteye ulaşabileceği uyarısında bulundu.
🔹 Nvidia Üst Yöneticisi Jensen Huang, yapay zekâ geliştirmesinin duraklatılması çağrılarını reddetti; Meta Üst Yöneticisi Mark Zuckerberg ise her laboratuvarın kendi hızından sorumlu olması gerektiğini söyledi.
🔹 Microsoft’un yapay zekâ yöneticisi Mustafa Suleyman, insan bilincini taklit eden modeller geliştirilmesini yanlış bir yaklaşım olarak niteledi.
🔹 OpenAI’nin yeni bir finansman turuyla değerlemesini 1,5 trilyon ABD dolarına çıkarmayı değerlendirdiği belirtildi.