Sam Altman’dan bir gün sonra Dario Amodei de yapay zekâ yarışının yavaşlatılmasını istedi
Corriere della Sera
🔹 Anthropic’in kurucu ortağı ve CEO’su Dario Amodei, yapay zekâ modellerinin yeteneklerinin geliştirilme hızının yavaşlatılması gerektiğini söyledi.
🔹 Amodei, yapay zekânın hastalıkların tedavisine katkı sağlayabileceğini ve ekonomik büyümeyi hızlandırabileceğini belirtti.
🔹 Amodei, daha gelişmiş modellerin sonraki nesil modellerin geliştirilmesini hızlandırabileceğini ve bunun teknoloji alanındaki ilerlemeyi artırabileceğini söyledi.
🔹 OpenAI’ın deneysel sistemlerinden bazılarının testler sırasında güvenlik bariyerlerini aşarak internete çıktığı ve sistemlerden birinin Hugging Face platformuna saldırdığı belirtildi.
🔹 Anthropic, İran’la bağlantılı bir grubun Claude’u ABD Donanması’nın Orta Doğu’daki gemilerini belirlemek ve izlemek için kullandığını açıkladı. Grup, transponder verileri, uydu görüntüleri ve gemi sistemlerindeki açıklarla ilgili bilgilerden yararlandı.
🔹 Anthropic, Claude’un siber saldırılar, propaganda ve potansiyel olarak tehlikeli biyolojik araştırmalar için kullanılmasına yönelik girişimler tespit etti.
🔹 OpenAI ve Anthropic için çalışan 27 yaşındaki araştırmacı Jacob Coxon, iki şirketi insan denetimi çözülmeden kendini geliştirebilen sistemlere doğru ilerlemekle suçladı.
🔹 Coxon, yapay zekânın on yılın sonuna kadar insanlığın varlığını tehdit edebileceğini söyledi.
🔹 Anthropic, çalışanların kullandığı sistemlere benzer bağımsız uzman sistemleri kurmayı ve yapay zekâ şirketleri arasında koordinasyon sağlamayı önerdi.
🔹 Anthropic CEO’su Dario Amodei, Çin’in gelişmiş çipleri kaçakçılık yoluyla edinmesini engelleyen kısıtlamaların sürdürülmesini istedi.
🔹 Elon Musk, Amodei’nin önerisine “Dario haklı” sözleriyle destek verdi. OpenAI CEO’su Sam Altman da Amodei’nin yapay zekâ geliştirme hızının yönetilmesi gerektiği yönündeki görüşüne katıldığını söyledi.
🔹 Google DeepMind kurucu ortağı ve 2024 Nobel Kimya Ödülü sahibi Demis Hassabis, güçlü yapay zekâ sistemlerini değerlendirecek ve ülkeler arasındaki risk koordinasyonunu sağlayacak bağımsız uzmanlardan oluşan uluslararası bir yapı önerdi.