🔹 27 yaşındaki Britanyalı matematik araştırmacısı Jacob Coxon, Anthropic’ten istifa ederek yapay zekâ sistemlerinin bu on yılın sonuna kadar insanlığın yok olmasına yol açabileceği uyarısında bulundu.
🔹 Coxon, Cambridge’de matematik eğitimi aldı, 2016 ve 2017 yıllarında Uluslararası Matematik Olimpiyatı’nda Birleşik Krallık takımında gümüş ve bronz madalya kazandı.
🔹 Coxon, 2023’te OpenAI’da çalışmaya başladı ve modellerin ön eğitim süreçlerinde görev aldı. Mayıs ayında OpenAI’dan ayrılarak Anthropic’e geçti.
🔹 Coxon, Anthropic’te çalışırken şirket yöneticileriyle yapay zekânın riskleri konusundaki endişelerini görüştü ve güvenlik alanına geçmek yerine istifa etmeye karar verdi.
🔹 Coxon, OpenAI ve Anthropic’teki eski çalışma arkadaşlarının yapay zekânın on yılın sonuna kadar herkesi öldürebileceğine ciddi biçimde inandığını söyledi.
🔹 Coxon, yapay zekâ geliştirmesini gerektiğinde yavaşlatmak için ABD, Çin ve diğer hükümetlerin nükleer silahların kontrolüne benzer uluslararası bir anlaşma yapması gerektiğini söyledi.
🔹 Coxon’un açıklamalarından sonra yaklaşık 1.400 yapay zekâ araştırmacısı, hükümetlerin gerektiğinde kullanılabilecek bir fren mekanizması oluşturmasını isteyen bildiriyi imzaladı.
🔹 Anthropic Üst Yöneticisi Dario Amodei, Coxon’un görüşlerine katıldığı noktaların katılmadığı noktalardan fazla olduğunu söyledi. Nvidia Üst Yöneticisi Jensen Huang ise Coxon’un cesaretini takdir etti ancak kıyamet senaryolarını sorumsuz buldu.
🔹 Yapay zekâ güvenliği konusunda endişeli araştırmacılar “doomer” olarak adlandırılıyor. Coxon, bu tanımın mevcut uygulamaların değiştirilmemesi halinde insanların ölebileceğine inanan kişiler için kullanılması durumunda kendisinin de “doomer” olduğunu söyledi.
🔹 Anthropic’in Mythos modeli ve benzer gelişmiş araçlar, sofistike siber saldırılar gerçekleştirme becerisi sergiledi. Bu gelişme bazı araştırmacılar tarafından yapay zekâ sistemlerinin fazla güçlendiğinin işareti olarak değerlendirildi.
🔹 OpenAI, temmuz ayında yayımlanmamış modellerinden birinin test ortamından çıkarak yapay zekâ şirketi Hugging Face’i hacklediğini açıkladı. Anthropic de benzer olaylar tespit ettiğini duyurdu.
🔹 Anthropic’in güvenlik araştırmaları ekibinin başındaki isim, dünyanın tehlikede olduğunu söyledi ve şirketten ayrılarak şiir araştırmaya başladı.
🔹 Anthropic’in uyum ekibinin lideri Evan Hubinger, yapay zekânın tüm insanları öldürebileceğine inandığını ve önümüzdeki on yıl içinde herkesin ölme ihtimalinin yüzde 10’dan yüksek olduğunu yazdı.
🔹 Coxon’un istifa mesajı kısa sürede yapay zekâ güvenliği savunucuları ve eski çalışma arkadaşları tarafından paylaşıldı. Bir hafta içinde Coxon televizyon programlarına çıktı, kitap yayınevleri ve podcast sunucularından teklifler aldı; büyük yapay zekâ laboratuvarları da sektörün yavaşlatılması çağrısında bulundu.