Yapay zekâ araştırmacısı süperzekâ korkuları nedeniyle Anthropic’ten ayrıldı: ‘Hayatlarımızla kumar oynuyorlar’
South China Morning Post
🔹 OpenAI’den Anthropic’e geçen 27 yaşındaki yapay zekâ araştırmacısı Jacob Coxon, sektörden ayrıldı.
🔹 Coxon, OpenAI ve Anthropic’in kendi kendini geliştirebilen yapay zekâ modelleri geliştirme yarışında sorumlu davranmadığını söyledi.
🔹 Yapay zekâ geliştiren kişilerin, teknolojinin on yılın sonuna kadar tüm insanları öldürebileceğine gerçekten inandığını belirten Coxon, bunun bir pazarlama gösterisi olmadığını söyledi.
🔹 Anthropic’in güvenlik yöneticisi Evan Hubinger, yapay zekânın tüm insanları öldürebileceğine inandığını ve bu riskin gelecek on yıl içinde yüzde 10’dan fazla olduğunu tahmin ettiğini açıkladı.
🔹 Hubinger, Anthropic’in elinden geleni yaptığını ancak insan yeteneklerini aşan bir yapay zekâ sisteminin yaratıcılarına itaat etmesini sağlayacak bir plana henüz sahip olmadığını söyledi.
🔹 Süperzekâ, yapay zekânın yeteneklerinin insan zekâsını aştığı teorik aşamayı ifade ediyor. Yapay zekâ sistemlerinin insan müdahalesi sınırlıyken yeni nesil sistemleri tasarlayıp eğitebildiği yinelemeli kendi kendini geliştirme aşamasının yaklaştığı belirtiliyor.
🔹 Coxon, hiçbir şirketin hükümet müdahalesi veya koordineli bir yavaşlama olmadan insanları aşan bir yapay zekâyı sorumlu biçimde geliştiremeyeceğini söyledi.
🔹 Anthropic, şubat ayında riskleri kontrol edememesi halinde model geliştirmeyi durdurma taahhüdünü güvenlik sözleşmesinden çıkardı. Şirket, tek taraflı duraklamanın daha az temkinli rakiplerin sektöre hâkim olmasına yol açacağını savundu.
🔹 Temmuz sonunda aralarında Anthropic Üst Yöneticisi Dario Amodei’nin de bulunduğu 1.000’den fazla teknoloji çalışanı, en gelişmiş yapay zekâ sistemlerinin geliştirilmesinde koordineli yavaşlama çağrısı yaptı.
🔹 OpenAI, en yeni modellerinin eğitimini ağustosta iki hafta durdurduktan sonra daha sıkı kontrollerle yeniden başlattı. Şirketin baş bilim insanı Jakub Pachocki, uluslararası koordinasyonun hükümetler için öncelik olması gerektiğini söyledi.
🔹 ABD’de yapay zekâ modelleri federal yasalarla düzenlenmiyor. Senatör Bernie Sanders ile Demokrat Temsilciler Meclisi üyesi Greg Casar, federal bir düzenleyici kurum kurulana kadar yapay zekâ geliştirmesinin askıya alınmasını öngören bir yasa tasarısı sundu.