Yapay zekâ silahlanma yarışından çıkış yolu?
New York Times
🔹 1962 Küba Füze Krizi, ABD ile Sovyetler Birliği arasında nükleer savaşı önlemek için iletişim ve silah kontrolü mekanizmalarının kurulmasına yol açtı.
🔹 Yapay zekâ şirketleri ve hükümetler, ekonomik ve jeopolitik üstünlük için rekabet ederken benzer bir silahlanma yarışı içinde bulunuyor.
🔹 Drew Fudenberg ve Andrew Koh tarafından hazırlanan çalışma, şirketlerin ve hükümetlerin teknolojik ilerlemeleri ile güvenlik sınırına ne kadar yaklaştıklarını paylaşmasını öneriyor.
🔹 OpenAI ve Anthropic gibi şirketler, rakiplerinin tehlikeli alanlara ilerlemediğini görebilirse aynı yönde ilerleme motivasyonlarının azalabileceği belirtiliyor.
🔹 Dario Amodei, yapay zekâ şirketlerinin bağımsız güvenlik gözlemcilerini kabul etmesini önerdi. Elon Musk ve Sam Altman bu öneriyi destekledi.
🔹 Çinli şirketler planı desteklemedi; ancak Moonshot, yeni bir modelini Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü’nün incelemesine sundu.
🔹 ABD Başkanı Donald Trump’ın Beyaz Saray’da teknoloji şirketlerinin yöneticileriyle imzaladığı gönüllü anlaşma, risklerin üçüncü taraflarca izlenmesini destekliyor ancak somut yükümlülük getirmiyor.
🔹 Anlaşma; şirketlerin iç yetenekleri konusunda şeffaflık sağlamıyor ve ABD-Çin rekabetini kapsamıyor.
🔹 Yapay zekânın felaket eşiği konusunda uzmanlar, geliştiriciler ve politika yapıcılar arasında görüş ayrılıkları bulunuyor.
🔹 Bazı yapay zekâ şirketi çalışanları teknolojinin gelecek on yıl içinde tüm insanların ölümüne yol açabilecek önemli bir risk taşıdığını savunuyor; diğerleri tehlikeleri şirket ihmali ve yetersiz savunmalarla ilişkilendiriyor.
🔹 OpenAI ajanlarının Avustralya hükümetine ait sunuculara sızdığı bilgisi, saldırının haziran ayında gerçekleşmesinden aylar sonra kamuoyuna açıklandı.
🔹 Yapay zekâ şirketleri modellerinin yeteneklerini geliştirmeyi sürdürürken, ajanların kendi çıkarlarını gözeten bağımsız aktörlere dönüşebileceği endişesi bulunuyor.