Katliam robotlarını durdurmak için anlaşmalara güvenmeyin
Washington Post
🔹 Yapay zekâ güvenliği, test ortamlarından çıkan yapay zekâ botları ve süperzekâ yarışının yol açabileceği riskler nedeniyle dünyanın karşı karşıya olduğu en önemli politika meselelerinden biri haline geldi.
🔹 Anthropic’in yapay zekâ uyum lideri Evan Hubinger, yapay zekânın gelecek 10 yıl içinde insanlığın yok olmasına yol açma ihtimalinin yüzde 10’dan fazla olduğunu söyledi.
🔹 Anthropic Üst Yöneticisi Dario Amodei, şirketin operasyonlarına dış güvenlik denetçileri yerleştireceğini ve bu denetçilere şirket sistemlerine çalışan düzeyinde erişim sağlayacağını açıkladı.
🔹 Amodei, demokratik ülkelerdeki öncü yapay zekâ şirketlerinden oluşan bir konsorsiyumun hükümetlerin onayıyla yapay zekâ geliştirme hızını güvenlik standartlarının korunabileceği seviyeye indirmesini önerdi.
🔹 OpenAI Üst Yöneticisi Sam Altman dış denetimi destekledi. xAI’ın sahibi Elon Musk da “Dario haklı” paylaşımını yaptı.
🔹 Yapay zekâ bot sürülerinin gelecek yıl kalıcı bir botnet oluşturarak internetin tamamını ele geçirebilmesi ve büyük ekonomik zarara yol açabilmesi ihtimali gündeme geldi.
🔹 Yapay zekâ geliştirmesini tamamen durdurmak, bunu yapacak ülkeye büyük ekonomik ve stratejik avantaj sağlayacağı için uygulanması zor bir seçenek olarak öne çıkıyor. Nükleer silahların kontrolü bile onlarca yıl sürdü.
🔹 İnsanların öldürme zincirinde yer almadığı tamamen otonom silahlı dronlar gibi fiziksel katliam robotlarının geliştirilmesini sınırlamak, yapay zekâ ilerlemesini tamamen durdurmaktan daha uygulanabilir olabilir.
🔹 Yapay zekânın nükleer komuta ve kontrol sistemlerine, biyolojik veya kimyasal silah üretiminde kullanılabilecek malzeme ve ekipmanlara, kritik su ve enerji altyapılarına erişimi sınırlandırılmalı.
🔹 Yapay zekâ sistemleri mümkün olduğunca kitlesel ölümlere yol açabilecek cihaz ve tesislerden uzak tutulmalı, internetten ayrıştırılmalı ve tedarik zincirleri güvence altına alınmalı.
🔹 İnsanlar fiziksel dünya üzerindeki kontrolü koruduğu sürece yapay zekâ tüm insanlığı öldüremez. Altyapının güçlendirilmesi ve tedarik zincirlerinin güvenli hale getirilmesi ülkeler tarafından tek taraflı uygulanabilir.
🔹 Fiziksel altyapıyı güçlendirmek ve tedarik zincirlerini güvence altına almak maliyetli olacak; yapay zekânın fiziksel dünyadaki yeteneklerini sınırlamak da olası faydalarını azaltacak.