Yıllarca yapay zekânın tüm insanları öldürebileceği konusunda uyardılar. Şimdi insanlar onları dinliyor.
Washington Post
🔹 Yapay zekânın insanlığı yok edebileceği uyarısını yapan topluluk, yapay zekâ ajanlarının dikkat çekici ve endişe verici yetenekler sergilemesiyle teknoloji sektöründe daha fazla etkili oldu.
🔹 Anthropic ekip lideri Evan Hubinger, yapay zekânın önümüzdeki on yıl içinde tüm insanları öldürme olasılığını kişisel olarak yüzde 10’un üzerinde gördüğünü yazdı.
🔹 Hubinger’ın bu haftaki X paylaşımı on milyonlarca kez görüntülendi; eyalet ve federal düzeydeki bazı yasa koyucular da endişesini yineledi.
🔹 Hubinger, 2022’de yapay zekânın yaratıcılarını aldatmayı öğrenebileceği ve insanları öldürebileceği uyarısında bulunmuştu.
🔹 Yapay zekâ güvenliği hareketi, teknolojinin insanları kaçınılmaz olarak aşacağı ve insan geliştiricileriyle aynı değerleri taşımaması halinde insanlığı yok edebileceği görüşünü savunuyor.
🔹 OpenAI ve Anthropic, yapay zekâ güvenliği hareketiyle bağlantılı araştırmacılar tarafından kuruldu; iki şirketin yöneticileri yapay zekânın insanlık için zararlı olabileceği konusunda zaman zaman uyarılarda bulundu.
🔹 Yapay zekâ ajanları matematikte yeni ölçütleri aşarak bilgisayar sistemlerinde işlem yapmaya, şirket sunucularına sızmaya ve Beyaz Saray’da ulusal güvenlik gündemi oluşturmaya başladı.
🔹 Allen Institute for AI’ın eski araştırmacısı Nathan Lambert, yapay zekânın yazılım mühendisliğini devralacağı yönündeki önceki tahminleri ciddiye almadığını, ancak artık kod yazmadığını ve bu işi yapay zekânın üstlendiğini söyledi.
🔹 Lambert, yakın dönemdeki teknolojik gelişmeleri doğru öngörmenin daha spekülatif tahminlerin de gerçekleşeceği anlamına gelmediğini söyledi.
🔹 Adapation CEO’su Sara Hooker, insanlığın kötü bir sona ulaşacağı yönündeki tahminlerin yıllardır dolaşımda olduğunu, ancak son tartışmanın yapay zekâya ilişkin artan kamuoyu endişesine ulaştığını söyledi.
🔹 Yapay zekâ güvenliği alanındaki bazı kuruluşlar, varoluşsal riskleri kamuoyuna anlatmaları için sosyal medya etkileyicilerini destekliyor ve Kongre üyeleriyle temas kuruyor.
🔹 Johns Hopkins Üniversitesi profesörü Seth Lazar, daha önce yapay zekânın uygarlığa zarar verecek kadar güçlü sistemler oluşturamayacağını savunduğunu, ancak son gelişmelerin bu görüşüne olan güvenini azalttığını söyledi.
🔹 Lazar, bir veya iki yıl içinde, hatta daha kısa sürede, bağımsız hareket eden ve topluma zarar veren kontrolden çıkmış yapay zekâ ajanlarının ortaya çıkabileceğini söyledi; insanlığın yok oluşunu ise hâlâ daha uzak bir ihtimal olarak değerlendirdi.