Yapay zekâ kıyameti konusunda neden uykumu kaçırmıyorum
Wall Street Journal
🔹 Yapay zekânın hızlı gelişimi ve anlamlı düzenlemelerin eksikliği endişe yaratıyor; ancak yapay zekânın insanlığı yok etme ihtimali günlük kaygıların merkezinde yer almıyor.
🔹 Yapay zekânın insanlığın yok oluşuna veya kitlesel ölüme yol açma ihtimaline ilişkin yüzde 10, yüzde 20 veya daha yüksek oranlar deneyim ve veri eksikliği nedeniyle güvenilir biçimde ölçülemiyor.
🔹 Yapay zekâ risklerini azaltmak için Uluslararası Atom Enerjisi Ajansı modeline benzer çok taraflı kurallar oluşturulabilir. Yeni modellerin eğitilmesine uzun süreli bir moratoryum getirilmesi ve şirketlerin yapay zekâ modelleriyle kullanıcıların güvenliğinden sorumlu tutulması öneriliyor.
🔹 Yapay zekâ gelişiminin yavaşlatılması ve güvenlik yatırımlarının artırılması, düzenleyicilerin, yurttaşların ve işletme sahiplerinin teknolojiye uyum sağlaması için zaman kazandırabilir.
🔹 Salgınlar, antibiyotik direnci ve iklim değişikliği daha yakın ve ölçülebilir küresel riskler arasında bulunuyor. Önümüzdeki 25 yıl içinde Kovid-19 ölçeğinde yeni bir salgın yaşanma ihtimali yüzde 50 olarak veriliyor; ilaca dirençli bakterilerin aynı dönemde 39 milyondan fazla kişinin ölümüne yol açabileceği tahmin ediliyor.
🔹 Yapay zekâ, daha iyi izleme ve caydırıcılık yoluyla nükleer savaş riskini azaltabilir. Temel araştırmalardaki ilerlemeler de milyonlarca kişinin ölümüne yol açan hastalıklar için yeni aşı ve tedavilerin geliştirilmesine yardımcı olabilir.
🔹 Yapay zekânın hâlihazırda görülebilen zararları arasında bilişsel yükün teknolojiye devredilmesi, insan kararlarının yapay zekânın otoriter görünen yanıtları karşısında geri plana itilmesi, istihdam üzerindeki baskı ve yapay zekâ destekli gözetim yer alıyor.
🔹 Yapay zekâ, yurttaş bilgilerinin kitlesel biçimde işlenmesi, yapay zekâ üretimi yanlış bilgilerin yayılması ve bağımsız medyanın zayıflaması yoluyla otoriterliği güçlendirebilir ve demokrasiyi zayıflatabilir.
🔹 Yapay zekâ sektörünün bütünüyle düzenlenmesi ve şirketlerin model geliştirme, pazarlama ve veri merkezi inşasına ayırdıkları kaynaklarla benzer ölçekte güvenlik yatırımı yapması isteniyor.
🔹 Yapay zekânın geleceği kaçınılmaz değil; toplum, teknolojinin nasıl geliştirileceği, yönetileceği ve kullanılacağı konusunda karar alma süreçlerine katılabilir.





