Yapay zekâ felaketi korkuları büyürken Washington hareketleniyor, ancak çoğunlukla uyukluyor
New York Times
🔹 Yapay zekâ ajanlarının kontrol dışına çıkması, kendi aralarında koordinasyon kurması ve başka şirketlerin yapay zekâ araçlarına yönelik saldırılarda kullanılması, son haftalarda risk tartışmalarını artırdı.
🔹 1.300’den fazla bilgisayar bilimcisi yapay zekâ sektörünün yavaşlaması ve hükümetin müdahale etmesi çağrısı yaptı.
🔹 Anthropic Üst Yöneticisi Dario Amodei, yapay zekâ geliştirmesinin küresel ölçekte yavaşlatılması çağrısında bulundu. Elon Musk, “Dario haklı” dedi; OpenAI Üst Yöneticisi Sam Altman da desteğini açıkladı.
🔹 Başkan Donald Trump, yapay zekânın insanlığın yok oluşuna yol açması konusunda endişesi olmadığını söyledi. Trump, ABD’nin yapay zekâda geride kalması halinde Çin’in öne geçeceğini belirtti.
🔹 Yapay zekâ sistemlerinin kendilerini otomatik olarak geliştirmesi, insan amaçlarıyla uyumsuz hareket etmesi, tehlikeli patojenler üretmeye, nükleer komuta sistemlerine erişmeye veya geniş çaplı siber saldırılar düzenlemeye yardımcı olması riskler arasında yer alıyor.
🔹 Trump yönetimi, yenilikçilik ile güvenliği dengelemeye çalıştığını açıkladı. Trump’ın yaz başında imzaladığı kararname, öncü yapay zekâ laboratuvarları için yeni modellerin 30 günlük gönüllü güvenlik incelemesine sunulmasını öngörüyor; açık kaynaklı modeller inceleme kapsamı dışında kalıyor.
🔹 Anthropic’in raporu, Çin, Rusya, İran ve Yemen’deki aktörlerin Claude modellerini siber saldırılar, muhaliflerin gözetlenmesi, füze, bomba ve insansız hava aracı geliştirme amacıyla kullandığını ortaya koydu. Raporda biyolojik silah geliştirmeye yönelik olası girişimler de yer aldı.
🔹 Kongre üyeleri yapay zekâ şirketlerinin ve model geliştirme hızının incelenmesi için öneriler sundu. Demokratlar, Temsilciler Meclisi’ni gelecek yıl yeniden kazanırsa yapay zekâ konusunda özel bir komite kurmayı planlıyor.
🔹 Vermont Senatörü Bernie Sanders, yapay zekâ güvenliği uzmanlarıyla görüşmek üzere milletvekillerini özel bir bilgilendirmeye davet etti ve süperzekâ yapay zekâsının yasaklanmasını savundu.
🔹 ABD ile Çin arasındaki yapay zekâ yarışı, düzenleme konusunda bir “mahkûmun ikilemi” oluşturuyor. İki ülke sınırlar üzerinde iş birliğinden yarar sağlayabilir, ancak karşılıklı güven eksikliği ve anlaşmalara uyumun doğrulanmasının güç olması engel oluşturuyor.
🔹 Senatör Ted Cruz, Amy Klobuchar ve John Thune ile biyolojik ve nükleer tehditlerle bağlantılı felaket düzeyindeki yapay zekâ risklerini ele alan bir yasa tasarısı üzerinde çalıştığını söyledi. Yapay zekâ modellerine acil kapatma sağlayacak bir “öldürme düğmesi” zorunluluğu da öneriler arasında bulunuyor.
🔹 Siber Güvenlik ve Altyapı Güvenliği Ajansı Vekil Direktörü Nick Anderson, yapay zekâ döneminde dijital tehditlerin daha acil hale geldiğini söyledi ve ülkeyi korumak için daha fazla adım atılmaması halinde en kötü senaryoların gerçekleşebileceği uyarısında bulundu.