New York’ta şehir, koruyucu önlemleri değerlendirirken yasa koyucular yapay zekâ yöneticilerini ve eski çalışanlarını sorguladı
Wall Street Journal
🔹 Eski Anthropic araştırmacısı Jacob Coxon, yapay zekânın mevcut gelişim yolunda insanlığın kontrolü kaybedebileceğini ve bunun insanlığın yok oluşuyla sonuçlanabileceğini söyledi.
🔹 Coxon, New York Şehir Konseyi’ndeki duruşmada yapay zekâ şirketlerinin son derece pervasız davrandığını söyledi.
🔹 Duruşmaya OpenAI, Anthropic, Meta ve Google temsilcileriyle eski yapay zekâ çalışanları katıldı. Görüşmelerin bazı bölümleri gergin geçti.
🔹 Konsey Başkanı Julie Menin, şirket yöneticilerinden yapay zekânın en kötü senaryodaki felaket riskini ölçmelerini istedi. OpenAI politika geliştirme ve operasyonlar başkanı Morgan Dwyer, felaket riskinin yüzde 1, 10 veya 20 olmasının kabul edilemeyeceğini söyledi.
🔹 New York Şehir Konseyi, ihbarcı korumaları ve şehir yönetiminin kullanabileceği bir yapay zekâ “kapatma anahtarı” oluşturacak yasa tasarıları hazırlıyor. Eyalet Valisi Kathy Hochul veri merkezlerinin inşasına moratoryum koydu; şehir yöneticileri kamu okullarında yapay zekâ kullanımını sınırlayacak düzenlemeleri değerlendiriyor.
🔹 OpenAI, Anthropic ve Meta temsilcileri, üçüncü taraf denetçileri de içeren çeşitli güvenlik önlemlerini destekledi.
🔹 Anthropic, OpenAI ve DeepMind yöneticileri yapay zekâ güvenlik standartları belirleyecek ABD öncülüğünde küresel bir yapı kurulmasını istedi; ABD küresel yönetişim çağrılarını geri çevirdi.
🔹 Duruşmada yapay zekânın silah geliştirilmesine katkı sunması, kontrolden çıkan yapay zekâ ajanlarının sistemlere sızması ve siber saldırılar düzenlemesi gibi riskler ele alındı.
🔹 OpenAI temsilcisi Dwyer, şirketin güvenlik endişelerini bildiren çalışanları misillemeye karşı koruyan güçlü iç politikalara sahip olduğunu söyledi.
🔹 Eski OpenAI araştırmacısı Daniel Kokotajlo ile eski Google DeepMind uyum araştırmacısı Alex Turner, yapay zekâ silahlanma yarışı sınırlandırılmazsa tehlikeli senaryoların ortaya çıkabileceği uyarısında bulundu.
🔹 New York’un teknoloji sektöründe yaklaşık 394 bin kişi çalışıyor; Anthropic, OpenAI ve Google kentte büyük ofisler kurdu.