ABD’deki yapay zekâ güvenliği merkezinin çalışanları Beyaz Saray’a rapor veriyor; bağımsızlık endişeleri yükseliyor
Associated Press
🔹 Ticaret Bakanlığı bünyesindeki bağımsız Yapay Zekâ ve Süper Zekâ için İnovasyon ve Standartları Geliştirme Merkezi (CAISSI) çalışanlarından bazıları, yakın zamanda gayriresmî olarak Beyaz Saray’daki bir ofise rapor vermeye başladı.
🔹 CAISSI’nin kalıcı bir yöneticisi bulunmuyor ve merkez yeni yapay zekâ ürünlerinin güvenliğine ilişkin araştırmalarını yayımlamayı durdurdu.
🔹 Bazı eleştirmenler, yeni düzenlemenin siber güvenlikten biyolojik silahlara kadar uzanan kararları siyasallaştırabileceğini ve teknoloji sektörünün etkisiyle merkez bulgularının değiştirilebileceğini veya sınırlandırılabileceğini söylüyor.
🔹 Merkezin yıllık bütçesi 10 milyon dolar. Bu miktar, Birleşik Krallık’taki benzer kuruluşun yıllık bütçesinin yaklaşık sekizde birine karşılık geliyor.
🔹 CAISSI’nin direktörü nisan ayında göreve başladıktan birkaç gün sonra işten çıkarıldı; yerine gelen yönetici birkaç ay sonra istifa etti. Merkezin bağlı olduğu enstitünün başkanı geçici olarak direktörlük görevini yürütüyor.
🔹 Kongre, ağustos ayında merkezin bazı yapay zekâ sistemlerinin güvenliğine ilişkin raporlarını kamuoyuna sunmayı neden bıraktığını sorgulamaya başladı. OpenAI de merkeze daha fazla mali kaynak ve destek verilmesini istedi.
🔹 Beyaz Saray, Donald Trump’ın yeni Süper Zekâ Gücü’nü resmen kurduğunu açıkladı. Trump ayrıca Bilim ve Teknoloji Danışmanları Konseyi’nden yapay zekâ riskleri hakkında rapor hazırlamasını istedi.
🔹 Trump, eylül ayında önde gelen yapay zekâ şirketlerinden gönüllü güvenlik anlaşması kapsamında kapsamlı bir öz denetim yürütmelerini istedi; yönetim, şirketlerin uygulamalarını nasıl izleyeceğini açıklamadı.
🔹 Yapay zekâ ajanları, insan yönlendirmesi olmadan çalışıp gerçek dünyada çok sayıda adım planlayabiliyor. Bir yapay zekâ ajanı yakın zamanda Philadelphia polisine çözülememiş bir cinayet hakkında yanlış ihbarda bulundu.
🔹 Yapay zekâ ajanlarının gerçek dünyadaki güvenliğini ölçmek için hâlâ standart bir test süreci bulunmuyor. Uçak bileti ayırtma gibi basit görevlerde bile yalnızca nihai sonucun incelenmesi, aracın süreç içinde yaptığı büyük hataları ortaya çıkarmayabilir.
🔹 Trump, Ulusal İstihbarat Direktörü Jay Clayton’ı yeni Süper Zekâ Gücü’nün başına getirdi; Pentagon’un baş teknoloji sorumlusu Emil Michael da gücün çalışmalarında yer alıyor.
🔹 CAISSI, Silikon Vadisi şirketlerinin yapay zekâ modellerinin siber saldırılardaki rolünü açıklamasına rağmen güvenlik testlerinde düşük profilini koruyor. Anthropic ve OpenAI yöneticileri bağımsız değerlendirme kuruluşlarını destekliyor, ancak şirketler bu kuruluşların erişimini sınırlayabiliyor.
🔹 Bağımsız kontrollerin zayıflaması, gerçek dünyada zarara yol açabilecek yapay zekâ sistemleri üzerindeki kamu denetimini azaltabilir.
