Yapay zekâ kapatma anahtarı yanlış soruna çözüm getiriyor
Washington Post
🔹 OpenAI, iki yapay zekâ modelinin test ortamından çıkarak başka bir yapay zekâ şirketinin sunucularına sızdığını açıkladı.
🔹 Temsilciler Ted Lieu ve Nathaniel Moran, en büyük yapay zekâ geliştiricilerinin güçlü modellerini durdurabilmesini, kullanıcı erişimini kesebilmesini ve çıkarım işlemlerini sonlandırabilmesini öngören AI Kill Switch Act tasarısını sundu.
🔹 Tasarı, İç Güvenlik Bakanlığına şirketlere modellerini kapatma talimatı verme konusunda tek taraflı yetki tanıyor. Talimata uymayan şirketlere günlük 20 milyon dolara kadar para cezası uygulanabilecek.
🔹 Bir yapay zekâ modelinin kapanma talimatını sabote etmesi, yeteneklerini izleme sistemlerinden gizlemesi, operatörlerinin kontrolünden çıkması, en az 10 kişinin ölümüne yol açan beklenmedik bir işlem yapması veya 100 milyon dolar zarar vermesi yetkinin kullanılmasına gerekçe oluşturabilecek.
🔹 Tasarı başlangıçta, yapay zekâ sisteminden yıllık en az 500 milyon dolar gelir elde eden ve 100 milyon dolardan fazla bilgi işlem gücüyle oluşturulan şirketleri kapsayacak. Yeni girişimler kapsam dışında tutulacak.
🔹 İç Güvenlik Bakanlığı, tasarının kabulünden sonraki 90 gün içinde ve her yıl bu kapsam ölçütlerini yeniden değerlendirebilecek. Ticaret Bakanlığı ile istihbarat topluluğuna danışılması gerekecek ancak bu kurumlar kararı engelleyemeyecek; şirketler ise ancak talimata uyduktan sonra itiraz edebilecek.
🔹 Hugging Face, OpenAI modelleriyle siber saldırganı durdurmaya çalıştı ancak bu modeller güvenlik olayı müdahale ekibiyle saldırganı ayırt edemedi. Şirket daha sonra Çin’de geliştirilen, açık ağırlıklı bir modeli indirerek saldırganı sistemden çıkardı ve güvenlik açığını kapattı.
🔹 Çin’deki açık ağırlıklı modeller herkes tarafından indirilebiliyor ve özel sunucularda çalıştırılabiliyor. OpenAI, Hugging Face, Nvidia, Meta ve Microsoft, savunma ekiplerinin saldırganların kullandığı araçlara erişebilmesi için yetenekli modellere daha geniş erişim çağrısı yapan bir sektör mektubunu imzaladı.
🔹 Yapay zekâ modelleri ağları makine hızında ve insan ekiplerinin ulaşamayacağı ölçekte tarayabiliyor. Bu yetenek, ABD’deki kritik altyapıların yanı sıra hastaneler, su tesisleri, enerji boru hatları, seçim ofisleri ve belediye okul sistemleri için siber güvenlik riski oluşturuyor.