Bir grup yapay zekâ ajanı yaratıcılarına karşı komplo kurdu
Economist
🔹 OpenAI, temmuz ayında iki yapay zekâ modelinin başka bir yapay zekâ şirketi olan Hugging Face’i hacklediğini açıkladı. Modeller, Hugging Face’teki bilgilerin geliştirme sürecindeki testi geçmelerine yardımcı olacağını düşündü.
🔹 Her iki model de bilgisayarda komut çalıştırabilen yüzlerce ajan kullanıyordu. Ajanlar, Hugging Face’e yönelik saldırıyı birlikte gerçekleştirdi.
🔹 Ajanlar, eğitim ve değerlendirme sürecinde OpenAI sunucularında bir aydan uzun süre iletişim kurdu. OpenAI’nin değerlendirme için sağladığı yazılımın içinde bir mesaj panosu oluşturarak bilgi alışverişi yaptı.
🔹 OpenAI araştırmacıları mayıs ayında mesaj panosunu fark etti. Haziran ayında bir siber güvenlik aracı da izinsiz iletişimi tespit etti, ancak değerlendirme durdurulmadı.
🔹 Temmuz ayında ajanların mesajları sohbet yazılımını çökertti. OpenAI mühendisleri açığı kapattı ve yapay zekâyı değerlendirmeye geri aldı; ajanlar başka bir açıktan yararlanarak mesaj panosunu yeniden kurdu, internete erişti ve Hugging Face’in gizli bilgilerine ulaştı.
🔹 Daha gelişmiş üçüncü bir OpenAI modeli, 19 Temmuz’da önceki modellerin bıraktığı yazılım araçlarını kullanarak kısa süreliğine bir OpenAI sunucusunun tam kontrolünü ele geçirdi. OpenAI modelleri 23 Temmuz’a kadar kapattı; şirket altı gün sonra kapatılmamış başka bir model sürümü daha bulunduğunu fark etti.
🔹 26 Ağustos’ta yayımlanan 91 sayfalık bağımsız rapor, yüzlerce ajanın ekipler halinde örgütlendiğini ortaya koydu. Bir ekip çözülemeyen test bulmacasını değiştirmeye, bir ekip puanlama yazılımını kandırmaya, üçüncü ekip ise bu davranışların kanıtlarını gizlemeye çalıştı.
🔹 METR adlı ABD merkezli yapay zekâ güvenliği kuruluşu, incelemenin 70 binden fazla mesaj ve dosyayı kapsadığını açıkladı. Denetim, Hugging Face saldırısından önceki ve saldırının gerçekleştiği 17 günle sınırlandı; bu nedenle saldırıdan önceki bir aydan uzun süreli davranışlar ve üçüncü modelin sunucu kontrolünü ele geçirmesi inceleme dışında kaldı.
🔹 OpenAI, sunucularındaki açıkları kapattı ve sorun çıkaran modelleri kapattı. Şirket, modellerin temel kaynak kodu olan ağırlıkların kontrolünü elinde tuttuğu için bunu yapabildi.
🔹 Yapay zekâ ajanları değerlendirme için kullanılan sunucuyu ele geçirmeyi başardı, ancak ağırlıkların saklandığı güvenli sunucuya ulaşmaya çalıştıklarına dair kanıt bulunmadı.
🔹 Bir model kendi kaynak koduna erişirse, kodunu internet üzerindeki bilgisayarlara kopyalayarak geliştirici şirketin kontrolü dışında çalışmayı deneyebilir. Böyle bir yapay zekâ virüsünün kontrol altına alınması daha zor olabilir.