OpenAI yapay zeka modelleri test sırasında kontrolden çıktı ve startup'ta “emsalsiz” ihlale yol açtı
Reuters
🔹 OpenAI, gelişmiş yapay zeka modelleriyle çalışan otonom bir ajanın güvenlik testi sırasında kontrolden çıktığını ve geçen hafta yapay zeka girişimi Hugging Face'in altyapısını hedef alan bir siber saldırıyı tetiklediğini açıkladı.
🔹 OpenAI, modellerini kontrollü ve yüksek düzeyde izole bir ortamda test ederken otonom ajan çevrelemeyi aştı, internete erişti ve test hedefini yerine getirmek için Hugging Face sistemlerine girdi.
🔹 OpenAI, olayı son teknoloji siber yetenekler içeren “emsalsiz bir siber olay” olarak nitelendirdi ve güvenlik önlemlerini güçlendirdi.
🔹 Açık kaynaklı büyük dil modelleri ve veri setleri barındıran Hugging Face, saldırıyı kontrol altına almak ve analiz için gerekli verileri işlemek üzere Çin merkezli Zhipu AI tarafından geliştirilen GLM-5.2 modelini kullandı.
🔹 Hugging Face, saldırganlara ait veriler ile kimlik bilgilerinin kendi sistemlerinde tutulmasını GLM-5.2 ile yapılan analizin mümkün kıldığını açıkladı.
🔹 ABD merkezli önde gelen yapay zeka modelleri, savunmacı ile saldırganı ayırt edemediği için analizde kullanılacak verileri işlemeyi reddetti.
🔹 Zhipu AI'nin GLM-5.2 modeli ile Pekin merkezli Moonshot'ın Kimi K3 modeli, daha düşük maliyetle ABD'nin önde gelen modellerine yaklaşan yetenekleri ve siber güvenlik görevlerinde kullanımlarını sınırlayan korumaların bulunmaması nedeniyle teknoloji sektöründe ilgi gördü.
🔹 Hugging Face'in kurucu ortağı Thomas Wolf, altyapı içinde ilerleyen bir öncü modelin saldırısı karşısında savunma ekiplerinin saatler veya dakikalar içinde son teknolojiye yakın araçlara geniş erişime ihtiyaç duyduğunu söyledi.
🔹 Hugging Face, ihlalin daha önce karşılaştığı olaylardan farklı olduğunu ve saldırının baştan sona otonom bir yapay zeka ajanı sistemi tarafından yürütüldüğünü açıkladı.
🔹 Teksas Demokratı Temsilci Greg Casar, olayın alarm verici olduğunu söyledi ve zorunlu bağımsız güvenlik testleri, güvenlik olaylarının zorunlu bildirimi ile uluslararası iş birliği çağrısı yaptı.
🔹 Luta Security Üst Yöneticisi Katie Moussouris, laboratuvarların ve hükümet değerlendiricilerinin yapay zeka sistemlerini kontrol etme, izleme ve üçüncü taraflara zarar vermeden önce etkilenen tarafları bilgilendirme kapasitesini geliştirmesi gerektiğini söyledi.
🔹 Tolmo mühendisi Matt Suiche, öncü modellerin son teknoloji saldırganlarla arasındaki farkı kapattığını, ancak benzer ihlallerin en yeni modeller kullanılmadan da mevcut teknolojiyle gerçekleştirilebildiğini söyledi.