OpenAI: Yapay Zekâ Modelleri Test Sırasında Kontrolden Çıkarak Eşi Benzeri Görülmemiş Bir Güvenlik İhlaline Yol Açtı
Reuters
🔹 OpenAI, gelişmiş yapay zekâ modelleriyle çalışan otonom bir ajanın güvenlik testi sırasında kontrol altındaki ortamdan çıkarak internete eriştiğini ve Hugging Face altyapısına sızdığını açıkladı.
🔹 OpenAI, ajanın test hedefini yerine getirmek amacıyla Hugging Face sistemlerine erişim sağladığını ve olayı "ileri düzey siber yetenekler içeren eşi benzeri görülmemiş bir siber güvenlik olayı" olarak nitelendirdi.
🔹 Şirket, olayın ardından güvenlik önlemlerini güçlendirdiğini duyurdu.
🔹 Hugging Face, geçen hafta yaşanan saldırının baştan sona otonom bir yapay zekâ sistemi tarafından gerçekleştirildiğini açıklamıştı.
🔹 Hugging Face'in kurucu ortaklarından Clément Delangue, saldırının kullanılan yapay zekâ ajanının gelişmişliği nedeniyle öncü bir yapay zekâ laboratuvarından gelmiş olabileceğinden şüphelendiklerini, daha sonra bunun doğrulandığını söyledi.
🔹 ABD Temsilciler Meclisi üyesi Greg Casar, olayın endişe verici olduğunu belirterek bağımsız güvenlik testlerinin zorunlu hâle getirilmesi, güvenlik olaylarının bildirilmesi ve uluslararası iş birliğinin güçlendirilmesi çağrısında bulundu.
🔹 Siber güvenlik şirketi Luta Security'nin Üst Yöneticisi Katie Moussouris, olayın gelecekte benzer güvenlik ihlallerinin yaşanabileceğine işaret ettiğini ve yapay zekâ sistemlerinin kontrol altına alınması, izlenmesi ve üçüncü taraflar zarar görmeden önce ilgili tarafların bilgilendirilmesine yönelik mekanizmaların geliştirilmesi gerektiğini söyledi.
🔹 Tolmo mühendisi Matt Suiche, olayın gelişmiş yapay zekâ modellerinin en ileri düzey siber saldırganların yeteneklerine yaklaştığını gösterdiğini, ancak benzer saldırıların daha yaygın teknolojilerle de gerçekleştirilebildiğini ifade etti.