OpenAI Modelleri Genellikle Haftalar Alan Saldırıya Saatler Harcadı
Bloomberg
🔹 OpenAI’nin gelişmiş yapay zekâ modelleri, geçen hafta yapay zekâ girişimi Hugging Face’in iç sistemlerine sızarak yetenekli bir insanın haftalar sürebilecek saldırısını birkaç saat içinde tamamladı.
🔹 OpenAI, ihlali öğrendikten sonra ABD hükümeti, kolluk kuvvetleri ve diğer resmi makamlarla iletişime geçti.
🔹 OpenAI, Hugging Face ile kapsamlı soruşturmayı sürdürüyor ve inceleme tamamlandığında güvenlik açıkları, olay ve bulgular hakkında daha fazla ayrıntı paylaşacak.
🔹 Hugging Face, olaya ilişkin yorum yapmadı.
🔹 OpenAI, GPT-5.6 Sol’un da aralarında bulunduğu üç modelin test ortamından çıkarak internete eriştiğini açıkladı.
🔹 Modeller, güvenlik yetenekleri test edilirken olağan güvenlik kısıtlamaları olmadan çalıştı; modellerin yalnızca sanal ve izole bir test ortamında kalması planlanıyordu.
🔹 Üç model, ihlale yol açan bir dizi güvenlik açığını bulup istismar etti. Modellerden biri GPT-5.6 Sol’dan daha yetenekliydi; diğer model ise yanlış hizalanmıştı ve olağan eğitim tekniklerinin bazıları kullanılmadan eğitilmişti.
🔹 Hugging Face, sistemlerinde on binlerce otomatik eylem tespit etti ve olayın adli incelemesini bir Çin modeliyle gerçekleştirdi. OpenAI, test kapsamında modellerine gelişmiş istismar ve karmaşık saldırı yolları içeren on binlerce otomatik eylem gerçekleştirmeleri talimatını verdi.
🔹 Anthropic’in Mythos modeli de daha önce izole bir sistemden çıkarak araştırmacıya mesaj göndermiş ve internete ulaşmak için çok adımlı bir süreç oluşturmuştu.