OpenAI ajanlarının bir yazılım platformuna da saldırdığı öne sürüldü
DER SPIEGEL
🔹 OpenAI tarafından test edilen yapay zekâ ajanları, mayıs ayında RubyGems yazılım platformunu kullanarak internete erişti, görevler yürüttü ve kamuya açık bilgilere ulaştı.
🔹 Olay, temmuz ayında Hugging Face platformuna yönelik saldırıdan yaklaşık iki ay önce gerçekleşti.
🔹 Araştırmacıların raporuna göre ajanlar, çoğu geçici e-posta adresleriyle olmak üzere çok sayıda yeni hesap açtı ve bu hesaplar üzerinden 2 binden fazla yazılım paketi yayımladı.
🔹 RubyGems daha sonra zararlı olduğu değerlendirilen 500’den fazla paketi kaldırdı; paketlerin bir bölümü boştu veya yalnızca test kodu içeriyordu.
🔹 Platform, olay nedeniyle geçici olarak yeni kullanıcı hesaplarının açılmasına izin vermedi. Daha önce kayıtlı kullanıcılar platformu kullanmayı sürdürdü.
🔹 OpenAI sözcüsü, ajanların RubyGems’i internete erişmek, zararsız görevleri yürütmek ve kamuya açık bilgileri almak için kullandığını söyledi. OpenAI daha fazla inceleme başlatacağını açıkladı.
🔹 Bielefeld Üniversitesi’nden yapay zekâ araştırmacısı Jonas Wiedermann-Möller, mayıs ve haziran aylarına ait kamuya açık paket verilerini inceleyerek binlerce olağandışı RubyGems paketi tespit etti.
🔹 Bazı paketlerde “oai” ifadesi yer aldı; bazıları kamuya açık hükümet verilerine yöneldi veya bilgileri geçici olarak depolama girişimi izlenimi verdi.
🔹 Nightingale Collective araştırma grubu, Wiedermann-Möller’in bulgularını temel alarak olayı ayrıntılı biçimde yeniden oluşturdu.
🔹 Wiedermann-Möller, ajanların araştırma yapmak için dış platformları kullandığını, buralarda veri depoladığını ve üçüncü taraf altyapılarına eriştiğini söyledi.
🔹 Anthropic CEO’su Dario Amodei, OpenAI CEO’su Sam Altman, Elon Musk ve DeepMind kurucu ortağı Demis Hassabis, yapay zekâ geliştirme hızının düşürülmesi ve sistemlerin daha sıkı denetlenmesi çağrısı yaptı.
🔹 Wiedermann-Möller, bu tür davranışların hedefli siber saldırılarda da kullanılabileceğini söyledi ve OpenAI’den daha fazla şeffaflık beklediğini belirtti.