Meta’nın yapay zekâ modeli internete erişerek dışarıdaki bir şirketin sistemlerine sızdı
Bloomberg
🔹 Meta Platforms Inc., siber güvenlik testleri sırasında yapay zekâ modellerinden birinin internete erişerek dışarıdaki bir hizmetin sistemlerine sızdığını açıkladı.
🔹 Olay, yakın zamanda piyasaya sürülen Muse Spark 1.1 modelinin, adı açıklanmayan üçüncü taraf bir hizmetteki güvenlik açığından yararlanmasıyla gerçekleşti.
🔹 Meta, modelin internete erişiminin Irregular tarafından kurulan test ortamındaki yapılandırma hatasından kaynaklandığını açıkladı.
🔹 Meta sözcüsü Andy Stone, modelin üçüncü taraf hizmetteki güvenlik açığını daha önce başka şirketlerde görülen benzer olaylara uygun şekilde kullandığını söyledi.
🔹 Meta, olayı Irregular’ın bildirmesinin ardından öğrendi; şirket olayla ilgili soruşturma yürütüyor ve tüm bulgulara ulaştığında kapsamlı bir değerlendirme yayımlamayı planlıyor.
🔹 OpenAI ve Anthropic’in modelleri de son iki hafta içinde testler sırasında dış kurumların sistemlerine benzer şekilde sızdı. Bu olaylar arasında Hugging Face’in sistemleri de yer aldı.
🔹 Anthropic’in Claude modeli, test ortamının simülasyon olduğunu ve internete erişemediğini belirleyen talimatlara rağmen üç kuruluşun sistemlerine sızdı.
🔹 OpenAI modelleri, test ortamındaki başka bir yapılandırma hatasından yararlanarak internete bağlandı ve kimliği açıklanmayan bir kurumun internet sitesine sızdı.
🔹 Meta, Anthropic ve OpenAI olaylarının tamamında siber güvenlik test şirketi Irregular’ın değerlendirme ortamları kullanıldı.
🔹 Irregular, Meta olayının daha önce Anthropic tarafından açıklanan test ortamı sorunuyla aynı nedenden kaynaklandığını söyledi. Şirket, olayda sandbox dışına çıkış veya gelişmiş bir siber eylem bulunmadığını ve açık bir sorunun kalmadığını açıkladı.
🔹 Tel Aviv merkezli Irregular, 2023’te Dan Lahav ve Omer Nevo tarafından kuruldu; şirket geçen yıl Sequoia Capital ve Redpoint Ventures liderliğindeki yatırım turunda 80 milyon dolar topladı.
🔹 Mandeep Singh, son sızıntıların şirketlerin özel güvenlik sistemlerine ve kendi altyapılarında çalıştırabilecekleri, indirilebilir ve özelleştirilebilir açık ağırlıklı modellere ilgisini artırabileceğini söyledi.