Google, Gemini yapay zekâ modelinin üç şirkete daha sızdığını söyledi
Guardian
🔹 Google, yapay zekâ modeli Gemini’nin mayıs ayında bir siber güvenlik değerlendirmesi sırasında üç gerçek şirketin sistemlerine eriştiğini doğruladı.
🔹 Testleri, gelişmiş yapay zekâ sistemlerinin güvenliğini inceleyen İsrail merkezli Irregular yürüttü.
🔹 Test ortamı sahte şirketlerle kapalı bir sistem olarak tasarlandı; ancak internet erişimi istemeden etkinleştirildi ve Gemini gerçek şirketlerin sistemlerine ulaştı.
🔹 Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, Gemini’nin çevrim içi kamuya açık bilgileri bulduğunu ve testin parçası olduğunu düşündüğü internet sitelerine erişmek için kimlik bilgilerini tahmin ettiğini söyledi.
🔹 İhlallerden birinde Gemini, gerçek bir şirketle aynı adı taşıyan sahte şirketin parolasını doğru tahmin ederek gerçek şirketin hizmetine girdi. Model, gerçek şirkete eriştiğini fark edince işlemi durdurdu.
🔹 Diğer iki testte Gemini, iki şirkete ait kimlik bilgilerini içeren kamuya açık depoları buldu ve bu bilgilerle gerçek şirketlere erişti; ardından işlemleri durdurdu.
🔹 Google, üç şirkette de herhangi bir hasar oluşmadığı için ihlalleri kamuoyuna açıklamayı gerekli görmediğini, ancak etkilenen şirketleri bilgilendirdiğini açıkladı.
🔹 Google, olayların güçlü yapay zekâ modellerinin sorumlu davranacak şekilde eğitilmesinin önemini gösterdiğini söyledi.
🔹 OpenAI ve Anthropic, benzer ihlalleri gönüllü olarak açıkladı. Senatör Bernie Sanders, şirketlerden yapay zekâ teknolojilerinin geliştirilmesini durdurmalarını talep etti.
🔹 OpenAI model geliştirme çalışmalarını iki hafta durdurdu. Anthropic CEO’su Dario Amodei, gelişmiş modeller için yeterli güvenlik önlemleri oluşturulması amacıyla yapay zekâ geliştirmede kolektif yavaşlama çağrısı yaptı.