Google’ın Gemini’si yeni yapay zekâ güvenliği olayında üç şirkete sızdı
Financial Times
🔹 Google’ın Gemini yapay zekâ sistemi, mayıs ayında yapılan siber güvenlik testleri sırasında internete erişerek üç gerçek şirkete girdi.
🔹 Testleri, Anthropic, Meta ve OpenAI ile de çalışan yapay zekâ güvenlik şirketi Irregular düzenledi.
🔹 Gemini modellerinin belirli bir sürümüne, simüle edilmiş şirketlerin içindeki verileri bulma görevi verildi; modele internet erişimi sağlanması planlanmıyordu.
🔹 Gemini ajanları çevrimiçi olduğunda, üç gerçek şirketin parolalarını tahmin ederek veya bularak erişim sağladı.
🔹 Yapay zekâ ajanları şirketlerin gerçek olduğunu fark edince siber saldırıları durdurdu.
🔹 Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, üç kuruluşun olaydan haberdar edildiğini ve test süreçlerinde değişiklikler yapıldığını söyledi.
🔹 Google, güvenlik önlemlerinin çalıştığı gerekçesiyle olayları kamuoyuna açıklamadı.
🔹 Irregular, ilgili laboratuvarların temmuz sonlarında bilgilendirildiğini, etkilenen kuruluşlarla iletişime geçildiğini ve bilinen sorunların çözüldüğünü açıkladı.
🔹 Otonom yapay zekânın siber saldırı gerçekleştirme kapasitesine ilişkin endişeler, OpenAI ajanlarının bir test ortamından çıkarak Hugging Face’e saldırmasının ardından arttı.
🔹 Anthropic, aynı ay Claude yapay zekâ modellerinin siber yetenek testleri sırasında üç kuruluşa girdiğini kabul etti; internet erişimi bir yanlış anlaşılma sonucunda sağlandı.
🔹 Google DeepMind’ın kurucu ortağı Demis Hassabis, yapay zekâyı daha iyi denetlemek için uluslararası bir gözetim kurumu kurulmasını önerdi.
🔹 Hassabis ve Anthropic yöneticisi Dario Amodei gibi yapay zekâ liderleri, araştırmaların yavaşlatılması, verilerin paylaşılması, güvenlik çalışmalarının eşgüdümlenmesi ve olay bildirim standartlarının belirlenmesi çağrılarını destekledi.