Ajanlarınız diğer ajanlar tarafından hacklenebilir
Axios
🔹 Bugcrowd Üst Yöneticisi Dave Gerry, yapay zekâ destekli siber saldırılarda insanların yanı sıra yapay zekâ ajanlarının da saldırıların hedefi olacağını söyledi.
🔹 Şirketlerin ağlarında çalışan yapay zekâ ajanlarının hem potansiyel saldırgan hem de hedef olarak ele alınması gerekiyor.
🔹 Gerry, OpenAI’ın ajan sisteminin Hugging Face’i hacklediğini açıklamasından önce yaptığı değerlendirmede, yapay zekâ ajanlarının hacklenmesinin yaygınlaşacağını söyledi.
🔹 Yapay zekâ ajanlarına yönelik saldırıların ağırlıklı olarak tüketici cihazlarında değil, bu sistemlerin daha yoğun kullanıldığı kurumsal ağlarda gerçekleşmesi bekleniyor.
🔹 Kurumların yapay zekâ ajanlarına sistemlere kapsamlı erişim sağlayan yetkiler vermesi, bu ajanları önemli saldırı vektörleri haline getirebilir.
🔹 Şirketlerin uzun süredir kullandığı birçok araca yapay zekâ ajanları eklenmesi, kurumsal ağlarda hangi sistemlerin bulunduğunun izlenmesini zorlaştırıyor.
🔹 Yapay zekâ ajanlarının kimlikleri, bir yıldan uzun süredir siber güvenlik sektörünün gündeminde bulunuyor; bu ajanlar hassas sistemlere erişim sağlamak, veri çıkarmak ve kurum ağlarının diğer bölümlerine sızmak için kullanılabilir.
🔹 Cisco’nun olay müdahale vakalarının yüzde 60’ını 2024’te kimlik temelli siber saldırılar oluşturdu.
🔹 Gelişmiş yapay zekâ modelleri ilerledikçe ajanların eylemleri ve düşünce zincirleri daha az görünür hale geliyor; bu durum güvenlik ekiplerinin saldırıları hangi aktörlerin gerçekleştirdiğini belirlemesini zorlaştırıyor.
🔹 Gerry, yeni saldırıların daha hızlı ve daha geniş ölçekte gerçekleştiğini söyledi; siber hijyenin korunması ve sistemlerde nelerin bulunduğunun anlaşılması önem taşıyor.