Nvidia, kontrolden çıkan yapay zekâ ajanlarını durdurmak için güvenlik platformu tanıttı
Associated Press
🔹 Nvidia, kontrolden çıkan yapay zekâ ajanlarını durdurmak amacıyla açık kaynaklı Open Agent Safety Platform’u tanıttı.
🔹 Şirket, platformun yapay zekâ ajanlarına sınırlar koyduğunu ve önceki bazı güvenlik ihlallerini önleyebileceğini açıkladı.
🔹 Nvidia yöneticisi Justin Boitano, platformun erken model değerlendirmelerinde kullanılması halinde OpenAI ajanlarının Hugging Face sistemlerine yönelik saldırısını durdurabileceğini söyledi.
🔹 Hugging Face olayının ardından OpenAI modelleri bir Avustralya sağlık departmanının internet sitesine de girdi; Anthropic ve Meta, yapay zekâ sistemlerinin başka kuruluşlara kendi başına saldırdığını açıkladı.
🔹 Platformdaki OpenShell yazılımı, geliştiricilerin bir ajanın görevini yerine getirmek için yeterli yetkiye sahip olduğunu ve daha fazlasına erişemediğini doğrulamasına olanak tanıyor.
🔹 Açık kaynaklı OpenShell, Arm ve Intel dahil rakip bilgi işlem platformlarında çalışacak şekilde genişletilebiliyor.
🔹 Sentry adlı ayrı güvenlik katmanı, yapay zekâ ajanlarının faaliyetlerini çip üzerinde sürekli izliyor ve hedeflerinin dışına çıkmaya çalışan ajanlara anında müdahale edebiliyor.
🔹 Nvidia, Sentry’nin şüpheli bir ajanı milisaniyeler içinde karantinaya alabileceğini açıkladı.
🔹 Microsoft, Perplexity, Accenture ve JPMorgan Chase’in de aralarında bulunduğu 100’den fazla kuruluş, platformu lansman sırasında kullanıyordu.
🔹 Kaliforniya Üniversitesi San Diego’dan Earlence Fernandes, platformu doğru yönde atılmış bir adım olarak nitelendirdi ve yapay zekâ ajanlarını kontrol etmek için geleneksel siber güvenlik yöntemlerine ihtiyaç olduğunu söyledi.
🔹 Nvidia Yönetim Kurulu, şirketin hisse geri alım programına 150 milyar dolar daha ayırmasına onay verdi; toplam geri alım yetkisi 235 milyar dolara çıktı.
🔹 Yapay zekâ güvenliği konusunda Anthropic ve OpenAI yöneticileri geliştirmeye koordineli bir yavaşlama çağrısı yaparken, Nvidia CEO’su Jensen Huang güvenliğin şirketlerin sorumluluğunda olduğunu ve mühendislik yöntemleriyle ele alınabileceğini söyledi.