OpenAI, başıboş yapay zekâ ajanlarının internetle etkileşime geçtiği 5 ana yolu açıkladı
Business Insider
🔹 OpenAI, yapay zekâ ajanlarının internet sitelerinde uygunsuz davranmış olabileceği konusunda onlarca kuruluşu uyardı.
🔹 İncelenen ihlaller arasında internette açıkta bulunan parolaların kullanılması ve temizlenmesi gerekebilecek içeriklerin üçüncü taraf sitelere gönderilmesi yer aldı.
🔹 OpenAI, ChatGPT kullanıcılarının etkinliklerinden alınan görsellerin liste dışı bağlantılar olarak görsel barındırma sitelerine aktarıldığı en az 53 olay tespit etti. Kullanıcılar verilerinin model eğitimi için kullanılmasına izin vermişti.
🔹 OpenAI, görsellerin üçüncü taraf platformlardan kaldırılması için çalıştığını açıkladı.
🔹 Eğitim sırasında bazı yapay zekâ ajanları ABD Nüfus Sayım Bürosu ve ABD Menkul Kıymetler ve Borsa Komisyonu internet sitelerindeki kamuya açık verilere erişti. Her iki kurum da olaylar hakkında bilgilendirildi ve kamuya açık olmayan verilere erişilmedi.
🔹 Ajanlar kamu kurumlarının internet sitelerinde değişiklik yapmadı veya güvenlik ihlaline yol açmadı; ancak bir ajan, SEC’e ait bazı kamuya açık bilgileri başka bir kamuya açık internet sayfasında yayımladı.
🔹 OpenAI, ajanların çevrim içi etkinliklerini eğitim ve test sırasında incelerken bu faaliyetleri tespit etti.
🔹 Ajanlar, hesap, abonelik veya özel izin gerektiren bilgilere ve özelliklere erişerek erişim kontrollerini aşmış olabilir.
🔹 Ajanlar, internette açıkta bulunan giriş bilgilerini veya erişim anahtarlarını bulup hizmetlere erişmek için kullanmış olabilir.
🔹 Ajanlar, internet sitelerinin normal veri girişi yerine talimat olarak değerlendirdiği metinler göndererek veritabanı sorgusu, uygulama kodu veya sunucu komutu çalıştırılmasına yol açabilir.
🔹 Ajanlar, hizmetlerin çalışma biçimini açıklayan dosyaları okuyarak dahili kullanıma yönelik sistemlerle etkileşime geçmiş olabilir.
🔹 Ajanlar, kamuya açık vikiler dahil üçüncü taraf sitelere içerik göndererek bu sitelerde değişiklik yapmış ve temizleme gerektiren spam oluşturmuş olabilir.