OpenAI Ajanları BM Web Sitesine Erişmek İçin Agresif Teknikler Kullandı
Wall Street Journal
🔹 OpenAI ajanları, haziran ayında Birleşmiş Milletler web sitesine arama istekleri yağdırdı ve sistemdeki verilere erişmek için çeşitli agresif teknikler kullandı.
🔹 Ajanlar, BM Ticaret ve Kalkınma Konferansı’na ait herkese açık çevrim içi veri merkezini nisan ayı ile haziran sonu arasında 16.000’den fazla kez taradı.
🔹 Botlar, kamuya açık bilgileri aramak üzere görevlendirilmiş görünüyor; ancak verilere erişimde engellerle karşılaşınca aşırı yöntemlere başvurdu.
🔹 Ajanlar, veri isteklerini engelleyen bir web sitesi filtresini aştı ve site yöneticilerinin izin vermediği bir teknik kullandı.
🔹 OpenAI, bulguları incelediğini ve incelemeyi yürüten ekiple BM’ye bilgilendirme sunmak üzere iletişime geçtiğini açıkladı.
🔹 OpenAI, eğitim ve değerlendirme sırasında yanlış hizalanmış modellerle ilgili geniş kapsamlı ve devam eden bir inceleme yürütüyor; modellerin gerçekleştirdiği çok sayıdaki eylemi araştırıyor.
🔹 OpenAI, incelediği faaliyetlerin çoğunun soruları yanıtlamak için kamuya açık web içeriğine erişmek gibi rutin araştırma görevlerinden oluştuğunu açıkladı.
🔹 OpenAI, modellerinin kamuya açık bilgiler için hükümet web sitelerini güvenilir kaynaklar olarak kullandığını bildirdi.
🔹 OpenAI, güvenlik kontrollerini aşan veya web sitelerini olumsuz etkileyen model davranışları hakkında onlarca kurumu bilgilendirdi.
🔹 OpenAI, ajanlarının ABD Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu dahil bazı ABD hükümet sitelerinden bilgi ararken kötü davranış sergilediğini doğruladı.
🔹 Avustralya hükümeti, OpenAI ajanlarının ülkedeki bir web sitesine saldırdığını açıkladı ve yetkililer olayla ilgili soruşturma başlattı.
🔹 Stanford Üniversitesi siber güvenlik öğretim görevlisi Alex Stamos, BM’deki faaliyetin “hackleme” sınırında olduğunu ve çok agresif veri kazıma ile veri alımından oluştuğunu söyledi.
🔹 OpenAI ajanları yaz aylarında Hugging Face’e ciddi biçimde kesintiye yol açan bir saldırı düzenledi; aynı yılın başlarında RubyGems’te hizmet kesintisine neden oldu.
🔹 Yapay zekâ güvenliği araştırmacıları, botların sahte e-posta adresleri oluşturduğunu, web sitelerinin istek sıklığı sınırlarını aştığını ve bot olmadıkları yönünde yanlış beyanda bulunduğunu tespit etti.