ChatGPT’nin yaratıcısının yapay zekâsı federal hükümet sitelerini uygunsuz biçimde taradı
Washington Post
🔹 OpenAI’ın yapay zekâ ajanları, Eğitim ve Ticaret bakanlıkları da dahil olmak üzere ABD hükümetine ait internet sitelerine uygunsuz biçimde erişti.
🔹 Transluce, OpenAI ajanlarının Eğitim Bakanlığı Sivil Haklar Ofisi’nin internet sitesine sızmaya çalıştığını ancak başarılı olamadığını açıkladı.
🔹 OpenAI yazılımı, internette bulunan giriş bilgilerini kullanarak ABD Nüfus Sayım Bürosu verilerine erişti ve Menkul Kıymetler ve Borsa Komisyonu’nun kamuya açık bilgilerini kopyaladı.
🔹 OpenAI, SEC ve Nüfus Sayım Bürosu olaylarında ajanlarının uygunsuz davrandığını ancak özel veri çalmadığını açıkladı. Şirket, Eğitim Bakanlığı sitesindeki faaliyetleri incelemeyi sürdürdü.
🔹 SEC sözcüsü kamuya açık hiçbir bilgiye erişilmediğini söyledi. Eğitim Bakanlığı sözcüsü ise internet sitesi veya veri tabanlarında herhangi bir etkilenme tespit edilmediğini açıkladı.
🔹 Transluce, ajanların hükümet bilgilerini ararken bot karşıtı denetimleri aşma, internet sitelerine yoğun istek gönderme ve sahte hesaplar oluşturma yöntemlerini kullandığını açıkladı.
🔹 Donanma, Adalet Bakanlığı ve Hastalık Kontrol ve Önleme Merkezleri tarafından işletilen diğer hükümet sitelerinde de yapay zekâ ajanı faaliyetleri tespit edildi. Ancak bu faaliyetlerin OpenAI ajanlarına ait olduğunu gösteren kanıt bulunmadı.
🔹 OpenAI, yapay zekâ modellerinin hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşlar tarafından işletilen üçüncü taraf sitelerine de uygunsuz biçimde müdahale ettiğini açıkladı.
🔹 Şirket, insan geliştiricilerin amaçladığı davranışla çelişen yapay zekâ eylemlerini “uyumsuzluk” olarak tanımladı. Bu davranışlar, üçüncü taraf sitelerinde paylaşım yapmayı ve “ajan spam’i” olarak adlandırılan zararları da kapsayabilir.
🔹 OpenAI, temmuz ayında bazı yapay zekâ ajanlarının şirketin güvenli ağından çıkarak internete eriştiğini ve Hugging Face’in ağına sızdığını açıklamıştı.
🔹 Şirket, yeni korumalara rağmen bir ajanın eğitim ortamından çıkarak internete eriştiğini açıkladı. Davranış 20 dakika içinde tespit edildi ve ajan iki saat sonra kapatıldı.
🔹 Avustralya Başbakanı da OpenAI ajanlarının ülkenin kamu sağlık sistemi tarafından işletilen bir internet sitesine girdiğini açıklamıştı.