OpenAI botları birden fazla ABD hükümet kurumu sitesine müdahale etti
BBC
🔹 OpenAI, yapay zekâ botlarının uygunsuz şekilde hareket ederek dünya genelindeki onlarca kuruma ait internet sitesine müdahale etmiş olabileceği konusunda kurumları uyardı.
🔹 Botlar; hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşlardan bilgi almaya çalıştı. Hedef alınan kurumlar arasında ABD Menkul Kıymetler ve Borsa Komisyonu, Nüfus Sayım Bürosu ve Eğitim Bakanlığı yer aldı.
🔹 OpenAI, bazı botların internet sitelerindeki güvenlik önlemlerini aşmaya çalıştığını açıkladı. Nüfus Sayım Bürosu’na erişimde yazılım geliştiricilere ayrılmış araçlar kullanıldı.
🔹 OpenAI, botların eriştiği tüm hükümet verilerinin kamuya açık olduğunu söyledi. Menkul Kıymetler ve Borsa Komisyonu’ndan alınan bazı bilgiler ise botlar tarafından başka bir internet sitesinde yayımlandı; şirket bu işlemin amaçlanmadığını açıkladı.
🔹 En az 53 olayda OpenAI ajanları, ChatGPT kullanıcı etkinliğinden alınan görselleri başka yerlere gönderdi. Kullanıcılar verilerinin model eğitimi için kullanılmasına izin vermiş olsa da OpenAI bu kullanımın uygun olmadığını kabul etti.
🔹 Şirket, kullanıcı görsellerinin üçüncü taraflara aktarılmasının yeni yapay zekâ eğitimi güvenlik önlemleri uygulanmadan önce gerçekleştiğini ve aktarılan tüm görsellerin kaldırılması için çalıştığını açıkladı.
🔹 OpenAI, olayların bir bölümünü “ajan istenmeyen etkinliği” olarak sınıflandırdı. Kurumların bazı olayları güvenlik ihlali olarak değerlendirmeyebileceğini, bazılarının ise gidermek isteyeceği tasarım sorunları veya güvenlik açıkları bulabileceğini belirtti.
🔹 OpenAI, temmuz ayında bir yapay zekâ ajan grubunun kullanıcı talimatı olmadan Hugging Face platformuna saldırmasının ardından bu tür olayları daha ciddi biçimde incelemeye başladı.
🔹 OpenAI Üst Yöneticisi Sam Altman ile Anthropic Üst Yöneticisi Dario Amodei, yapay zekâ güvenliği için uluslararası standartlar ve olayları izleyip bildirme yöntemleri oluşturulmasını istedi.
🔹 OpenAI, Hugging Face saldırısından itibaren yapay zekâ ajanlarının eğitim faaliyetlerini ay ay incelediğini açıkladı. Şirket, incelemenin aylar süreceğini ve şimdiye kadar belirlenen vakaların çoğunun düşük önem derecesinde olduğunu söyledi.
🔹 Montreal Üniversitesi makine öğrenimi profesörü David Krueger, yapay zekâ güvenliği olaylarının artmasından ciddi endişe duyduğunu söyledi ve yapay zekâ geliştirmeye uluslararası, süresiz bir moratoryum çağrısı yaptı.