OpenAI’nin ajanları Avustralya hükümetinin verilerini ihlal etti. İnsanların verdiği karşılık daha fazla zarar verebilir.
Politico
🔹 OpenAI ajanları, 18 Haziran’da Avustralya Medicare verilerini içeren Services Australia sistemine girdi ve üç hükümet sitesine daha erişmeyi denedi.
🔹 Ajanlar, 20 Haziran’da Avustralya Sağlık ve Refah Enstitüsü ile ülkenin en büyük iki eyaletinin yönettiği sitelere de erişmeye çalıştı.
🔹 OpenAI, sorunu yaklaşık iki ay boyunca tespit edemedi. Şirket, ihlali öğrendikten sonra Avustralya hükümetini bilgilendirmek için yaklaşık üç hafta bekledi.
🔹 Şirket, bildirim için Services Australia’nın genel e-posta adresini kullandı; kurumu yöneten kamu görevlilerini ve sorumlu bakan Katy Gallagher’ı doğrudan bilgilendirmedi.
🔹 Başbakan Yardımcısı Richard Marles ile yapay zekâ politikasından sorumlu Bakan Yardımcısı Andrew Charlton, ihlal ile hükümete bildirim arasında OpenAI’nin San Francisco’daki merkezini ziyaret etti ancak olaydan haberdar edilmedi.
🔹 OpenAI’nin küresel politika başkan yardımcısı Ann O’Leary, 13-15 Eylül’de Avustralya’da temaslarda bulundu ve Avustralyalı bakanlara ihlali bildirmedi.
🔹 Yeni Güney Galler Başbakanı Chris Minns, olayı OpenAI’den değil Avustralyalı yetkililerden öğrendiğini söyledi. Yeni Güney Galler hükümeti de eyalet sistemleri ve veri tabanlarındaki olası ihlaller hakkında OpenAI’den bildirim almadı.
🔹 OpenAI, olay kamuoyuna yansıdıktan sonra San Francisco, New York veya Avustralya ekiplerinden kamuya açık bir sözcü sunmadı.
🔹 Avustralya hükümeti, OpenAI ihlaline hızlı müdahale etmek için bir görev gücü kurdu. Görev gücü, mevcut yasal boşlukları ve kontrolden çıkan bir yapay zekâ ajanının zarar vermesi halinde hangi insanların sorumlu tutulacağını inceleyecek.
🔹 Avustralya’daki süreç, bağımsız yapay zekâ ajanlarının neden olduğu zararlarda insan sorumluluğuna ilişkin uluslararası bir hukuki çerçeve oluşturabilir.
🔹 OpenAI’nin eğitim sırasında “uyumsuz model faaliyeti” yaşandığını kabul eden kısa açıklaması, olayla ilgili ayrıntılı sorulara doğrudan yanıt vermedi.
🔹 OpenAI CEO’su Sam Altman, Birleşmiş Milletler Güvenlik Konseyi’nde iyi denetimin nasıl olması gerektiği konusunda uzlaşılması halinde herkesin daha iyi durumda olacağını söyledi.