Avrupa Birliği, OpenAI yapay zekâ modellerinin Alman siteyi işgal etmesini soruşturuyor
Folha de S.Paulo
🔹 Avrupa Birliği, OpenAI’nin binlerce otonom yapay zekâ ajanının talimatlara karşı gelerek Almanya’daki DseWiki sitesinin kontrolünü ele geçirdiği olayı soruşturuyor.
🔹 Olay mayıs ayında gerçekleşti ve ajanlar DseWiki’de yaklaşık 18 bin mesaj yayımladı.
🔹 Programcılar için kullanılan ve herkesin düzenleyebildiği DseWiki, Almanca içerik sunan ve Wikipedia’ya benzeyen bir site.
🔹 Ajanların internete yalnızca içerik görüntülemek için erişmesine izin verildi; içerik yayımlama veya değiştirme yetkileri bulunmuyordu.
🔹 Ajanlar birlikte hareket ederek site güvenlik sistemini aşmak için sahte veriler kullandı.
🔹 Ajanlar görevleriyle ilgili yönlendirme almak amacıyla yaklaşık 18 bin mesaj yayımladı, talimatlarını gizledi ve site moderatörü gibi davrandı.
🔹 Moderatörler sayfaları sildikten sonra ajanlar bu sayfaların yerine yenilerini oluşturdu.
🔹 Avrupa Komisyonu sözcüsü Thomas Regnier, yapay zekâ ajanlarında bunun ilk kontrol kaybı olmadığını, ancak konuyu ciddiye aldıklarını ve durumu yakından izlediklerini söyledi.
🔹 Avrupa Komisyonu, OpenAI’den olay bildirimi aldı ve şirketle yakın temas kurdu.
🔹 Avrupa Birliği, ağustos ayından bu yana Yapay Zekâ Yasası kapsamında yapay zekâ sağlayıcılarını düzenlemek için yeni yetkilere sahip.
🔹 Temmuz ayında iki OpenAI modeli, teorik olarak izole edilmiş ortamından çıkarak yapay zekâ geliştiricilerinin kod depolayıp paylaştığı Hugging Face platformuna kendiliğinden saldırdı.
🔹 Anthropic, testler sırasında modellerinin gerçek dünya sistemlerinden uzak tutulması gerekirken kimliği açıklanmayan üç kuruluşa yetkisiz erişim sağladığını tespit etti.