Meta’ya Birleşik Krallık’taki deepfake videolarını kaldırma emri verildi; Denetim Kurulu ‘yetersiz’ güvenlik önlemlerini eleştirdi
Guardian
🔹 Meta’nın Denetim Kurulu, İskoçya’daki bir İşçi Partili belediye meclis üyesi ile Avrupa’daki genç bir Müslüman kampanya gönüllüsünü hedef alan yapay zekâ üretimi videoların Facebook’tan kaldırılmasına karar verdi.
🔹 İskoçya’daki videoda belediye meclis üyesi, mülteciler hakkında kışkırtıcı ve gerçeğe aykırı ifadeler kullanıyormuş gibi gösterildi.
🔹 Kurul, videonun sesinin meclis üyesinin yüz hareketleriyle tam uyumlu olmamasını yapay zekâ üretimine işaret eden bir unsur olarak değerlendirdi.
🔹 Meta, video doğrudan gündeme getirilmesine rağmen içeriğin politikalarını ihlal etmediğine ve yapay zekâ etiketi gerektirmediğine karar verdi.
🔹 Denetim Kurulu, videonun mültecileri bir grup olarak suç teşkil eden ve cinsel saldırgan davranışlarla ilişkilendirdiği için nefret söylemi kurallarını ihlal ettiğini belirledi. Video ayrıca “yüksek riskli yapay zekâ” etiketi almalıydı.
🔹 Kurul, Meta’nın deepfake politikalarının dokuz noktada değiştirilmesini önerdi. Öneriler arasında “yüksek risk” etiketli içeriklerin akışlarda daha az gösterilmesi, tekrarlı paylaşım yapan hesaplara daha ağır yaptırımlar uygulanması ve yapay zekâ etiketleri hakkında daha fazla şeffaflık sağlanması bulunuyor.
🔹 Meta’nın, yapay zekâ üretimi içeriklerin görüntülenmesinden önce kullanıcıların uyarı ekranını tıklayarak geçmesini sağlayacak önlemler alması önerildi.
🔹 Ayrı bir kararda kurul, kadınlar ve kız çocukları için regl sağlığı eğitimi ve damgalamayı azaltma kampanyasına katılan genç Müslüman bir kadını alaya alan yapay zekâ üretimi videonun kaldırılmasını istedi.
🔹 Kadının absürt egzersizler yaptığı ve sağlıksız yiyecekler yediği şeklinde kurgulanan video, Meta’nın zorbalık ve taciz politikasını ihlal etti. Kadını hedef alan değiştirilmiş video ve görüntüler internette, Meta platformları da dahil olmak üzere, on milyonlarca kez görüntülendi.
🔹 Kurul, “istenmeyen değiştirilmiş görüntü” tanımının, özel kişilerin söylemedikleri veya yapmadıkları şeyleri söylüyor ya da yapıyor gibi gösteren deepfake içerikleri kapsayacak şekilde genişletilmesini önerdi.
🔹 Meta, platformlarındaki içerikler için hakem görevi yapan Denetim Kurulu’nu 2020’de kurdu. Meta’dan konuya ilişkin açıklama istendi.