Viral Jennie klibi Güney Kore’nin yapay zekâ deepfake yasalarının sınırlarını test ediyor
South China Morning Post
🔹 Blackpink üyesi Jennie’nin Tokyo’daki Summer Sonic festivalindeki performansından alınan ve 10 milyondan fazla izlenen video, Güney Kore’nin yapay zekâ destekli cinsel istismarla mücadelesini yeniden gündeme getirdi.
🔹 Hayranlar videonun deepfake olabileceğini öne sürerek görüntüleri kare kare inceledi ve kaldırılması çağrısı yaptı.
🔹 Jennie’nin ajansı OA Entertainment, 18 Ağustos’ta sanatçıyı çevrim içi topluluklarda ve sosyal medya platformlarında hedef alan süregelen kötüye kullanımı tespit ettiğini açıkladı.
🔹 OA Entertainment, hukukçularla birlikte hukuki ve cezai işlem başlatacağını duyurdu; videoyu ilk paylaşan hesabın askıya alındığı, ancak polis veya savcılık tarafından resmi bir takip açıklanmadığı bildirildi.
🔹 Güney Kore’de 2024’te yürürlüğe giren düzenlemeler, cinsel içerikli deepfake üretme ve dağıtmanın yanı sıra bu içerikleri bulundurma, kaydetme veya bilerek izlemeyi de cezalandırıyor.
🔹 Cinsel içerikli deepfake üretmenin cezası yedi yıla kadar hapis veya 50 milyon won para cezası; bu tür içerikleri bulundurma, satın alma, saklama veya bilerek izlemenin cezası ise üç yıla kadar hapis veya 30 milyon wona kadar para cezası olabiliyor.
🔹 Soruşturmalarda görüntünün sahte olup olmadığının belirlenmesi, ilk paylaşımı yapan kişinin bulunması ve içeriği yayan kişilerin görüntünün sahte olduğunu bilip bilmediğinin kanıtlanması gerekiyor.
🔹 Güney Kore makamları yabancı mesajlaşma hizmetleri ve platform işletmecilerine 26.697 veri talebi gönderdi; 15.466 talebe, yani yüzde 58’ine yanıt alındı.
🔹 Güney Kore’de haziran ayında Aespa üyelerinin deepfake görüntülerini üreten ve dağıtan bir kişi iki buçuk yıl hapis cezasına çarptırıldı; kişiye ayrıca 80 saatlik cinsel şiddet tedavisi programı ve çocuklar ile ergenlerle çalışmaya yedi yıl yasak getirildi.
🔹 Deepfake bağlantılı suçlar geçen yıl polis tarafından ortaya çıkarılan siber cinsel suçların yüzde 35,2’sini oluşturdu ve 1.553 vakayla en büyük kategori oldu.
🔹 2025’te yakalanan 3.557 kişinin 1.761’i ergendi; deepfake şüphelilerinin yüzde 90’dan fazlası ergenlik veya 20’li yaşlardaydı.
🔹 Güney Kore’deki Team Flame, polis ve yetkililerin bu vakaları takip etme ve soruşturma kapasitesini güçlendirmesi gerektiğini açıkladı. Uluslararası Af Örgütü Kore, dijital cinsel şiddetin toplumsal cinsiyete dayalı şiddetin bir biçimi olarak ele alınması gerektiğini duyurdu.