Yapay zekâ ile üretilen sahte çıplak görüntüler çocuklar arasında yeni bir zorbalık biçimi yarattı
Wall Street Journal
🔹 Yapay zekâ destekli “nudify” araçları herhangi bir kişinin fotoğrafından sahte çıplak görüntüler üretmeyi son derece kolay hale getirdi ve bu içerikler çocuklar arasında yeni bir siber zorbalık yöntemi olarak yayılıyor.
🔹 Massachusetts'te bir ortaokul öğrencisinin sahte çıplak görüntüsü sınıf arkadaşı tarafından oluşturularak Snapchat üzerinden yayıldı ve okul koridorlarında ekran görüntüleri dolaştırıldı.
🔹 Ailenin yaptığı şikâyete rağmen okul yönetimi olayın okul ortamında gerçekleştiğine dair yeterli kanıt bulunmadığını belirledi ve görüntüyü hazırlayan öğrenci resmi disiplin cezası almadı.
🔹 Aynı okulda başka bir kız öğrenciye "Sıra sende" mesajı gönderildiği bildirildi.
🔹 ABD'de yürürlüğe giren "Take It Down Act" izinsiz oluşturulan yapay zekâ destekli mahrem görüntülerin paylaşılmasını federal suç haline getirdi ve platformlara 48 saat içinde kaldırma yükümlülüğü getirdi.
🔹 Avrupa Birliği ise bu tür "nudify" uygulamalarını tamamen yasaklamayı değerlendiriyor.
🔹 Buna rağmen birçok eyalette mevcut yasaların yeterince uygulanmadığı ve vakaların yeterince soruşturulmadığı belirtiliyor.
🔹 Günümüzde tek bir fotoğraf kullanılarak kişilerin kıyafetleri dijital olarak kaldırılabiliyor, yalnızca 10 saniyelik ses kaydıyla ise ses klonlaması yapılabiliyor.
🔹 George Mason Üniversitesi araştırmasına katılan ABD'li gençlerin yarısından fazlası en az bir kez yapay zekâ ile çıplaklaştırma aracı kullandığını, üçte biri ise kendisi hakkında izinsiz sahte çıplak görüntü üretildiğini söyledi.
🔹 Teknoloji Şeffaflığı Projesi, Apple ve Google uygulama mağazalarında 100'den fazla bu tür uygulama tespit ettiğini, bunların 700 milyondan fazla indirildiğini ve 117 milyon dolar gelir elde ettiğini açıkladı.
🔹 Google ve Apple daha sonra "nudify" aramalarını engellediklerini ve kurallara aykırı uygulamaları kaldırdıklarını bildirdi.
🔹 Iowa'da yaklaşık 50 lise öğrencisinin sahte çıplak görüntüleri oluşturularak paylaşılmasının ardından mağdurlardan biri eğitimini çevrim içi sürdürmeye başladı.
🔹 Indianapolis'te bir öğretmenin yapay zekâ ile oluşturulan müstehcen görüntüsü öğrenciler arasında yayılırken öğretmen daha sonra başka bir okul bölgesine geçmek zorunda kaldı ve eyalet değiştirmeyi planladığını açıkladı.
🔹 Bazı vakalarda yapay zekâ ile üretilen sahte çıplak görüntüler şantaj amacıyla kullanıldı ve bu olayların intihar vakalarına yol açtığı bildirildi.
🔹 İngiltere merkezli Internet Watch Foundation, yapay zekâ ile oluşturulan çocuk cinsel istismarı videolarının sayısının 2025 yılında 3.400'ü aştığını açıkladı.
🔹 Haberde, sosyal medyada tek bir fotoğrafı bulunan herkesin bu tür yapay zekâ destekli içeriklerin hedefi haline gelebileceği uyarısına yer verildi.