Musk’ın Taahhütlerine Rağmen Çocukların Cinsel İstismarına İlişkin Materyaller X’te Varlığını Sürdürüyor
New York Times
🔹 Kanada Çocuk Koruma Merkezi, X’in yapay zekâ sohbet robotu Grok’un yılın başında kullanıcı taleplerine yanıt olarak çocukların cinselleştirilmiş ve zaman zaman açık cinsel içerikli görüntülerini oluşturduğunu belirledi.
🔹 Grok’un oluşturduğu görüntüler arasında kolluk kuvvetlerince daha önce bilinen mağdurlara ait fotoğrafların cinselleştirilmiş biçimde düzenlenmiş örnekleri de yer aldı.
🔹 The New York Times’ın taraması, yılın ilk yarısında X kullanıcılarının yetkililerce daha önce işaretlenmiş çocukların cinsel istismarına ilişkin materyalleri paylaştığını ortaya koydu.
🔹 Taramada ocak-haziran döneminde 75’ten fazla görüntü bulundu. Görüntüler yetkililere bildirildikten sonra kaldırıldı; bazıları kaldırılmadan önce yüzlerce kez görüntülendi.
🔹 X, otomatik filtreler ve kendi teknolojileriyle çocukların cinsel istismarına ilişkin materyalleri engellediğini açıkladı. Şirket, reşit olmayanları koruma sorumluluğunu ciddiye aldığını ve yapay zekâ tarafından oluşturulan içerikler dahil bu materyallere karşı sıfır tolerans uyguladığını söyledi.
🔹 X, son bir ayda istismar içerikleri paylaşan veya bu içeriklerle etkileşime giren 780 bin kullanıcıyı engellediğini ve bu kullanıcıları yetkililere bildirdiğini açıkladı. Şirket, bu yıl Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’ne 1,3 milyon görüntü bildirdiğini ve bu bildirimlerin 543 tutuklamaya yol açtığını duyurdu.
🔹 Elon Musk, 2022’de Twitter adıyla faaliyet gösteren X’i satın aldı ve çocukların cinsel istismarına ilişkin materyallerin kaldırılmasını “1 numaralı öncelik” ilan etti. Musk, Grok’tan bu tür görüntüler oluşturmasını isteyen kullanıcıların, yapay zekâ üretimi olmayan istismar materyallerini paylaşan kullanıcılarla aynı yaptırımlarla karşılaşacağını söyledi.
🔹 Kanada Çocuk Koruma Merkezi, X’in Grok hesabı aracılığıyla çocukların cinselleştirilmiş veya istismar içerikli görüntülerinin oluşturulduğu 65 örnek tespit etti. X, kamuoyu tepkisinin ardından hesabın bu tür görüntüler üretmesini durduracağını açıkladı.
🔹 xAI, Grok aracılığıyla çocukların cinsel istismarına ilişkin materyaller oluşturan bazı kullanıcılarına dava açtı. Şirket ayrıca Grok’un reşit olmayanlara ait açık görüntüler ürettiğini öne süren çeşitli davalarla karşı karşıya.
🔹 Teknoloji şirketlerinin, tespit ettikleri istismar görüntülerini kaldırmaları ve kolluk kuvvetleri için merkezi bir veri tabanı işlevi gören Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’ne bildirmeleri gerekiyor.
🔹 Merkezin bilinen istismar görüntülerine ait dijital parmak izleri Google, Meta ve diğer büyük teknoloji şirketleriyle paylaşılıyor. X’te bulunan görüntülerin yaklaşık üçte biri bu listede yer aldı.