TikTok Milyonlarca Kullanıcıdan Bir Güvenlik Özelliğini Esirgedi. Biri İntihar Ederek Hayatını Kaybetti
Bloomberg
🔹 TikTok, 2021'de zararlı içeriklerin kullanıcıları aşırı biçimde etkilemesini önlemek için algoritmasını değiştirdi ancak daha güvenli sürümü tüm kullanıcılara sunmadı.
🔹 Şirket, değişikliğin uygulamanın kullanıcıları platformda tutma oranını azaltıp azaltmayacağını ölçmek için ABD'deki kullanıcıların yüzde 10'unu eski algoritmanın kullanıldığı kontrol grubuna dahil etti. Bu grup o dönemde yaklaşık 15 milyon kişiden oluşuyordu.
🔹 16 yaşındaki Chase Nasca'nın hesabı kontrol grubunda yer aldı ve TikTok'un filtre balonu önleme güvenlik özelliği bu hesapta devreye girmedi.
🔹 TikTok'un incelemesi, Nasca'ya ölümünden önceki iki haftada 7.563 video önerildiğini ortaya koydu. Videoların yüzde 73'ü intihar, ruh sağlığı sorunları, yalnızlık ve üzüntü temaları taşıdı; yaklaşık yüzde 10'u ise intiharı veya kendine zarar vermeyi teşvik eden içerik kurallarını ihlal etti.
🔹 Nasca, Şubat 2022'de New York'un Bayport kentinde bir trenin önüne geçerek hayatını kaybetti. Ölümünden önceki gün TikTok'ta beş saatten fazla zaman geçirdi ve intihar ile trenler hakkında aramalar yaptı.
🔹 Mart 2023'te hazırlanan ve mahkeme kararıyla mühürlenen şirket içi inceleme, Nasca'nın hesabının tekrarlayan intihar, kendine zarar verme, depresyon, umutsuzluk ve yalnızlık içeriklerinden oluşan bir filtre balonuna düştüğünü ortaya koydu.
🔹 İnceleme, gelecekte benzer olayları önlemek için kontrol grubunun yüzde 1'in altına indirilmesini ve aynı kullanıcılar üzerindeki test süresinin altı ay veya bir yıldan yedi güne düşürülmesini önerdi. Kontrol grubunun onda bir oranına indirilmesinin bile en az 1,8 milyon ABD'li kullanıcıyı bu özellikten mahrum bırakacağı hesaplandı.
🔹 TikTok, topluluğun güvenliği ve refahına bağlı olduğunu, özellikle gençleri korumak için içerik tespit sistemlerine ve uygulama kurallarını ihlal eden içerikleri kaldıran ekiplerine yatırım yaptığını açıkladı.
🔹 TikTok CEO'su Shou Chew, Mart 2023'te Kongre'de gençler için güvenlik ve refahın şirketin temel önceliği olduğunu ve şeffaflık taahhüdü bulunduğunu söyledi.
🔹 Şirket, Kongre'ye sunduğu yazılı yanıtlarda platform kullanımının kullanıcıların intihar etmesine neden olduğuna inanmadığını söyledi ve algoritmik A/B testlerinin yol açtığı zarar vakaları sorusuna, topluluk güvenliğinin en önemli öncelik olduğunu belirten genel bir yanıt verdi.
🔹 Son dört yılda sosyal medya şirketlerinin çocukların ruh sağlığına zarar verdiği gerekçesiyle 4.000'den fazla kişisel yaralanma davası açıldı. TikTok, bu yıl duruşmaya gitmesi planlanan sosyal medya bağımlılığına ilişkin beş kişisel yaralanma davasının tamamını uzlaşmayla sonuçlandırdı.
🔹 Chase Nasca'nın ailesinin TikTok'a açtığı haksız ölüm davası geçen yıl bir yargıç tarafından reddedildi; şirketin Sorumlu İletişim Ahlakı Yasası'nın 230. maddesi kapsamındaki korumayı ileri sürmesine dayanan karara itiraz süreci devam ediyor.