TikTok'un algoritma deneyi genç bir kullanıcının ölümüne yol açtı

ABD merkezli Bloomberg'in ulaştığı gizli belgelere göre, TikTok, 2021 yılında zararlı içerikleri azaltmak amacıyla geliştirdiği algoritma güncellemesini tüm kullanıcılarına aynı anda sunmadı. Şirket, bu güncellemeyi denemek için ABD'deki kullanıcıların yaklaşık yüzde 10'unu kapsayan bir kontrol grubu oluşturdu. Bu gruptaki yaklaşık 15 milyon kullanıcı, uygulamanın eski algoritmasını kullanmaya devam etti. Kontrol grubunda yer alan 16 yaşındaki Chase Nasca da bu yeni güvenlik önlemlerinden yararlanamayanlar arasındaydı. Belgelerde, TikTok'un algoritması tarafından Chase'e intihar, yalnızlık, umutsuzluk ve kendine zarar verme temalı binlerce video önerildiği ve bu bombardıman sonucunda genç kullanıcının yaşamına son verdiği kaydedildi.

Chase'in hesabı, algoritmanın sürekli benzer içerikleri önerdiği bir 'filtre balonu' içine hapsolmuştu. Belgede, Chase'in intihar ve kendine zarar verme içerikleriyle yoğun bir şekilde maruz kaldığı ifade ediliyor. Şirketin değerlendirmesine göre, Chase'in kontrol grubunda bulunması nedeniyle TikTok'un bu kullanıcı üzerinde etkili olamayan güvenlik stratejileri uygulamak zorunda kaldığı belirtiliyor.

Söz konusu belge, Mart 2023'te TikTok'un güvenlik ve algoritma ekipleri tarafından hazırlandı. Bu gizli belge, Chase Nasca'nın ölümünden önceki haftalar, günler ve saatlerde izlediği içeriklerin detaylı analizini içeriyor ve halen mahkeme kararıyla gizlilik altında tutuluyor. TikTok normalde bireysel kullanıcıların izleme geçmişini detaylı incelemiyor, ancak Bloomberg'in genç kullanıcılar üzerindeki etkileri araştırdığı süreçte Chase'in hesabı geriye dönük olarak analiz edildi.

Chase Nasca, Şubat 2022'de New York'un Bayport bölgesinde bir trenin önüne atlayarak hayatını kaybetti. Daha önce ruh sağlığı sorunları geçmişi olmadığı belirtilen gencin, futbol yeteneğiyle tanındığı ve herhangi bir intihar notu bırakmadığı, bu durumun ailesi ve arkadaşları için büyük bir şaşkınlık yarattığı bildirildi. Annesi, oğlunun TikTok hesabına eriştiğinde algoritmanın sürekli intiharla ilgili videolar önerdiğini fark etti. Chase'in ölümünden beş gün önce, ona yaklaşan bir trenin önünde selfie çeken bir kişi ile ilgili bir video önerildiği belirlendi.

TikTok, Chase'in ölümünden önceki iki haftada kendisine önerilen toplam 7 bin 563 videoyu analiz etti. Bu videoların yüzde 73'ünün intihar girişiminden kurtulanların anlatımları, ruh sağlığı sorunları ve ayrılık üzüntüsü gibi temalar içerdiği tespit edildi. Ancak videoların yaklaşık yüzde 10'unun platform kurallarını ihlal ettiği belirlendi; bu içerikler derin depresyon, düşük öz saygı, yalnızlık ve intihar düşüncelerini içeriyordu. Genel olarak Chase'e önerilen videoların ortak temasının umutsuzluk olduğu kaydedildi.

Chase'in yaşamının son günlerine dair belgelerde, ölümünden bir gün önce beş saatten fazla TikTok kullandığı ve trenler ile intihar konulu içerikleri aradığı görülüyor. Ölüm günü ise intihara göndermeler yapan videoları favorilerine eklediği belirtildi. Chase, yaşamına son vermeden önce sosyal medyada, "Bu dünya beni unutacak" mesajını paylaşan bir çocuğun hikâyesini anlatan videoyu defalarca izledi. Genç kullanıcının gördüğü son videonun ise ağlayan bir kişinin görüntülerini içerdiği ifade edildi.

Chase Nasca'nın hesabı ölümünden sonra da aktif kalmaya devam etti. Annesinin yaptığı incelemede, algorithmanın bir yıl sonra bile hâlâ intihar temalı içerikler önermeye devam ettiği tespit edildi. Bloomberg'in ulaştığı belgeler, TikTok'un güvenlik önlemlerinin tüm kullanıcılara aynı anda uygulanmamasının sonuçlarına ilişkin dikkat çekici bulgular sunuyor.