Son günlerde ortaya çıkan çarpıcı iddialar, sosyal medya devleri Meta (Facebook ve Instagram'ın ana şirketi) ve TikTok'un içerik denetimi uygulamalarına kara bir leke sürüyor. Whistleblower'lar ve sızan belgeler, platformların kullanıcı etkileşimini artırmak adına kasıtlı olarak zararlı içeriklerin yayılmasına göz yumduğunu öne sürüyor. Bu iddialar, şirketlerin büyüme ve siyasi konumlarını iyileştirme uğruna kullanıcı güvenliğini tehlikeye attığı rahatsız edici bir tablo çiziyor.
Tartışmaların merkezinde yer alan Meta'nın, Facebook ve Instagram'daki araştırmalarının "öfke"nin kullanıcı etkileşiminde önemli bir rol oynadığı sonucuna vardığı iddia ediliyor. Bu bulgunun ardından, "sınırda" zararlı olarak nitelendirilebilecek içeriklerin kullanıcı akışlarında daha fazla yer almasına izin verildiği söyleniyor. Bu stratejinin, özellikle 2020'de TikTok'un yükselişine karşı bir hamle olarak piyasaya sürülen Instagram Reels'ın başlangıcında belirginleştiği belirtiliyor.
Hatta, TikTok ile rekabet etme dürtüsünün o kadar güçlü olduğu, Reels'ın geliştirilme sürecinde gerekli güvenlik protokollerinin tam olarak hayata geçirilmediği yönünde kanıtlar bulunuyor. Ortaya çıkan Meta içi araştırmalar, Instagram'ın diğer bölümlerine kıyasla Reels'ta zorbalık, taciz, nefret söylemi ve şiddet olaylarının çok daha yüksek oranlarda görüldüğünü ortaya koymuş. Bu endişe verici bulgulara rağmen, şirketin kullanıcı tabanını genişletmeyi, içeriği etkin bir şekilde yönetmek için gereken güvenlik ekiplerini güçlendirmeye tercih ettiği iddia ediliyor. Bir Meta mühendisinin, "Hisse senedi fiyatları düştüğü için böyle yaptıklarını söylediler" diyerek bu kararları haklı çıkarmaya çalıştığı aktarılıyor.
Suçlamalar TikTok'a da uzanıyor. Platformdan bir kaynağın, zararlı içeriklerle ilgili kullanıcı şikayetlerinin sıklıkla siyasi figürlerle ilgili vakaların önüne geçtiğini gösteren dahili panellere erişim sağladığı belirtiliyor. Personelin açıklamasına göre bu uygulamanın amacı, düzenleyici müdahaleler veya yasaklanma riskini azaltmak için siyasi çevrelerle "güçlü bir ilişkiyi sürdürmek". Bu durum, kullanıcıların maruz kaldığı potansiyel tehlikelerin, olumlu siyasi bağları korumanın ikincil planına atıldığı hesaplı bir takas öneriyor.
Bu iddia edilen uygulamaların birleşik etkisi, kullanıcıların giderek artan bir şekilde çeşitli zararlı materyallere maruz kaldığı bir manzara yaratıyor. Kadın düşmanlığı ve komplo teorilerinden, cinsel şantaj ve terörizmin yüceltilmesi gibi daha ciddi istismar biçimlerine kadar, Meta ve TikTok içindeki bu algoritmik zararların farkındalığı sorgulanıyor. Bu ifşaatlar, büyük sosyal medya şirketlerindeki mevcut içerik denetimi politikalarının etkinliği ve ticari çıkarları ile geniş kullanıcı topluluklarını koruma sorumlulukları arasındaki temel çatışma hakkında derin endişeler doğuruyor. Kullanıcı refahı ve çevrimiçi söylemin bütünlüğü üzerindeki uzun vadeli etkiler, acil bir endişe kaynağı olmaya devam ediyor.