Новые откровения бросают тень сомнения на "добрые намерения" гигантов социальных сетей Meta и TikTok. Внутренние документы и показания инсайдеров рисуют тревожную картину: платформы, похоже, сознательно потакают росту вредоносного контента, лишь бы удержать пользователей и увеличить вовлеченность. Похоже, в погоне за цифрами и выгодными политическими связями безопасность пользователей отошла на второй план.
В эпицентре скандала – Meta, владелица Facebook и Instagram. Согласно сообщениям, внутренние исследования компании пришли к выводу, что "возмущение" – мощный двигатель пользовательской активности. Эти данные, как утверждают близкие к компании источники, привели к решениям разрешить больше "пограничного" вредоносного контента в лентах пользователей. Эта стратегия, по всей видимости, была особенно заметна с запуском Instagram Reels в 2020 году – прямого ответа Meta на стремительный взлет TikTok.
Свидетельства указывают на то, что желание переманить аудиторию у TikTok было настолько сильным, что разработка Reels шла без должной проработки протоколов безопасности. Внутренние исследования Meta, просочившиеся в СМИ, показали значительно более высокий уровень буллинга, преследований, языка вражды и откровенного насилия в Reels по сравнению с другими частями Instagram. Несмотря на эти тревожные выводы, компания, по слухам, поставила рост пользовательской базы Reels выше укрепления команд, ответственных за модерацию контента. Один из инженеров Meta якобы объяснил это финансовым давлением: "Нам сказали, что это из-за падения цены акций".
Обвинения касаются и TikTok. Инсайдер платформы, как сообщается, предоставил доступ к внутренним панелям управления, демонстрирующим пугающую тенденцию: жалобы пользователей на вредоносный контент часто уступали место случаям, связанным с политическими деятелями. Сотрудник объяснил, что это делалось для "поддержания прочных отношений" с политическими структурами, тем самым снижая риск регуляторного вмешательства или полного запрета. Это наводит на мысль о сознательном компромиссе, где потенциальные опасности для пользователей оказались второстепенны по сравнению с сохранением выгодных политических связей.
В результате этих предполагаемых практик пользователи все чаще сталкиваются с потоком вредоносного контента – от мизогинии и теорий заговора до более серьезных форм злоупотреблений, таких как сексуальный шантаж и прославление терроризма. Поднимается вопрос об эффективности текущих политик модерации контента в крупных социальных сетях и о внутреннем конфликте между коммерческими интересами и ответственностью перед многомиллионными сообществами пользователей. Долгосрочные последствия для благополучия пользователей и целостности онлайн-дискурса остаются насущной проблемой.