Соцсети превращают ваш гнев в свою выгоду. Новое расследование BBC, легшее в основу документального фильма “Внутри машины ярости”, обнажило фундаментальный изъян алгоритмов соцсетей. Более десятка внутренних информаторов из крупнейших IT-корпораций предоставили доказательства того, что платформы намеренно продвигают вредоносный контент. Внутренние исследования компаний подтвердили: ничто так не подпитывает активность и вовлеченность пользователей, как чувство возмущения или ярость.
Борясь за внимание аудитории, корпорации пошли на осознанный риск, закрывая глаза на распространение контента, связанного с насилием, теориями заговора и даже сексуальным шантажом.
Meta: Спасение акций ценой безопасности
Главный акцент расследования сделан на компании Meta (владелец Facebook и Instagram). Чтобы остановить отток аудитории, руководство пошло на беспрецедентное смягчение внутренних правил модерации. Судя по инсайдам от инженеров и исследователей Meta (включая старшего исследователя Мэтта Мотила), высшее руководство напрямую приказывало разработчикам пропускать в алгоритмические ленты контент, “граничащий с вредоносным”. Особый приоритет отдавался публикациям, содержащим женоненавистничество и радикальные теории заговора, так как они генерировали максимум споров.
Инженеры компании прямо заявляют, что главным драйвером таких решений стал страх инвесторов. Руководство оправдывало накачку лент агрессивным контентом необходимостью остановить падение цен на акции компании.
Говоря про Instagram Reels — инструмент для конкуренции с короткими видео TikTok, то он был выведен на рынок в 2020 году без достаточных фильтров безопасности. Внутренняя аналитика показала, что в комментариях к Reels уровень травли, языка вражды и подстрекательств к насилию значительно превышает показатели всех остальных разделов Instagram.
TikTok: Политическая лояльность важнее защиты детей
Если Meta пожертвовала безопасностью ради акций, то китайский гигант ByteDance (владелец TikTok) пошел на системные нарушения ради выживания на западных рынках. Бывший сотрудник компании предоставил журналистам BBC редкий доступ к внутренним панелям управления модерацией.
Данные панелей вскрыли циничный приоритет в обработке жалоб:
- Игнорирование угроз несовершеннолетним. Модераторы получали указания откладывать или игнорировать серийные репорты о вредоносных и опасных публикациях с участием детей.
- VIP-протокол для политиков. Вместо реагирования на реальные угрозы, все ресурсы бросались на приоритетное обслуживание единичных жалоб от политических деятелей.
- Страх запрета. Информатор подчеркнул, что эти решения диктовались исключительно желанием руководства “поддерживать прочные отношения” с властями. TikTok критически нуждается в лояльности политиков, чтобы избежать законодательных ограничений, регуляций или полного запрета приложения в США и Европе.
Судя по всему, индустрия соцсетей окончательно превратилась в машину по переработке человеческого гнева в рекламные доллары. Невероятно эффективный алгоритм рекомендаций TikTok перевернул правила игры, заставив конкурентов отказаться от базовых принципов цифровой гигиены. Сегодня алгоритмы настроены не на то, чтобы информировать или развлекать, а на то, чтобы провоцировать нейробиологический стресс, заставляя пользователя скроллить ленту в состоянии перманентного возмущения.