Исследование: Смягчение правил модерации Meta* привело к резкому росту агрессии в социальных сетях

Более года назад корпорация Meta* радикально пересмотрела политику модерации контента на своих платформах. Руководство компании тогда заявило, что прежние меры контроля были избыточными и ограничивали легитимные политические дискуссии. По словам Джоэла Каплана, директора Meta* по глобальной политике, компания признала факт «чрезмерного принуждения» к соблюдению правил и цензурирования тривиального контента.

Спустя год после этих изменений эксперты Центра по противодействию цифровой ненависти (CCDH) зафиксировали серьезные негативные последствия. Анализ около 8 миллионов комментариев в Facebook* показал, что количество оскорбительных и расистских высказываний в адрес законодателей как от Республиканской, так и от Демократической партий США утроилось в течение первых шести месяцев после введения новых правил.

Масштабы распространения деструктивного контента

Исследователи выявили резкий скачок в определенных категориях нарушений. По данным отчета, количество прямых угроз насилием и проявлений разжигания ненависти выросло в четыре раза за аналогичный период. В документе приводятся примеры гендерных и расистских оскорблений в адрес конгрессменов, которые не были удалены модераторами Meta*.

Основные выводы исследования на основе анализа активности 100 членов Палаты представителей США:

• Число угроз физической расправой выросло с 1800 до 7600 случаев.
• Количество комментариев, содержащих разжигание ненависти, увеличилось с 6900 до 30 000.
• Случаи кибербуллинга и домогательств участились более чем в два раза — с 15 700 до 39 900 инцидентов.
• Угрозы в адрес президента Трампа за полгода выросли более чем в два раза, причем многие из них могли быть классифицированы как уголовные преступления.

Причины и механизмы изменений

Для оценки ситуации эксперты CCDH использовали систему искусственного интеллекта, обученную выявлять нарушения текущей политики Meta* в области подстрекательства к насилию и издевательств. Результаты работы ИИ совпали с данными собственных отчетов Meta* о прозрачности за 2025 год, которые свидетельствуют о сокращении объемов проактивной модерации — автоматического выявления нарушений — почти вдвое.

В официальном ответе Meta* заявляется, что распространенность ненавистнического контента на платформах в 2025 году не увеличилась. Однако представители компании не смогли прокомментировать конкретные примеры нарушений, предоставленные обозревателями, хотя часть из этих комментариев была удалена из Facebook* за несколько часов до публикации отчета.

Экономические факторы и реальные угрозы

Эксперты отмечают, что экстремистский контент зачастую способствует росту вовлеченности пользователей. По мнению Нины Янкович, генерального директора American Sunlight Project, агрессивные высказывания и реакции на них удерживают внимание аудитории, что выгодно для рекламной модели платформ. Сокращение расходов на модерацию позволяет компаниям экономить средства, одновременно повышая охваты за счет провокационного контента.

Рост угроз в цифровом пространстве имеет прямое влияние на реальную безопасность. Полиция Капитолия уже запрашивала увеличение бюджета, ссылаясь на участившиеся угрозы в адрес политиков. В отчете упоминаются случаи, когда чиновники и представители избирательных комиссий покидали свои посты или меняли порядок голосования из-за опасений за свою жизнь и жизнь своих близких.

Директор CCDH Имран Ахмед подчеркивает, что неспособность платформ соблюдать собственные правила против преследований и ненависти нельзя оправдать принципами свободы слова, так как это ведет к эрозии демократических процессов и реальному насилию.

* — деятельность компании запрещена на территории РФ

Твитнуть