Telegram интегрировал новые алгоритмы модерации: как платформа реагирует на нарушение правил
13 декабря 2024 05:16
В 2024 году Telegram заблокировал заблокировал более 15 миллионов каналов и групп, половину из них — за материалы о сексуализированном насилии над детьми. Об этом говорится на сайте мессенджера, информирует «Коммерсант Украинский»
Основное внимание модераторов сосредоточено на борьбе с подстрекательством к насилию, распространением материалов о насилии над детьми и противодействии торговле незаконными товарами.
По официальным данным Telegram, в 2024 году было заблокировано 15 383 034 групп и каналов, которые нарушали правила платформы. Такой результат стал возможным благодаря синергии технологических решений и активного участия сообщества пользователей. Ежедневно платформа блокирует десятки тысяч объектов, которые не соответствуют Условиям использования, что свидетельствует о масштабности проблемы и решимости компании бороться с ней.
Telegram сосредотачивается на удалении таких типов контента:
- Материалы о насилии над детьми — модерация этой категории является приоритетом, учитывая ее чрезвычайный общественный вред.
- Подстрекательство к насилию — компания активно противодействует группам, которые распространяют призывы к преступлениям или провоцируют социальные конфликты.
- Торговля незаконными товарами — платформа блокирует каналы, которые занимаются продажей наркотиков, оружия и других запрещенных вещей.
В 702 тысячах заблокированных каналах и группах модераторы обнаружили материалы о сексуализированном насилии над детьми, еще 129 тысяч были заблокированы из-за терроризма.
Отмечается, что с 2015 года Telegram использует комбинированную систему модерации, которая сочетает отчеты пользователей с проактивным мониторингом на основе машинного обучения. Эта система позволяет выявлять и блокировать нарушения до того, как они станут масштабной проблемой. В 2024 году компания сделала значительный шаг вперед, интегрировав передовые инструменты модерации, основанные на искусственном интеллекте.
Новые технологии улучшили способность автоматически идентифицировать нарушения, что значительно повысило эффективность работы модераторов.
