МОСКВА, 20 авг — ПРАЙМ. Социальная сеть «ВКонтакте» разрабатывает решение для самодействующего распознавания материалов с хейтспичем — враждебными высказываниями — на основе искусственного интеллекта, говорится в сообщении компании.
«Новая нейросеть поможет скорее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть обучается определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и иных предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний», — уточняется в извещенье.
Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.
Чтобы усилить модерацию по теме стиля ненависти и обучить искусственный интеллект, соцсеть добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может избрать её, если нажмёт кнопку «пожаловаться» у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам, что позволит позволит буквальнее откалибровать уже существующие инструменты и собрать новые на основе нейросетей.
Помимо этого, команды модерации и поддержки не лишь реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых печатей и нейронных сетей, отметили в компании.
За первую половину 2020 года на платформе было удалено 520 тысяч колов контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.
