✔«ВКонтакте» тестирует нейросеть для борьбы с враждебными высказываниями - «Интернет»

Социальная сеть «ВКонтакте» работает над искусственным интеллектом, который позволит автоматически распознавать материалы с хейтспичем – высказываниями враждебного характера, сообщает пресс-служба соцсети.

В сообщении отмечается, что технология призвана ускорить время обработки жалоб, а также помочь пользователям реже сталкиваться с проявлениями нетерпимости.

«Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний», - говорится в сообщении.

Как рассказали в пресс-службе социальной сети, в целях усиления модерации по теме языка ненависти и обучения искусственного интеллекта, в соцсети добавили новую категорию жалоб «Враждебные высказывания». Эта категория позволит точнее откалибровать уже существующие инструменты и собрать датасет для новых решений.

Помимо этого, команды модерации и поддержки соцсети не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг, в том числе с использованием механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.