Одна из ведущих российских соцсетей «ВКонтакте» разрабатывает на основе технологий искусственного интеллекта цифровое решение, направленное на борьбу с материалами, которые содержат враждебные высказывания (хейтспич). Об этом говорится в пресс-релизе компании, опубликованном в четверг, 20 августа.

В администрации социальной сети отметили, новая технология сократит время обработки жалоб и поможет участникам сообществ реже сталкиваться с проявлениями нетерпимости со стороны недобросовестных пользователей.

«Новая нейросеть будет гораздо быстрее выявлять видео- и текстовые материалы, содержащие контент с хейтспичем. Отдельно будут подвергаться мониторингу публикации на предмет разжигания агрессии. Параллельно с этим, базируясь на технологиях искусственного интеллекта, нейросеть будет учиться не только выявлять контент с враждебной информацией, но и распределять его по категориям. Речь идет о проявлениях пользователями сексизма, гомофобии, ксенофобии, расизма и прочих социальных предрассудков. Также новое решение будет противостоять враждебным высказываниям на почве возраста, внешности или религиозных предпочтений», – говорится в пресс-релизе.

Для усиления модерации враждебных материалов, программисты «ВКонтакте» добавили в публикациях новую опцию – «Враждебное высказывание». Если участник соцсети сочтет тот либо иной контент оскорбительным, в окне публикации он может выбрать данную опцию и пост сразу же отправится на рассмотрение модераторов. Таким образом, разработчики сервиса смогут более тонко откалибровать работающие инструменты нейросети и дополнить базу данных новыми вводными требованиями.

Во «ВКонтакте» рассказали, по итогам I полугодия 2020 года из-за враждебных высказываний модераторами было заблокировано 2 470 сообществ, 1 340 профилей и свыше 520 тыс. единиц контента.