Социальная сеть «В контакте» запустила нейросеть, которая будет фильтровать враждебные комментарии в группах и на публичных страницах, сообщает компания. Функция должна облегчить работу администраторов и сделать атмосферу в пабликах «более доброжелательной».

Нейросеть уже умеет отсекать комментарии с угрозами, например пожелания смерти или обещания причинить вред здоровью. В будущем она научится распознавать и другие признаки нетерпимости: травлю по принципу национальной или религиозной принадлежности, обещают разработчики «В контакте».

По умолчанию фильтр выключен. Чтобы его включить, необходимо перейти к управлению сообществом, открыть вкладку «Комментарии» в разделе «Настройки» и отметить нужное поле. Администраторы публичной страницы смогут увидеть все отсеянные комментарии, восстановить любой из них или отправить автора в черный список. Сделать это можно только в десктопной версии соцсети. 

«В контакте» начала фильтр враждебных комментариев в ноябре 2020 г. Как сообщают в компании, с тех пор им воспользовались администраторы 13 млн публичных страниц, групп, мероприятий и остались довольны. Facebook также использует нейросети для модерации оскорбительного и шокирующего контента. В 2019 г. соцсеть удалила несколько десятков миллионов постов с таким содержанием.