«ВКонтакте» тестирует нейросеть для распознавания враждебных высказываний

Социальная сеть «ВКонтакте» тестирует решение автоматического распознавания материалов с враждебными высказываниями на основе искусственного интеллекта. Об этом говорится в сообщении компании.

Нейросеть позволит быстрее находить публикации, провоцирующие агрессию аудитории и материалы с враждебными высказываниями. Она учится определять разные категории угроз и оскорблений, среди которых проявления ксенофобии, расизма, гомофобии, сексизма, оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Теперь в соцсети есть новая категория жалоб — «Враждебные высказывания», которая позволит собрать набор данных для новых решений на основе нейросетей.

Сообщается, что «ВКонтакте» лишь за первую половину 2020 года удалила 520 тыс. единиц контента по теме разжигания вражды и ненависти. Еще она заблокировала почти 2,5 тыс. сообществ и более тысячи профилей, которые распространяли враждебные высказывания.

Напомним, недавно пользователи «ВКонтакте» жаловались на сбои в работе сервиса.