«ВКонтакте» тестирует нейросеть для борьбы с враждебными высказываниями

«ВКонтакте» работает над искусственным интеллектом для автоматического распознавания материалов с хейтспичем — враждебными высказываниями, сообщает пресс-служба соцсети.

Технология ускорит время обработки жалоб и поможет пользователям реже сталкиваться с проявлениями нетерпимости.

Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть будет определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Чтобы обучить искусственный интеллект, соцсеть добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать ее, если нажмет кнопку «Пожаловаться» у оскорбительной публикации. После этого материал попадет на рассмотрение к модераторам.