Вконтакте разрабатывает нейросеть для борьбы с токсичностью

ИИ будет распознавать материалы с враждебными высказываниями, а так же публикации, которые побуждают к агрессии, чтобы быстрее обрабатывать жалобы пользователей.

Нейросеть будет выискивать проявления ксенофобии, расизма, гомофобии, сексизма, унижений на религиозной почве, внешности, заболеваний и т.п.

Чтобы быстрее обучить ИИ, соцсеть добавила в жалобы — «Враждебные высказывания». Когда пользователь нажимает на эту кнопку, публикация попадает к модераторам.

С начала 2020 года было удалено 520 000 публикаций, заблокировано 1340 профилей и 2470 сообществ — хорошее начало нового неагрессивного будущего.