Культура, Новости

«ВКонтакте» будет бороться с ненавистью в сети с помощью искусственного интеллекта

0
0

[h_letter]Представители социальной сети «ВКонтакте» рассказали о том, что на данный момент платформа тестирует новый формат искусственного интеллекта. Его главной задачей станет борьба с враждебными высказываниями — хейтспичем. [/h_letter]

Так, нейросеть будет автоматически определять материалы, в которых содержатся враждебные высказывания и публикации, провоцирующие пользователей проявлять агрессию:

[citation_quote]Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них: проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.[/citation_quote]

— уточнили представители.

Для того, чтобы усилить модерацию, связанную с языком ненависти, и обучить нейросеть, разработчики «ВКонтакте» добавили новую категорию жалоб — «Враждебные высказывания». С ее помощью можно будет улучшить уже существующие инструменты, а также собрать данные для реализации новых решений.

Как утверждают модераторы, только за первую половину 2020 года были удалены более 520 тысяч единиц контента, вызывающего вражду и ненависть. «ВКонтакте» заблокировала более тысячи профилей и почти 2500 сообществ, которые распространяли враждебные высказывания.