greentea
Местный
- Сообщения
- 149
- Реакции
- 122
- Баллы
- 63
ВКонтакте запустила специальный фильтр для борьбы с враждебными высказываниями в комментариях, в основу которого легла нейросеть. Его можно отключать и включать в настройках сообщества в любое время. Функция уже появилась у владельцев 50% пабликов, а скоро станет доступна всем.
В ВКонтакте миллионы сообществ по интересам — и в каждом из них разная атмосфера и свои принципы общения. Мы хотим, чтобы у вас была возможность сделать среду в своих пабликах более доброжелательной: подписчики смогут вести конструктивный диалог и не бояться получить жестокую реплику в ответ, — говорится в сообщении соцсети, адресованном администраторам.
Сейчас алгоритмы ВКонтакте умеют определять прямые угрозы, такие как пожелания смерти и обещания причинить вред здоровью. В будущем нейросеть научат распознавать и другие признаки нетерпимости, например травлю на национальной или религиозной почве.
Для обучения нейросети использовали тексты на русском языке, в том числе субтитры из фильмов, сериалов и видео. Механизм внимания нейросети позволяет ей принимать решения на основе важности слов и их комбинаций. Сейчас разработчики занимаются логикой принятия решений, которая должна учитывать контекст. Нейросеть правильно определяет угрозы в 80% случаев.
В ВКонтакте миллионы сообществ по интересам — и в каждом из них разная атмосфера и свои принципы общения. Мы хотим, чтобы у вас была возможность сделать среду в своих пабликах более доброжелательной: подписчики смогут вести конструктивный диалог и не бояться получить жестокую реплику в ответ, — говорится в сообщении соцсети, адресованном администраторам.
Для обучения нейросети использовали тексты на русском языке, в том числе субтитры из фильмов, сериалов и видео. Механизм внимания нейросети позволяет ей принимать решения на основе важности слов и их комбинаций. Сейчас разработчики занимаются логикой принятия решений, которая должна учитывать контекст. Нейросеть правильно определяет угрозы в 80% случаев.
