«ВКонтакте» создает нейросеть для борьбы с агрессией
Технология на основе искусственного интеллекта позволит быстро находить публикации с недопустимыми высказываниями. В итоге ускорится время обработки жалоб, а сама платформа очистится от хейтспича.
Для обучения ИИ соцсеть «ВКонтакте» добавила категорию «Враждебные высказывания». После нажатия пользователем на кнопку «пожаловаться» конкретный материал автоматически попадет на рассмотрение модераторов. Нынешнее решение будет способствовать сбору датасета для новых разработок компании на базе нейросетей.
В настоящее время алгоритмы учатся определять категории оскорблений, в т.ч. ксенофобию, расизм, сексизм, дискриминацию людей по религиозным убеждениям, возрасту, внешности, иным параметрам. По словам руководителя команды модерации И.Корнеева, приходится ежедневно обрабатывать огромные объемы контента для блокирования информации на языке вражды и прославляющей насилие. Большинство такой информации удаляется до того, как она становится доступна пользователям VK.
За первое полугодие соцсеть заблокировала 2470 распространяющих хейтспич сообществ, 1340 профилей, удалила 520 тысяч единиц разжигающего ненависть контента.
Для обучения ИИ соцсеть «ВКонтакте» добавила категорию «Враждебные высказывания». После нажатия пользователем на кнопку «пожаловаться» конкретный материал автоматически попадет на рассмотрение модераторов. Нынешнее решение будет способствовать сбору датасета для новых разработок компании на базе нейросетей.
В настоящее время алгоритмы учатся определять категории оскорблений, в т.ч. ксенофобию, расизм, сексизм, дискриминацию людей по религиозным убеждениям, возрасту, внешности, иным параметрам. По словам руководителя команды модерации И.Корнеева, приходится ежедневно обрабатывать огромные объемы контента для блокирования информации на языке вражды и прославляющей насилие. Большинство такой информации удаляется до того, как она становится доступна пользователям VK.
За первое полугодие соцсеть заблокировала 2470 распространяющих хейтспич сообществ, 1340 профилей, удалила 520 тысяч единиц разжигающего ненависть контента.
