«ВКонтакте» будет искать суицидальный контент с помощью нейросетей

Социальная сеть «ВКонтакте» будет искать запрещенные изображения с помощью нейросети собственной разработки

Нейросеть умеет определять предметы и сущности, изображенные на фото. Она имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм считает фото опасным, он отправляет его модераторам для проверки. Если фото признают умеренно опасным, оно пропадает из поисковой выдачи, в ленте новостей понижают его приоритет. Механизм призван остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг, пишут «Известия».

Для борьбы с суицидальным контентом придумали отдельный сценарий. Записи и фотографии на эту тему будут удалять автоматически, их авторов — блокировать. Если пользователь загружает картинку или ставит хэштеги, которые ранее использовали в качестве призыва к суициду, соцсеть блокирует страницу и предлагает сообщить о причинах публикации. На основании ответов будут определять, когда страницу разблокируют, пользователю могут предложить помощь психологов фонда «Твоя Территория» или советы по безопасности страницы.

Алгоритм поможет сформировать новостную ленту по приоритету, максимально интересному пользователю. Присваивание классов нужно не только для удаления противоправных изображений, но и для формирования ленты пользователя с учетом его интересов. По данным «ВКонтакте», «умной» лентой пользуется 80% активных пользователей.

Технологию нейросетей сделали популярной приложения, превращающие фотографии в произведения искусства: Prisma от выходца из Mail.ru Group, Vinci от «ВКонтакте» и Artisto, которое редактировало видео.