Ведущая российская социальная сеть ВКонтакте разработала и начала использовать собственный «обучаемый» алгоритм, который будет присваивать картинкам специальный рейтинг.
Данный рейтинг будет использоваться для определения того содержится ли в публикуемых картинках противоправный или «опасный» контент или нет.
По словам представителей ведущей российской социальной сети в результате работы нового обучаемого алгоритма «запрещенный» контент либо просто не попадет в внутреннюю поисковую выдачу ВКонтакте и «умную» новостную ленту, либо будет полностью заблокирован.
Помимо всего прочего, разработанный специалистами ВКонтакте алгоритм способен действительно качественно анализировать текстовые надписи на изображениях.
Нейросеть, применяемая в работе запущенного алгоритма, позволяет определять предметы и сущности, представленные на публикуемых графических материалах. Она способна распознать не только простейшие понятия такие как «человек», «ребенок», «животное», «растение», но и сможет определить, например, предмет одежды или символ так называемых «групп смерти».
В общей сложности, применяемая в новом алгоритме нейросеть, включает в себя несколько тысяч классов, которые будут присваиваться анализируемым графическим материалам — от 0 до 1 по нескольким параметрам.
Если новый алгоритм оценит тот или иной графический материал (фотографию) как «опасный», то он будет незамедлительно отправлен на дополнительную проверку модераторам ведущей российской социальной сети. Если же фотография или иной графический материал будет расценен специализированным алгоритмом как «умеренно опасный», то он исчезнет из внутренней поисковой выдачи ВКонтакте, а также получит гораздо более низкий приоритет в новостной ленте.
Подобный механизм призван самым активным образом противодействовать распространению спама, мошенничества, детской порнографии, разнообразных нелегальных услуг, а также любой другой противоправной деятельности или попыткам ее осуществления в рамках ведущей российской социальной сети ВКонтакте.
Кроме того уже функционирует специальный сценарий работы нового алгоритма, направленный на выявление и борьбу с контентом, который так или иначе провоцирует совершение самоубийств. Записи и графические материалы, связанные с подобной тематикой уже удаляются в полностью автоматическом режиме, а опубликовавшие их авторы наказываются вечной блокировкой аккаунта в социальной сети ВКонтакте.
Комментируя начало работы нового алгоритма, руководитель направления Big Data и Machine Learning ВКонтакте Андрей Зконов подчеркнул, что используемая в его работе нейросеть будет анализировать графические материалы, предназначенные для общего доступа, а не те которыми пользователи ведущей российской социальной сети обмениваются в рамках личных сообщений.
Кроме того было отмечено, что благодаря «обучаемости» нового алгоритма уже совсем скоро он позволит гораздо более эффективно бороться со спамом и мошенничеством. Примечательно, что первоначальное «обучение» нейросети, применяемой в работе нового алгоритма, происходило на основе жалоб рядовых пользователей социальной сети ВКонтакте на самый разнообразный контент.
