Как пишет Variety, в прошедший четверг Instagram запустила искусственный интеллект для блокировки оскорбительных комментариев, и возможности данного ИИ далеко выходят за рамки простого поиска по ключевым словам. Это своеобразное тестирование технологии, которая вскоре может появиться и в Facebook, так как крупнейшая социальная сеть активно ищет новые способы модерации и фильтрации комментариев.

5 июля принадлежащий Facebook сервис для обмена фото официально объявил о запуске нового фильтра комментариев. «Многие из вас жаловались на то, что оскорбительные комментарии мешают вашему самовыражению в рамках Instagram», написал директор и соучредитель Instagram Кевин Систром в своём блоге. «Чтобы помочь вам, мы разработали новый фильтр, который будет блокировать оскорбительные комментарии в постах и видео-трансляциях».

Instagram также объявила о новом спам-фильтре, разработка которого велась на протяжении последних месяцев. На первых порах будут блокироваться лишь оскорбительные комментарии на английском языке, однако спам будет распознаваться также на испанском, португальском, арабском, французском, немецком, русском, японском и китайском языках. Фильтр комментариев включается автоматически, но пользователи при желании могут деактивировать его.

Оба фильтра основаны на технологии машинного обучения, а это значит, что их тестировали на пользовательских комментариях, благодаря чему система будет искать не только ключевые слова, но и оценивать их связь и контекст. К примеру, если пользователь использует слово «f**k» в комментариях под постом друга, то это не расценивается как оскорбление; не попадает под фильтр и ненормативная лексика, часто встречающаяся в текстах песен.

Как сообщает издание Wired, внедрённая в Instagram система для фильтрации спама и оскорбительных комментариев использует DeepText – искусственный интеллект, разработанный программистами Facebook.

И это весьма примечательно, поскольку Facebook в настоящий момент не использует ИИ для модерации контента и комментариев. Представители компании ранее заявляли, что социальная сеть пока не готова к внедрению подобного ИИ, а на недавние жалобы на обилие непристойного контента Facebook отреагировала расширением персонала, приняв в штат несколько тысяч новых модераторов.

Тем не менее, компания, похоже, изменила свои взгляды касательно использования ИИ. «Фильтрация постов на Facebook при помощи ИИ – это довольно спорная тема», недавно написал глава Facebook Марк Цукерберг в своём блоге. «Споры о целесообразности использования ИИ не утихнут и через несколько лет. Однако когда речь заходит о терроризме, нужно понимать, что ИИ поможет обеспечить безопасность общества, и я считаю, что мы должны способствовать этому».

Значит ли это, что и в Facebook появится такой же ИИ для модерации комментариев, как и в Instagram? В переписке с изданием Variety представитель Facebook подчеркнул, что обе платформы по-своему уникальны:

«Facebook и Instagram – это разные платформы с разным принципом работы, в том числе это касается и модерации комментариев. И хотя обе социальные сети нацелены на создание безопасной пользовательской среды, используемые для этого подходы отличаются друг от друга. Новые инструменты Instagram – это отличный первый шаг, который позволит обеим компаниям вынести важные уроки».

Иными словами, Facebook, скорее всего, не будет полностью копировать новый фильтр комментариев Instagram, основанный на ИИ, но компания явно смотрит на внедрение данной системы как на тестирование потенциала ИИ, чтобы в будущем использовать похожую систему для модерации комментариев в Facebook.

Instagram запускает искусственный интеллект для модерации комментариев. На очереди Facebook?
Оценка