Алгоритм Instagram потерял контроль: пользователи жалуются на лавину жестоких роликов

26 февраля некоторые пользователи отметили необычное поведение алгоритма рекомендаций Instagram*.

Честно говоря, что с Instagram творится в последнее время? В течение последних 24 часов кажется, что алгоритм Instagram вышел из-под контроля. Моя лента переполнена насильственными роликами – просто один за другим. Кажется, Instagram пытается заставить меня усомниться в том, не подписался ли я случайно на аккаунт, посвящённый “кровопролитию и хаосу”.

Некоторые пользователи заявили, что сталкивались с таким контентом, даже при отключенном отображении чувствительного материала в Instagram*. Кроме того, телеканал CNBC подтвердил, что ему удалось увидеть несколько постов в Instagram, на которых были запечатлены мертвые тела, очевидные травмы и акты насилия.

Согласно политике Meta**, компания сосредоточена на защите пользователей от неподобающего контента и удаляет материалы, содержащие явную жестокость. Подходящие под запрещение материалы могут включать “видеоролики с расчленением, видимые внутренние органы или обожжённые тела”, а также “садистские комментарии к изображениям страданий людей и животных”. Тем не менее, Meta** разрешает публикацию чувствительного контента, если это помогает пользователям осуждать важные вопросы, такие как нарушения прав человека, военные конфликты и террористические акты, повышая осведомлённость о них. Такой контент может сопровождаться предупреждающими надписями.

Интересно отметить, что сбой с роликами в Instagram* произошёл после того, как Meta** объявила о намерении пересмотреть свою политику модерации с целью улучшения свободы самовыражения. В заявлении от 7 января компания сообщила о планах изменить порядок применения некоторых правил касательно контента, чтобы сократить количество ошибочных действий, приводящих к неоправданной цензуре. Meta** также отметила, что сосредоточится не на всех нарушениях, а на “незаконных и особо серьёзных нарушениях, таких как терроризм, сексуальная эксплуатация детей, наркоторговля, мошенничество и аферизм”. Для менее серьезных нарушений компания заявила, что будет полагаться на сообщения пользователей, прежде чем предпринимать действия.

На следующий день после инцидента Meta** опубликовала извинения и сообщила о исправлении ошибки.

* Соцсеть, запрещённая в РФ, принадлежит Meta

** Компания Meta признана экстремистской организацией в РФ