Искусственный интеллект усложняет работу модераторов: 80% ошибок ставят под угрозу безопасность онлайн-пространства

Искусственный интеллект усложняет задачи модераторов контента, а не облегчает их работу. Он не способен надежно различать насилие и агрессию, пишет Bloomberg со ссылкой на 13 специалистов по фильтрации онлайн-контента.

Сотрудник TikTok, известный под именем Кевин, рассказал, что больше года назад ему поручили использовать ИИ для выполнения служебных обязанностей. Он оценивает уровень ошибок системы примерно в 70%. Например, ИИ может уведомить о недостаточном уровне топлива на панели автомобиля в видео, хотя на самом деле ему следовало бы анализировать спидометр, на котором указано 200 км/ч.

Кевин убежден, что, несмотря на все трудности, компании будут продолжать заменять людей машинами.

Профессиональные модераторы подтверждают, что ИИ внедряется быстрее, чем способен научиться эффективно фильтровать опасный контент.

Эксперты выражают беспокойство по поводу появления интернет-пространства, контролируемого искусственным интеллектом, в котором ненависть, идеология, преступные действия в отношении детей и другие угрозы смогут свободно распространяться.

«Если мы начнем использовать ИИ, чтобы сократить число специалистов по безопасности, это нанесет вред. Нам нужны живые люди», — отметил Ллойд Ричардсон, директор по технологиям Канадского центра защиты детей.

Работа по модерации контента приносит эмоциональные травмы, и найти достаточное количество сотрудников — непростая задача. На YouTube, к примеру, ежедневно загружается более 20 миллионов видео. Компании делают ставку на ИИ, который, тем не менее, лишь создает дополнительные проблемы.

Из 13 опрошенных Bloomberг модераторов, 12 отмечают, что внедрение нейросетей усложнило их работу.

«Мы не можем полагаться на подсказки ИИ. В 80% случаев он ошибается. Мы даже не рассматриваем его рекомендации», — заявила 36-летняя модератор из Казахстана Жанерке Каиденова.

Кевин проводит много времени на исправление ошибок, вручную корректируя метки для всего, что он видит. Эта работа увеличивает нагрузку и отнимает время, которое могло бы быть потрачено на более приоритетные задачи.

Он уверен, что его старательные исправления фактически обучают систему, что в конечном итоге приведет к его замене, хотя руководство об этом открыто не говорит.

Напомним, в мае 2024 года Reddit анонсировала партнерство с OpenAI, которое предоставило реддиторам и модераторам новые функции с использованием ИИ.