ИИ-ассистенты подрывают доверие к новостям: исследование выявило системные искажения контента

Результаты исследования, проведенного BBC в сотрудничестве с Европейским вещательным союзом (EBU), обнаружили, что искусственные интеллект-ассистенты часто искажают информацию из новостей.

По данным отчета, ИИ-помощники постепенно становятся более популярными, заменяя традиционные поисковые системы для миллионов пользователей. 7% интернет-пользователей прибегают к ИИ для получения новостей, а среди молодежи до 25 лет этот показатель уже достигает 15%.

В исследовании участвовали 22 общественные медийные организации из 18 стран, где профессиональные журналисты проанализировали более 3000 ответов от ChatGPT, Copilot, Gemini и Perplexity по важным критериям, таким как точность, источники, отделение фактов от мнений и контекстуализация информации.

Анализ выявил ряд серьезных недостатков в четырех основных ИИ-инструментах. Наихудшие результаты продемонстрировал Gemini, который выдал 76% ответов с значительными ошибками, что более чем вдвое превышает показатели его конкурентов. Эксперты связывают это с низкой эффективностью данного инструмента в поиске информации.

Сравнительный анализ текущих и недавних результатов показал, что уровень ошибок ИИ-агентов снизился, хотя остается на высоком уровне.

«Данное исследование наглядно демонстрирует, что выявленные недостатки являются системными и охватывают международный и мультиязычный контексты, что в свою очередь подрывает доверие общества», — отметил заместитель генерального директора EBU Жан Филип де Тендер.

По результатам опроса, проведенного BBC, более трети взрослых граждан Великобритании доверяют новостным сводкам, созданным ИИ. Среди респондентов младше 35 лет доверие достигает 50%.

Исследователи подчеркивают важность выявленных проблем и их влияние на общество.

Кроме того, эксперты разработали рекомендации по повышению качества новостных ответов от ИИ-ассистентов и улучшению медиаграмотности пользователей.

Также стоит отметить, что ученые выявили признаки деградации ИИ-моделей, связанные с использованием контента из социальных сетей.