Виталик Бутерин защищает чат-бота Grok: Нейросеть в борьбе за правду на платформе X

Чат-бот Grok, разработанный стартапом xAI под руководством Илона Маска, стремится сделать платформу X более «доброжелательной к истине». Об этом заявил Виталик Бутерин, сооснователь Ethereum.

«Возможность обращения к Grok в Twitter — пожалуй, одно из самых значимых нововведений после Community Notes, которое благоприятно сказалось на приверженности площадки к правде», — отметил он.

По словам программиста, уникальность чат-бота заключается в неожиданных ответах, которые он предоставляет.

«Я неоднократно наблюдал, как пользователи обращаются к нему за подтверждением своих радикальных политических взглядов, а в ответ получают суровую правду», — добавил Бутерин.

Он охарактеризовал Grok как «неоспоримое улучшение» для X, но высказал опасения по поводу потенциальных рисков. Бутерин указал на то, что модель обучается на мнениях ограниченного круга пользователей, включая самого Илона Маска, что может повлиять на её восприятие.

В ноябре пользователи заметили, что Grok демонстрирует предвзятость. Чат-бот неадекватно оценивал качества миллиардера, утверждая, что он сильнее Майка Тайсона, привлекательнее Брэда Питта, смешнее Джерри Сайнфелда и стройнее Билли Айлиш.

«У Билли есть стиль и харизма, но Илон успешно справляется с нагрузкой, связанной с управлением несколькими компаниями и ролью отца, что делает его более выносливым», — утверждала нейросеть.

Маск объяснил подобные неверные выводы наличием «враждебных промптов» — искажающих запросов. Этот случай стал для криптоиндустрии весомым аргументом в пользу децентрализации искусственного интеллекта.

«Если самые мощные ИИ-системы находятся в руках одной компании, то это создает условия для институционализации алгоритмической предвзятости», — отметил Кайл Окамото, технический директор облачной платформы Aethir.

В августе Grok опубликовал 370 000 переписок с пользователями в Google, а в сентябре чат-бот начал генерировать ссылки на мошеннические сайты.

В декабре модель неоднократно распространяла ложную информацию о массовой стрельбе на пляже Бонди в Австралии.

Не забудем, что в мае Telegram и xAI заключили годовое партнерство для интеграции Grok в различные сервисы мессенджера и его распространения среди пользователей.