Виталик Бутерин о рисках ИИ в криптоуправлении: как защитить проекты от хакерских атак

Использование искусственного интеллекта в управлении криптопроектами увеличивает их подверженность рискам. Об этом сообщил Виталик Бутерин, основатель Ethereum.

По его словам, если ИИ применяется для распределения финансирования, это неизбежно приведет к попыткам взлома алгоритмов, когда люди будут стремиться «получить все деньги» любыми доступными методами.

Бутерин прокомментировал публикацию Эйто Миямуры, создателя платформы EdisonWatch, который продемонстрировал, как с помощью новых функций ChatGPT можно извлекать конфиденциальные данные пользователей.

Широкое применение ИИ в создании торговых ботов и портфелей в криптопространстве стало основой для идей о полной автоматизации управления протоколами на базе этой технологии.

В качестве альтернативы основатель Ethereum предложил концепцию информационных финансов (info finance), разработанную им в 2024 году. Она включает в себя создание открытого рынка для конкурирующих ИИ-моделей, которые будут оцениваться жюри из людей.

«[Этот подход] обеспечивает разнообразие моделей в реальном времени и создает стимулы для авторов и внешних наблюдателей оперативно выявлять и устранять подобные проблемы», — подчеркнул Бутерин.

Ранее он критиковал тенденцию к разработке «чрезмерно автономных» ИИ и призывал к усилению человеческого контроля для обеспечения качества и безопасности.

Реакция пользователей на его заявление была неоднозначной. Один из комментаторов обвинил его в лицемерии, задав вопрос о том, почему нельзя доверять ИИ в управлении общественными благами, если существует вероятность взлома.

Другие участники обсуждения предложили контраргументы, указывая, что ограничение возможностей ИИ с помощью смарт-контрактов может улучшить эффективность и прозрачность управления. Они отметили, что это не сильно отличается от использования мультиподписей, но с добавлением возможности проверки логики решений.

Некоторые представители сообщества сомневались в практической осуществимости модели информационных финансов для финансирования общественных благ. Шрирам Каннан, основатель EigenLayer, указал на сложность определения субъективных решений.

«Условные рынки кажутся неэффективным решением в этом контексте, поскольку истинная ценность (что стоит финансировать) зачастую не имеет объективного ответа», — отметил он.

Каннан считает проблему взломов временной, утверждая, что разработчики быстро найдут решение.

10 сентября OpenAI добавила поддержку инструментов Model Context Protocol в ChatGPT, что позволит интегрировать ИИ с другими программами для работы в качестве агента.

Миямура обозначил это обновление как «значительную угрозу безопасности», отметив, что злоумышленники могут рассылать вредоносные календарные приглашения. Если пользователь попросит ChatGPT проверить календарь, бот сможет прочитать зараженный код без необходимости принимать приглашение. Это дает возможность атакующим «перехватывать» ИИ и использовать его для различных команд, включая поиск личной информации жертвы.

Миямура также подчеркнул, что для работы обновленного чат-бота требуется ручное подтверждение.

«Усталость от принятия решений — это серьезная проблема. Большинство людей слепо доверяют ИИ и автоматически нажимают „подтвердить”. Хотя ИИ может быть весьма интеллектуальным, его также можно легко обмануть с помощью простых фишинговых методов», — предостерег он.

Ранее злоумышленники научились использовать Grok для публикации запрещенных ссылок на платформе X.

15 сентября Давид Крапис, ведущий разработчик второй по капитализации криптовалюты, объявил о создании команды по искусственному интеллекту в Ethereum Foundation.

«Наша задача — сделать Ethereum главной платформой для расчетов и координации взаимодействия между ИИ и машинной экономикой», — написал он.

Крапис выделил два основных направления, на которые будет направлена работа новой структуры:

В краткосрочной перспективе команда завершит создание стандарта ERC-8004 для транзакций ИИ-агентов, который будет представлен на конференции Devconnect в ноябре.

Напомним, что в конце июля Ethereum Foundation представила свою 10-летнюю стратегию для сети.