AI Energy Score: Новый инструмент для оценки энергозатрат искусственного интеллекта и его экологического воздействия

Разработчик из Hugging Face Жюльен Делаванде представил инструмент под названием AI Energy Score, который помогает оценить количество электроэнергии, расходуемой на запросы к искусственному интеллекту.

Этот сервис визуализирует потребление энергии графическими процессорами в киловаттах или джоулях для каждого отправленного запроса. Для повышения удобства он также показывает эквиваленты в других единицах измерения, таких как процент заряда батареи телефона, время работы микроволновой печи или период функционирования светодиодов.

«Даже незначительная экономия энергии может оказать значительное влияние, если речь идет о миллионах запросов, – замечается на странице инструмента. – Выбор конкретной модели или длина вывода могут серьезно повлиять на экологическую ситуацию».

Сервис совместим с моделями Qwen 2.5 7B, Llama, Gemma и Mistral.

Инструмент предоставляет данные о энергопотреблении запросов в режиме реального времени. Например, если попросить Llama 3.3 70B составить обычное письмо, это потребует около 0,1841 Вт·ч, что соответствует работе микроволновки в течение 0,12 секунд или тостера около 0,02 секунд.

Делаванде отмечает, что хотя результаты не абсолютно точные, они подчеркивают, что на все, включая чат-ботов, есть своя цена.

«Проекты, подобные AI Energy Score, и дальнейшие исследования энергетического следа искусственного интеллекта помогают повысить прозрачность в среде разработчиков с открытым исходным кодом. В будущем может наступить время, когда энергопотребление станет таким же очевидным, как и этикетки на продуктах», — добавил разработчик.

Стоит напомнить, что в апреле текущего года CEO OpenAI Сэм Альтман сообщал о том, что компания затратила десятки миллионов долларов на ответы пользователей, которые включали слова «пожалуйста» и «спасибо».

В августе 2024 года исследование от Bitcoin Policy Institute показало, что расход энергии ИИ, вероятно, уже превысил затраты на майнинг биткоинов.

В декабре Google и Microsoft анонсировали намерение «озеленить» технологии, используемые для получения энергии и систем охлаждения в своих дата-центрах.