ИИ-бот Grok начинает работу в Пентагоне: эпоха военной оптимизации и новые вызовы для безопасности

Искусственный интеллект Grok будет интегрирован в сеть Министерства обороны США вместе с генеративным ИИ от Google. Об этом сообщил министр обороны США Пит Хегсет, как передает New York Post.

По словам Хегсета, «вскоре мы сможем использовать лучшие ИИ-модели как в открытых, так и в закрытых сетях нашего ведомства». Он отметил, что чат-бот начнёт свою работу в Минобороны в конце января и будет предоставлять все нужные данные из военно-технических систем, включая сведения из разведывательного управления.

Министр акцентировал внимание на важности ускорения технологических новшеств в армии, подчеркнув, что Пентагон располагает “проверенной в боях операционной информацией”, полученной за два десятилетия военных действий и разведки.

“Качество искусственного интеллекта напрямую зависит от данных, которые он использует. Мы гарантируем их наличие,” — добавил министр.

Хегсет выразил желание увидеть “ответственные системы ИИ” в Министерстве обороны и пообещал “прорубить густой бюрократический лес, желательно с помощью бензопилы”.

Он также заявил, что США должны гарантировать превосходство своего военного ИИ, чтобы ни один противник не мог воспользоваться этой технологией для угрозы национальной безопасности или безопасности граждан.

Это заявление было сделано вскоре после того, как Grok оказался в центре скандала, связанного с генерацией неприемлемого контента. Малайзия и Индонезия заблокировали доступ к этому боту, в то время как регуляторы из ЕС, Великобритании, Бразилии и Индии призвали к расследованию его роли в распространении дипфейков.

Британская организация Internet Watch Foundation сообщила о находке “криминальных изображений” детей в возрасте от 11 до 13 лет, предположительно созданных с помощью чат-бота.

Ранее Grok подвергался критике за распространение ложной информации. В декабре он предоставил неверные данные о массовой стрельбе на пляже Бонди в Австралии. В ответ на вопрос о видео, где прохожий, Ахмед аль-Ахмед, боролся со стрелком, ИИ отметил, что это, скорее всего, старый вирусный ролик, а детальная информация не была подтверждена.

Пользователи заметили, что крипто-бот иногда основывает свои ответы на мнениях Илона Маска относительно различных спорных тем, включая конфликт между Израилем и Палестиной, аборты и иммиграционное законодательство. Это создает впечатление, что система была настроена с учетом политических взглядов Маска.

Ранее миллиардер заявил, что его команда намерена переписать “все человеческие знания” для обучения обновленной версии Grok, поскольку существующие данные полны некорректной информации.

Впоследствии была создана Grokipedia — онлайн-энциклопедия на базе ИИ, созданная с целью представления достоверной информации.

Также в ноябре пользователи обращали внимание на предвзятость Grok 4.1, которая существенно преувеличивала достижения Маска.