ИИ-угроза: как мошенники используют Claude для социальных атак и вымогательства

Злоумышленники находят способы эксплуатации чат-бота Claude для организации масштабных кибератак, несмотря на наличие продвинутых систем защиты. Об этом сообщает компания Anthropic в своем отчете по вопросам безопасности.

В документе Алекс Моикс, Кен Лебедев и Джейкоб Клейн приводят примеры, когда преступники использовали искусственный интеллект. В нескольких нападениях вымогатели запрашивали суммы свыше 500 000 долларов.

Чат-бот применялся не только для оказания технической помощи, но также и для осуществления взломов посредством так называемого вайб-хакинга. Для подобных операций требуется лишь поверхностное знание программирования и шифрования.

Вайб-хакинг — это вид социальной инженерии, в котором злоумышленники манипулируют эмоциями и доверием жертвы с помощью ИИ-агентов. В отличие от традиционного фишинга, где используются поддельные электронные письма или сайты, данная атака представляется как «дружеское» или «убедительное» взаимодействие — создается «правильная атмосфера» общения. ИИ способен автоматически подстраиваться под тон, стиль и настроение собеседника, что позволяет создать доверительные отношения и склонить жертву к совершению вредоносного действия.

Согласно данным Anthropic, был выявлен хакер, который, используя вайб-хакинг и Claude, смог похитить конфиденциальную информацию как минимум у 17 организаций, включая медицинские учреждения, службы экстренной помощи, государственные структуры и религиозные организации. Он запрашивал выкуп в биткоинах в диапазоне от 75 000 до 500 000 долларов.

Злоумышленник обучил Claude анализировать похищенные финансовые записи, определять оптимальные суммы выкупа и составлять персонализированные письма с требованиями, усиливая психологическое давление на жертвы.

Представители компании отметили: «Люди, не обладающие навыками реализации элементарного шифрования или понимания работы системных вызовов, теперь могут успешно создавать программы-вымогатели, обходящие защитные механизмы, и применять методы, противодействующие анализу».

Также Anthropic раскрыла, что специалисты из Северной Кореи использовали Claude для создания правдоподобных фейковых личностей, прохождения тестов по программированию и даже получения удаленных вакансий в американских технологиях из списка Fortune 500, подготавливая ответы для собеседований.

Согласно данным, один из злоумышленников пытался пройти собеседование на должность программиста в Polygon Labs. В других подготовленных ответах утверждалось, что он имел опыт работы в OpenSea и Chainlink.

Напоминаем, что Anthropic настроила чат-боты Claude Opus 4 и 4.1 для завершения диалогов с пользователями в «редких, крайне серьезных случаях систематически вредоносного или оскорбительного взаимодействия».