Компания Anthropic утверждает, что российские и китайские злоумышленники использовали её модель искусственного интеллекта Claude для вредоносных действий

Компания Anthropic 10 сентября заявила, что пресекла вредоносные кампании с использованием своей модели искусственного интеллекта Claude, включая операции, предположительно связанные с киберпреступниками из Китая и России.

В компании заявили, что к числу угроз относятся предполагаемые группы, спонсируемые государством, преступники, преследующие финансовые цели, поставщики коммерческого шпионского программного обеспечения, государственные пропагандистские организации и политически мотивированные лица.

Согласно отчету, большинство киберопераций, выявленных в период с декабря 2025 года по август 2026 года, были осуществлены с помощью ИИ посредством прямого выполнения или координации. В то же время, как отмечается в отчете, люди продолжали участвовать в выборе целей и анализе процесса эвакуации.

«Использование ИИ вышло за рамки простых вопросов и ответов от чат-бота и включало в себя применение многоагентных систем, осуществляющих разведку, эксплуатацию и утечку данных», — заявили в Anthropic.

В числе субъектов угроз, названных компанией, была группа, связанная с российской компанией Midnight Blizzard. Anthropic утверждала, что эта группа использовала ИИ для атак на объекты военной разведки в Украине и Европе, а также на дипломатические и оборонные организации и отдельных лиц, связанных с внешней политикой США.

Компания Anthropic заявила, что также пресекла атаки с использованием методов дистилляции против Claude, осуществлявшиеся из семи лабораторий, расположенных в Китае, включая операторов, предположительно связанных с Alibaba, DeepSeek, Xiaomi и Moonshot.

Компания определила дистилляцию как «промышленную, тайную кампанию», направленную на незаконное извлечение возможностей модели искусственного интеллекта и их воспроизведение в другой модели.

Согласно отчету, операторы, связанные с Alibaba, крупнейшей китайской платформой электронной коммерции, осуществили крупнейшую атаку методом дистилляции для повышения эффективности моделей Alibaba, сгенерировав более 151 миллиона обменов в период с мая по июль 2026 года. Пик активности пришелся на период почти 3 миллионов обменов в день, запущенных с более чем 3500 учетных записей, которые Anthropic сочла мошенническими.

Компания Anthropic также утверждала, что китайская компания Moonshot, занимающаяся разработкой искусственного интеллекта, тайно пересылала запросы клиентов Клоду, а затем отображала полученные ответы пользователям так, как если бы они были сгенерированы ее моделью ИИ Kimi.

Согласно отчету, в одном из случаев компания Moonshot якобы перенаправила почти 300 000 запросов от клиентов к модели Anthropic за 10 дней, используя сеть прокси-сервисов, состоящую из 5380 мошеннических учетных записей, большинство из которых, по всей видимости, находились в Сингапуре и Японии.

«Наше расследование также показало, что запросы пользователей, которые Moonshot перенаправлял Клоду, содержали конфиденциальную информацию о различных клиентах Moonshot», — заявила компания Anthropic.

«Нам неизвестно, уведомила ли компания Moonshot своих клиентов о том, что их запросы перенаправляются в Anthropic и становятся доступны третьей стороне».

В докладе также были выявлены новые категории злоумышленников, злоупотребляющих системой Клода, в том числе те, кто стремится разработать «программное обеспечение для обычного оружия, включая огнестрельное оружие, ракеты, вооруженные беспилотники, бомбы и другие боеприпасы».

Компания Anthropic заявила, что пресекла деятельность «подразделения инженеров по разработке управляемого оружия», которое занималось тремя программами разработки вооружений на севере Йемена и использовало Claude «для разработки программного обеспечения наведения, навигации и управления (GNC), которое управляет и стабилизирует летательный аппарат».

Согласно отчету, злоумышленники якобы провели испытательный запуск управляемой ракеты, но потерпели неудачу, что побудило их обратиться к Клоду за помощью в выяснении причины сбоя.

Среди других недавно отнесенных к категории угроз фигурировал базирующийся в Китае субъект, который использовал Клода для продвижения трех параллельных проектов по созданию «системы противоторпедного оружия».

Компания Anthropic также выявила предполагаемых российских внештатных злоумышленников, которые стремились создать «полноценный автономный рой беспилотников-камикадзе с видом от первого лица», а также еще одного российского злоумышленника, который использовал Клода для исследования и составления закупочных документов на товары, предположительно предназначенные для российского правительства и заказчиков из оборонной промышленности.

Компания заявила, что продолжит усиливать меры защиты и сотрудничать с партнерами для предотвращения неправомерного использования своей модели искусственного интеллекта.

«В каждом случае мы пресекали эту деятельность, использовали полученные данные для усиления мер безопасности и, где это было уместно, делились информацией с властями и отраслевыми партнерами», — говорится в заявлении.