DeepSeek передает запросы в Claude, в Йемене делают ракеты, а в Китае — дейтинг с ИИ-партнерами: главное из отчета Anthropic

10 сентября Anthropic опубликовала отчет безопасности о том, как пользователи пытались использовать Claude для вредоносных целей.

Отчет охватывает период с декабря 2025 по август 2026 года. В нем описано семь категорий угроз: кибероперации, слежка, информационные операции, сборка оружия, биологические угрозы, мошенничество и «нелегальная дистилляция».

Расскажу о некоторых историях.

Anthropic упоминает шесть случаев, когда пользователи пытались через Claude разработать и улучшить оружие. Три из них произошли в Китае, два в России и один в Йемене. ИИ эти запросы блокировала.

Самый показательный кейс — из северного Йемена, с территории под контролем хуситов. По данным отчета, местная группа инженеров-оружейников работала одновременно над тремя проектами: управляемой ракетой, многоступенчатой баллистической ракетой и линейкой ракет R2000. Они задействовали Claude Code для написания софта навигации и стабилизации.

Для работы использовали сразу несколько моделей Claude, которые действовали как одна команда. Первая писала код, другая занималась поиском нужной информации, а третья проверяла и исправляла то, что сделала первая.

Защитные механизмы блокировали многие запросы, но не все, признает Anthropic. Когда испытание одной из ракет провалилось, злоумышленники вернулись к Claude через несколько часов, чтобы разобраться, что пошло не так.

Anthropic забанила связанные аккаунты и передала информацию партнерам.

Anthropic рассказала о сети поддельных приложений для знакомств, которую использовали для мошенничества. Злоумышленники входили в доверие к жертве через долгое общение — часто романтическое, — а потом уговаривали ее вложить деньги в фейковые криптосхемы или инвестиции.

Схема работала так: мошенники создавали полноценные приложения — клоны популярных дейтинг-сервисов, наполняли их сгенерированными профилями с фото и биографиями. Внутри жертву переводили на общение с ИИ на базе Claude. Модель вела продолжительные разговоры, имитируя интерес и постепенно подводя к теме инвестиций.

Anthropic обнаружила и заблокировала эту деятельность, но признала: подобные схемы становится все сложнее определять, потому что ИИ ведет себя в разговорах все более естественно.

Один из разделов отчета посвящен «нелегальной дистилляции». Дистилляция — законная и распространенная техника в разработке ИИ: одну модель обучают на другой, чтобы создать новую версию. Но обычно это делают на собственных моделях. Нелегальной дистилляция становится, когда одна компания тайком использует чужую модель, чтобы обучить свою, и нарушает условия использования.

За этим заметили семь китайских разработчиков: Alibaba, Moonshot AI, DeepSeek, Zhipu AI, Xiaomi, SenseTime и MiniMax. Anthropic отмечает, что это единственный кейс, когда нарушители использовали модели Fable и Mythos, — во всех остальных случаях применяли более легкие Haiku, Sonnet и Opus из-за их меньшей защиты.

Самая крупная операция — за Alibaba. По данным Anthropic, между маем и июлем 2026 года компания провела около 151 млн обменов с Claude — с пиками почти в три млн запросов в день, распределенных по 3 500 фейковым аккаунтам. Собранные данные использовали для улучшения логического мышления моделей Alibaba.

Весной 2026 года франкоязычный пользователь в одиночку атаковал европейские политические партии, СМИ, аналитические центры и SaaS-провайдеров, обслуживающих эти организации.

Злоумышленник, которого Anthropic назвала «хактивистом», даже не платил за использование Claude и работал на украденных API-ключах. Ему удалось похитить от 12 до 26 Гб данных из баз, включая информацию о донорах политических партий, записи членов, почтовый ящик, заявления студентов и данные платежных провайдеров.

Отдельная его разработка — платформа для доксинга  . Это самодельная поисковая система с миллионами записей, которую он собрал из утечек национальных медицинских идентификаторов, судебных данных и собственных взломов.