DeepSeek передает запросы в Claude, в Йемене делают ракеты, а в Китае — дейтинг с ИИ-партнерами: главное из отчета Anthropic
10 сентября Anthropic опубликовала отчет безопасности о том, как пользователи пытались использовать Claude для вредоносных целей.
Отчет охватывает период с декабря 2025 по август 2026 года. В нем описано семь категорий угроз: кибероперации, слежка, информационные операции, сборка оружия, биологические угрозы, мошенничество и «нелегальная дистилляция».
Расскажу о некоторых историях.
Сборка ракет при помощи Claude
Anthropic упоминает шесть случаев, когда пользователи пытались через Claude разработать и улучшить оружие. Три из них произошли в Китае, два в России и один в Йемене. ИИ эти запросы блокировала.
Самый показательный кейс — из северного Йемена, с территории под контролем хуситов. По данным отчета, местная группа инженеров-оружейников работала одновременно над тремя проектами: управляемой ракетой, многоступенчатой баллистической ракетой и линейкой ракет R2000. Они задействовали Claude Code для написания софта навигации и стабилизации.
Для работы использовали сразу несколько моделей Claude, которые действовали как одна команда. Первая писала код, другая занималась поиском нужной информации, а третья проверяла и исправляла то, что сделала первая.
Защитные механизмы блокировали многие запросы, но не все, признает Anthropic. Когда испытание одной из ракет провалилось, злоумышленники вернулись к Claude через несколько часов, чтобы разобраться, что пошло не так.
Anthropic забанила связанные аккаунты и передала информацию партнерам.
Китайская сеть фейковых сайтов знакомств для мошенничества
Anthropic рассказала о сети поддельных приложений для знакомств, которую использовали для мошенничества. Злоумышленники входили в доверие к жертве через долгое общение — часто романтическое, — а потом уговаривали ее вложить деньги в фейковые криптосхемы или инвестиции.
Схема работала так: мошенники создавали полноценные приложения — клоны популярных дейтинг-сервисов, наполняли их сгенерированными профилями с фото и биографиями. Внутри жертву переводили на общение с ИИ на базе Claude. Модель вела продолжительные разговоры, имитируя интерес и постепенно подводя к теме инвестиций.
Anthropic обнаружила и заблокировала эту деятельность, но признала: подобные схемы становится все сложнее определять, потому что ИИ ведет себя в разговорах все более естественно.
Китайские ИИ-лаборатории тайком обучали свои модели на данных Claude
Один из разделов отчета посвящен «нелегальной дистилляции». Дистилляция — законная и распространенная техника в разработке ИИ: одну модель обучают на другой, чтобы создать новую версию. Но обычно это делают на собственных моделях. Нелегальной дистилляция становится, когда одна компания тайком использует чужую модель, чтобы обучить свою, и нарушает условия использования.
За этим заметили семь китайских разработчиков: Alibaba, Moonshot AI, DeepSeek, Zhipu AI, Xiaomi, SenseTime и MiniMax. Anthropic отмечает, что это единственный кейс, когда нарушители использовали модели Fable и Mythos, — во всех остальных случаях применяли более легкие Haiku, Sonnet и Opus из-за их меньшей защиты.
Самая крупная операция — за Alibaba. По данным Anthropic, между маем и июлем 2026 года компания провела около 151 млн обменов с Claude — с пиками почти в три млн запросов в день, распределенных по 3 500 фейковым аккаунтам. Собранные данные использовали для улучшения логического мышления моделей Alibaba.
Пользователь против европейских политических организаций
Весной 2026 года франкоязычный пользователь в одиночку атаковал европейские политические партии, СМИ, аналитические центры и SaaS-провайдеров, обслуживающих эти организации.
Злоумышленник, которого Anthropic назвала «хактивистом», даже не платил за использование Claude и работал на украденных API-ключах. Ему удалось похитить от 12 до 26 Гб данных из баз, включая информацию о донорах политических партий, записи членов, почтовый ящик, заявления студентов и данные платежных провайдеров.
Отдельная его разработка — платформа для доксинга . Это самодельная поисковая система с миллионами записей, которую он собрал из утечек национальных медицинских идентификаторов, судебных данных и собственных взломов.
Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult
