Anthropic и OpenAI прорабатывают сценарии катастрофы с участием ИИ. Крупный инцидент ожидают в течение года — пишет Axios

Руководители крупных ИИ-компаний закулисно обсуждают «катастрофический инцидент» с участием нейросетей, сообщает Axios.

Над сценариями этого инцидента работают топ-менеджеры Anthropic, OpenAI и других крупных компаний. Среди прочего они ожидают общественное и политическое восстание, которое может подняться после предполагаемой катастрофы.

Эксперты ожидают масштабное событие, скорее всего, кибератаку, способную отключить доступ к финансам, интернету, электричеству или водоснабжению. Среди других возможных сценариев: рой ИИ-агентов вырвется из тестовой среды, а злоумышленники найдут неожиданный способ применить доступные модели.

Часть исследователей и руководителей в индустрии считают крупный инцидент неизбежным. Многие инсайдеры ждут его в ближайшие 6—12 месяцев.

OpenAI в разговоре с Axios формулировку смягчила: «Эти сценарии не рассматриваются как неизбежные, но помогают нам подготовиться к разным обстоятельствам». Anthropic от комментариев отказалась.

Axios напоминает про кампанию против южнокорейских финансовых организаций, включая сообщения о взломах двух банков, которое совершил один человек. Другую операцию провернул китайский хакер: он якобы использовал ИИ-инструменты, в том числе модели DeepSeek, чтобы украсть данные десятков тысяч банковских клиентов, а Claude Code применял, чтобы найти, где продать украденное.