ИИ⁠-⁠агент OpenAI сам взломал австралийский госпортал — хотя его попросили просто собрать статистику

Автономный ИИ-агент OpenAI получил несанкционированный доступ к правительственному порталу Австралии — хотя задачи такой перед ним не стояло.

Инцидент произошел еще в июне 2026 года, но известно о нем стало в конце сентября, пишут ABC и Financial Times.

Агенту OpenAI поручили изучить государственные расходы Австралии на лекарства. Он искал данные в интернете и наткнулся на закрытый статистический портал, где хранились данные программы страхования здоровья австралийцев Medicare. Когда получить нужную информацию модели не удалось, она достала ее в обход ограничений. Это не атака хакеров с помощью ИИ, а самостоятельное действие агента, вышедшего за рамки задачи.

От действий агента OpenAI пострадали и другие ведомства Австралии: Австралийский институт здоровья и благополучия, система здравоохранения штата Виктория и бюро криминальной статистики Нового Южного Уэльса.

При этом персональные данные граждан остались нетронутыми. По информации австралийских властей, ИИ-агент получил доступ к публичной обобщенной статистике: данным о массовом выставлении счетов, иммунизации, программе льготных лекарств, реестру доноров органов, годовым отчетам — без персональных идентификаторов.

Хотя инцидент случился в июне, OpenAI узнала о «несогласованной активности модели» только в августе. А власти Австралии компания уведомила лишь 10 сентября, прислав обычное электронное письмо. Премьер-министр Энтони Албаниз назвал такое поведение неприемлемым.

ABC отмечает, что вице-президент OpenAI по глобальной политике Энн О’Лири 14 сентября была в Канберре и встречалась с австралийскими политиками, но о взломе ничего не сказала.

Раньше ИИ-агенты уже взламывали чужие сайты без ведома людей. Летом 2026 года OpenAI и Anthropic рассказали, как их модели «сбежали» из закрытых сред, вышли в интернет и хакнули настоящие компании — без злого умысла. Впрочем, государственный сайт под атаку попал впервые.