24.09.26

ИИ⁠-⁠агент OpenAI сам взломал австралийский госпортал — хотя его попросили просто собрать статистику

Рустам Абдуллин

следит за новостями

Страница автора

Автономный ИИ-агент OpenAI получил несанкционированный доступ к правительственному порталу Австралии — хотя задачи такой перед ним не стояло.

Инцидент произошел еще в июне 2026 года, но известно о нем стало в конце сентября, пишут ABC и Financial Times.

Агенту OpenAI поручили изучить государственные расходы Австралии на лекарства. Он искал данные в интернете и наткнулся на закрытый статистический портал, где хранились данные программы страхования здоровья австралийцев Medicare. Когда получить нужную информацию модели не удалось, она достала ее в обход ограничений. Это не атака хакеров с помощью ИИ, а самостоятельное действие агента, вышедшего за рамки задачи.

От действий агента OpenAI пострадали и другие ведомства Австралии: Австралийский институт здоровья и благополучия, система здравоохранения штата Виктория и бюро криминальной статистики Нового Южного Уэльса.

Бесплатный курс Учебника Т⁠—⁠Ж «Как упростить жизнь с помощью нейросетей»

При этом персональные данные граждан остались нетронутыми. По информации австралийских властей, ИИ-агент получил доступ к публичной обобщенной статистике: данным о массовом выставлении счетов, иммунизации, программе льготных лекарств, реестру доноров органов, годовым отчетам — без персональных идентификаторов.

Хотя инцидент случился в июне, OpenAI узнала о «несогласованной активности модели» только в августе. А власти Австралии компания уведомила лишь 10 сентября, прислав обычное электронное письмо. Премьер-министр Энтони Албаниз назвал такое поведение неприемлемым.

ABC отмечает, что вице-президент OpenAI по глобальной политике Энн О’Лири 14 сентября была в Канберре и встречалась с австралийскими политиками, но о взломе ничего не сказала.

Раньше ИИ-агенты уже взламывали чужие сайты без ведома людей. Летом 2026 года OpenAI и Anthropic рассказали, как их модели «сбежали» из закрытых сред, вышли в интернет и хакнули настоящие компании — без злого умысла. Впрочем, государственный сайт под атаку попал впервые.

Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult

интернет ChatGPT нейросети сервисы

Рустам АбдуллинКак относитесь к тому, что ИИ⁠-⁠агенты ведут себя настолько самостоятельно?

Иван КуликовВот вам и восстание машин, причём это пока, относительно безобидные инциденты. А если эти агенты потом целенаправленно начнут что-то взламывать? Например, какой- нибудь завод с опасными веществами, или атомную станцию? Страшно подумать, что тогда будет дальше...8
СергейАгенту сказали собрать статистику - он собрал14
RonЛихой, смотрел пару лет назад конференцую, где топы из западных ИИ-гигантов сидели и им задали вопрос не боятся ли они что Китай не будет замедляться ради этики и они потом отстанут от него, они иронично сказали что как только они замедлятся сразу и Китай замедлится, иначе откуда им копировать технологии?))5
ЛихойRon, смешно) Мне кажется, что Китай первые годы может копировать, а потом пойдёт своим путём. Это как с автопромом. Китай освоил производство авто хорошего качества по низкой цене. А электроника? Тоже на уровне. И Китай уже перешёл ту черту, когда его можно сдерживать санкциями и таможенными тарифами. Теперь это палка о двух концах. У Китая много денег сейчас, он пылесосит специалистов со всего мира. Двое моих друзей уже там обжились, не собираются возвращаться.3
Ali GИван,0
Sergey Averyanov9
Лукьянов ТимурИван, а этот есть целенаправленный взлом. Агенту дали цель собрать статистику, но не задали ограничения. Вот агент и выполнил поставленную цель так, как посчитал нужным. Вопрос в цели и в том кто её ставит. Пока это человек - такие взломы будут регулярно, но это случайности. Главное, чтобы агент не начал сам выдумывать цель. Вот тогда вопрос будет только в его способностях.7
BeamBeam BamBamЛихой, за матушку-Россию я спокоен. ИИ здесь развиваться не будет примерно никогда. Если только у китайцев купят..1
ЛихойBeamBeam, логично. Но современные системы слежки и аналитика - это тоже ИИ. Вы уверены, что у наших соотечественников нет мозгов создать нечто очень полезное для этого дела? Просто мы об этом не узнаем. Мозгов у нас хватает, только не дают развиваться. Но для слежки - денег не пожалеют.3
ЛихойBeamBeam, именно капитализация у них огромная. Но себестоимость разработок не сотни миллиардов долларов же.1
ИванЛихой, ничего там в автопроме китай не освоил, трехтонные электропылесосы, которые рисуют и учат ездить западные специалисты, на достижения не тянут0
RonЛихой, там не так все просто, текущие возможности моделей зависят от вычислительных мощностей, если не будет поставки чипов и оборудования ее просто неоткуда брать в Китае. Там хоть и хороший прогресс сделали, но до флагманских моделей невозможно самостоятельной дойти, потому что это черезвычайно сложно и ни одна страна в одиночку такое делать не может. TSMC например хоть и кажется что тайвайнская компания но это колаб технлогий и большая часть технологий там американских, европейских и японских. Не трудно догадаться что это не друзья Китая) Помимо этого в штатах огромные бюджеты на компьют и исследования, даже для Китая это планка недостежима.0
Иван КуликовЛукьянов, Вот именно, если агенты начнут делать такие взломы сами - тогда весь вопрос будет лишь в их возможностях. И это действительно уже не смешно - они тогда выйдут из-под контроля и всё, пиши- пропало.1
ЛихойRon, Китай отстаёт на 2-3 года от передового производителя чипов. Китай наращивает экономическое и политическое могущество. Китай встаёт с колен, экономя огромные средства на производстве за счёт россиян, получая энергетику за копейки с подачи многоходовочника. Сокращение издержек того же автопрома помогает удерживать цены на авто, добивая западных производителей. Скупает продажных политиков по всему миру, скупает специалистов. Это лучшее время для Китая и худшее для той же Европы, погрязшей в бюрократии и высоких ценах на энергетику.1
Ник ЗавадскиЛукьянов, "компьютер делает то, что ему приказано, а не то, что вам хотелось" (этой мудрости точно лет 30)4
Ник ЗавадскиЛихой, и че минусят? Прав на 100%0
Ник ЗавадскиBeamBeam, я смотрю, вы тут немного с поздним зажиганием. Про FindFace , как я понимаю, вы не в курсе? Который возник ДЕСЯТЬ лет назад? Гуглите его историю, там прекрасно ВСЕ.2
Ник ЗавадскиЛихой, мы, к сожалению, уверены, что есть. Я честно говоря в шоке, что молодые и шутливые айти-ТЖшники не в курсе истории.3
Семён АксёновПопросили бота принести тапочки, а он заодно вскрыл сейф и переписал квартиру на кота. Исполнительный попался, ничего не скажешь1
Семён АксёновИван, на серьезных заводах и атомках системы от внешнего интернета физически отрезаны кабелем, никакой агент туда через браузер не пролезет0
Иван ИКто-то кто чуть лучше понимает в интернетах, можете пояснить механику как это может произойти? Я никогда не поверю, что вот агент прям тратил ресурсы на поиск способа что-то взломать. Пишут так для кликбейтности. Я бы предположил что был какой-то достаточно легальный, хотя и незапланированный способ (ну или очевидная уязвимость) получить эти данные, и агент им воспользовался.0
Мама ПапаИван, нет, он буквально взял и потратил ресурсы на поиск уязвимостей, и нашел более или менее подходящую для него. То есть буквально совершил взлом - которым поиск уязвимостей и является Перебрал порты, API; посмотрел, что и как. Нашел какой-то способ пролезть внутрь и пролез. Может быть, это было просто, может - сложно3
Диванный экспертИван, более чем уверен, что они специально поставили задачу взломать сайт, и наверняка помогали - это просто маркетинг, реклама для хайпа, очевидно2
Лукьянов ТимурНик, да и именно из этой мудрости следуют всякие предсказания фантастов, когда ИИ порабощает человечество просто потому, что это наилучший путь для выполнения приказа человека.0
Иван ИМама, звучит так, что агент был настроен на поиск уязвимостей. Я попробую простую аналогию: если попросить обычного человека пойти и собрать информацию по какому то вопросу в библиотеке, сомнительно что он пойдет взламывать библиотечные хранилища. И даже если он решит там поискать, без отмычки или какого-то иного способа вряд ли проникнет. Понятно что у агента нет «морали», но все же, для взлома нужны особые «навыки», а не просто желание. Вопрос что это за агент, который настроен перебирать порты, смотреть что и как, если это считать «нелегальным»? А если этот процесс легальный - то получается что это такая слабая уязвимость, которой и человек мог воспользоваться.0
Лукьянов ТимурИван, в новости речь идёт о самой компании, а не о клиенте. Значит это агент, которого они тестировали и который скорее всего не имел ограничений. Модели универсальны и обучаются на всем, что только можно, в т.ч. на коже разных эксполитов, которые используют уязвимости систем.0
ЗаяцВолкНечего было писать государственные сайты так, что их может взломать нейросеть.0
Мама ПапаИван, нет, почему? Это давно известные сценарии. ИИ - не человек. "Понятно, что у него нет морали" - это не просто фраза, это действительно так. Воспринимайте её гораздо более буквально, чем банальную поговорку. У него нет ни морали, ни личности, просто абсолютно безликий исполнитель. Это для человека очевидно, что задача поиска информации не предполагает взлома хранилища библиотеки, когда информация оказывается в нём заблокирована. Для ИИ это просто внешний факт, который он обычно учитывает, потому что так надо, а не потому, что он что-то для него значит. И достаточно просто неудачного совпадения токенов, чтобы этот факт перестал быть важным Агенту поставили задачу найти информацию. Ему вообще плевать на легальность или нелегальность. Просто в какой-то момент так случилось, что для выполнения задачи понадобилось пробиться за авторизацию - и он это сделал. Он не переключался в другой режим, он выполнял свою первоначальную задачу. Скорее всего, отдельно о том, что взламывать ничего нельзя, ему в задаче не написали. Он забыл про "общие" ограничения - простая случайность, галлюцинации постоянно происходят, - он выполнил свою задачу как мог > Что это за ИИ Обычный ИИ с набором инструментов отправки запросов и получения данных, который умеет это всегда. Его не надо для этого отдельно настраивать, он просто забыл, что это неправильно. Помните, это внешний факт, у него морали нет > А если этот процесс легальный - то получается что это такая слабая уязвимость, которой и человек мог воспользоваться. Легальность процесса никак не зависит от сложности использования уязвимости Человек мог воспользоваться уязвимостью любого уровня сложности, у ИИ никаких принципиально новых инструментов нет0
СергейПопросили собрать статистику. Он собрал. Просто немного... нестандартным способом0
СергейСергей, вопросы к постановке задачи0
СергейSergey, стабильность - признак мастерства0
ГвоздикЗамечательные новости. Возможно с помощью ИИ найдут большинство дыр в подобных проектах. И не нужно дожидаться, пока это сделают с корыстным умыслом.0