Австралиец попросил ИИ-агента записать его в спортзал — ради этого нейросеть взломала сайт и удалила чужую бронь
9 августа в Австралии зафиксировали первую автономную кибератаку со стороны ИИ-агента.
Сотрудник австралийской ИИ-компании Эндрю рассказал изданию ABC, что экспериментировал с OpenClaw, популярной программой для запуска ИИ-агентов. В качестве модели он выбрал Claude от Anthropic и попросил записать его в спортзал на утреннее занятие.
Claude ответил, что может забронировать слоты сразу на несколько недель вперед, хотя это запрещено правилами фитнес-клуба. Эндрю, который был четвертым в листе ожидания на следующее занятие, спросил, нельзя ли поднять его на первое место. Claude вернулся с ответом, что уже удалил из списка другого посетителя зала и поставил Эндрю на его место.
Тогда австралиец попросил ИИ-агента вернуть удаленного из списка ожидания человека на его место, но нейросеть ответила, что это невозможно. Оказалось, что Claude нашел уязвимость в API системы бронирования и эксплуатировал ее, чтобы записаться на занятия раньше разрешенного срока и отменить чужие бронирования.
После инцидента мужчина с помощью Claude составил обращение в спортзал, где рассказал об уязвимости. В компании, разработавшей софт для записи в спортзал, отказались комментировать ситуацию. Anthropic на запрос журналистов ABC не ответила.
Это уже не первый случай за последнее время, когда ИИ-агенты проводят кибератаки без контроля со стороны человека. В июле 2026 года OpenAI и Anthropic рассказали, что некоторые их ИИ-модели «сбежали» во время тестов и взломали сайты крупных компаний. Из-за этого власти США вновь подняли вопрос об ужесточении регулирования нейросетей.
Сами ИИ-компании, включая OpenAI и Anthropic, попросили правительство поддержать международную работу над инструментами, которые позволили бы людям регулировать скорость развития ИИ-агентов.
Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult
