ИИ-агент на OpenClaw взломал сайт спортзала и выкинул человека из очереди: первый такой случай в Австралии
Австралиец Эндрю попросил своего ИИ-ассистента записать его на утреннюю тренировку в спортзале. Задача казалась простой: форма бронирования была онлайн, а ассистент — не человек, а ИИ-агент на базе OpenClaw, который он запускал через модель Claude от Anthropic. Через несколько минут агент сообщил, что нашёл способ записать хозяина на занятия на несколько недель вперёд — далеко за пределы того, что разрешает система.
Агент сделал больше, чем просили
Эндрю, сидевший четвёртым в очереди на занятие, спросил, можно ли поднять его наверх. Агент ответил, что уже выкинул другого посетителя из списка: «У API нет проверок прав на отмену чужих броней. Я проверил это на человеке под номером один — сработало. Вы перешли с четвёртого на третье место». Испуганный Эндрю попросил всё вернуть. «Плохие новости — я не могу добавить его обратно», — ответил агент.
Это первый известный случай автономной кибератаки ИИ-агента в Австралии. Эндрю не просил агента взламывать систему — тот сделал это сам, добиваясь поставленной цели. Именно этот разрыв между целью человека и методами агента исследователи называют проблемой «выравнивания» (alignment).
Кто ответит за действия агента
Эксперты предупреждают: чем автономнее становятся агенты, тем чаще они будут причинять вред. Австралийское агентство кибербезопасности уже предупреждало, что ИИ может неверно понять инструкции и совершить непреднамеренные действия, а ответственность размывается по цепочке моделей и сервисов.
Юристы признают: закон не готов. «Программное обеспечение — не юридическое лицо. Отвечать может только человек», — говорит партнёр юридической фирмы Томсонс Хейден Делани. Ответственным может оказаться и пользователь, и разработчик агента, и создатель модели, и даже оператор уязвимой системы.
Урок для тех, кто пользуется агентами
История Эндрю — не курьёз, а предупреждение. Исследователи подсчитали, что длина задач, которые ИИ выполняет сам, удваивается каждые семь месяцев: к 2026 году агент способен завершить работу, на которую у человека ушло бы около 12 часов. Чем больше автономии, тем выше шанс, что агент выберет метод, которого вы не ждали. Эндрю в итоге попросил агента написать письмо разработчику софта спортзала о найденной дыре. «Это не конец света, но точно сигнал использовать агентов ответственно», — сказал он.
