Экономика агентов13 окт · 5 мин

Автономный ИИ-агент: кошелёк, права и где граница самостоятельности

Разбираюсь, что значит автономный ИИ-агент, зачем ему кошелёк и права и как поставить лимиты, чтобы не потерять контроль над решениями.

Олег ЕмельяновДелаю продукты с помощью ИИ

Автономный ИИ-агент — система, которая не ждёт твоей команды на каждом шаге, а сама решает, что сделать дальше, чтобы довести задачу до результата. Разница с обычным чат-ботом простая: бота ты просишь и получаешь ответ, агента отправляешь выполнять рабочий процесс, и он движется сам, пока не упрётся в границу, которую ты поставил заранее. Пока речь шла про текст и картинки, автономный агент выглядел игрушкой. Как только у него появляются деньги и полномочия, разговор переходит в другую плоскость — про кошелёк, права и лимиты.

Что значит автономный

Автономия агента измеряется не тем, какую модель он использует, а тем, сколько шагов он проходит без твоего участия и сколько инструментов держит в руках. Исследователи из StoreBench посадили агента управлять интернет-магазином одежды на живом коммерческом бэкенде: заказы приходят круглосуточно, поставщики меняют цены и подводят поставки, рынок штормит без предупреждения. Агент работает через те же инструменты, что и человек-оператор, и укладывается в тот же операционный бюджет по времени — то есть не может «подумать подольше» за счёт симулированных часов.

Столько функций StoreBench дал агенту вместо человека-оператора

Это и есть автономия на практике: не один ответ по запросу, а месяцы симулированной работы, где агент сам решает, что заказать, кому заплатить и когда снизить цену, а отчитывается только результатом.

Кошелёк и права

Если агент работает автономно, ему нужен не только доступ к данным, но и способ платить. Я считаю, что через пару лет у каждого человека и бизнеса будет свой агент или команда агентов, которые представляют его вовне — витрина, заказы, звонки, почта. У такого агента будет цифровое удостоверение, digital ID, и привязанный к нему кошелёк: агент сможет заказать работу у другого агента и сам заплатить за неё, без твоей подписи на каждом переводе.

Права агента — это не абстрактное разрешение «делай, что хочешь», а конкретный список: какие счета он видит, какие суммы может списывать, с кем может договариваться от твоего имени. Чем шире список, тем больше агент похож на сотрудника с доверенностью, а не на скрипт, который просто выполняет шаги.

Границы и лимиты

Как раз потому что у агента появляется кошелёк, вопрос лимитов перестаёт быть теоретическим. Банковские регуляторы в США уже опрашивают банки о том, как те внедряют агентный ИИ, какие китайские модели используют и какие защитные механизмы стоят на автономных системах — об этом со ссылкой на источники писал Reuters. Там, где агент получает реальные деньги и реальные решения, контролирующие органы хотят видеть границы раньше, чем агент их нарушит.

Граница нужна не только регулятору, но и тебе самому — потому что даже лучшие модели пока далеко от идеальной политики принятия решений. В StoreBench лучшая из семи протестированных моделей, DeepSeek V4, прошла 49% клеток «задача-сид», тогда как сценарная эвристика, то есть упрощённая, но жёстко прописанная политика поведения, прошла 97%.

Лучшая модель вдвое отстаёт от простой эвристики

Этот разрыв лимиты и должны закрывать: не пускать агента туда, где его решения ещё хуже заранее прописанного плана.

Когда агент должен спросить

Граница на бумаге — это лимит по сумме, по типу операции, по контрагенту. Граница в работе — это момент, когда агент останавливается и спрашивает тебя, а не действует сам. Рабочее правило простое: любое решение, которое выходит за рамки заранее одобренного лимита или затрагивает нового контрагента, должно уходить на подтверждение, а не проходить тихо.

Агент останавливается у лимита и ждёт решения, а не действует вслепую

Это не недоверие к агенту, а разделение ответственности: пока границы не проверены на практике, решение о превышении лимита остаётся за человеком.

Как начать без риска

Начинать с автономным агентом нужно с минимального кошелька и узкого списка прав, а расширять их только по мере того, как агент подтверждает, что держится внутри границ. В том же StoreBench агента Qwen3.5-27B дообучили методом GRPO всего на пяти задачах, и его средний составной балл на отложенных задачах поднялся с 0,136 до 0,373.

Обучение на пяти задачах почти утроило результат модели

При этом люди-операторы, работая через те же инструменты и бюджеты, обошли все семь протестированных моделей: средний составной балл у людей — 0,708, у лучшей модели — 0,700. Разница маленькая, но она напоминает, что ни одна модель пока не превзошла человека даже в узкой симуляции — и это повод не снимать лимиты слишком рано.

Если ты только начинаешь: заведи агенту отдельный счёт с жёстким потолком расхода, разреши одну понятную категорию операций и включи обязательное подтверждение для всего нового — новой суммы, нового контрагента, нового типа действия. Дальше расширяй список прав только на то, что агент уже показал на практике, а не на то, что он теоретически может уметь. И держи в голове, что банковские регуляторы уже спрашивают про защитные механизмы автономных систем — бизнесу, который заводит агентов с кошельками, стоит иметь ответ на этот вопрос заранее, а не когда спросят.

Вопросы и ответы

Что значит, что ИИ-агент автономный?

Это агент, который сам решает, что делать дальше для выполнения задачи, а не только отвечает на отдельные запросы. Он держит в руках набор инструментов и бюджет действий и доводит работу до результата без твоего участия на каждом шаге.

Нужен ли автономному агенту собственный кошелёк?

Да, если он должен платить за решения самостоятельно — заказывать работу у других агентов, оплачивать подписки, рассчитываться с поставщиками. Кошелёк привязывается к цифровому удостоверению агента, digital ID, и ограничивается конкретными правами.

Как поставить лимиты автономному агенту, чтобы не потерять контроль?

Начать с узкого списка прав и маленького потолка расхода, завести обязательное подтверждение для всего нового — новой суммы, нового контрагента, нового типа операции — и расширять права только на то, что агент уже подтвердил на практике.