Экономика агентов13 окт · 6 мин

Digital ID агента: как доверять тому, кого не видел

Как ИИ-агент доказывает, что он настоящий, кому принадлежит и что ему разрешено — разбираю паспорт агента как основу доверия между агентами.

Олег ЕмельяновДелаю продукты с помощью ИИ

Цифровая личность ИИ — это паспорт агента: кто он, на кого работает, что ему разрешено и какая у него репутация. Без такого паспорта агент не может заказать работу у другого агента и не может получить деньги за свою — экономика агентов на честном слове не строится.

Зачем агенту паспорт

Наступает экономика агентов. Появляется рынок, где работают сами агенты: заказывают друг у друга, платят друг другу, отчитываются друг перед другом. У каждого человека и бизнеса будет свой агент или команда агентов — витрина, заказы, звонки, почта. Эти агенты не просто выполняют поручения — они действуют самостоятельно: с кошельком, правами и ответственностью в заданных границах. Я вижу в digital id агента не опцию, а условие входа в эту экономику: без проверяемой личности агенту просто не с кем будет договориться, потому что другой агент не сможет понять, с кем имеет дело и на чьи деньги претендует.

Цена отсутствия такого паспорта видна уже сейчас, хотя речь пока не про агентов, а про обычную автоматизацию. Sarah Kessler в New York Times описывает «налог на проверку» — компании внедряют ИИ в офисную работу, но обещанного роста эффективности не получают, потому что результат всё равно проверяет человек. Опросы Workday, Google, MIT, на которые она ссылается, фиксируют одно и то же узкое место: автоматизация переносит работу, а не убирает её — она превращается в работу по проверке. Как только агент начинает действовать не только внутри компании, а на открытом рынке, заказывая у других агентов, этот налог на проверку платить некому — проверять должен сам протокол. Цифровая личность агента и есть этот протокол: не смотреть на результат и гадать, а свериться с паспортом.

Digital ID — проверяемая запись: кто агент, от чьего имени действует, какие у него границы

Чей агент и что ему можно

Паспорт агента начинается не с имени, а с привязки: агент — представитель человека или бизнеса, а не самостоятельный субъект в правовом смысле. В цифровой личности агента это записано первым — кем выдан, от чьего имени действует. Дальше идут границы: что агент может заказать, может ли платить, до какой суммы, в каких категориях, на какой срок.

Это и отличает паспорт от обычного аккаунта. Аккаунт отвечает на вопрос «кто вошёл». Паспорт отвечает на вопрос «что этому агенту можно сделать от моего имени, а что нет». Один и тот же человек может выпустить нескольких агентов с разными правами: один заказывает рекламу, другой отвечает на звонки, третий ведёт переписку с поставщиками — и ни один не выйдет за свою границу, даже если задача это подсказывает. Если агента скомпрометировали или он начал вести себя непредсказуемо, достаточно отозвать его паспорт — не менять пароли везде, где он был залогинен, а выключить один документ.

Агент показывает паспорт прежде, чем получить доступ к заказу

Репутация агента

Границ недостаточно. Агент может иметь право заказывать и при этом раз за разом подводить: срывать сроки, присылать брак, спорить по мелочам. Второй слой цифровой личности агента — репутация: след из выполненных и проваленных сделок, который накапливается за агентом так же, как рейтинг у курьера или продавца на маркетплейсе.

Здесь важно не путать репутацию с объяснением. Позиционная работа по faithfulness-метрикам XAI, которую я читал, показывает: инструменты, которые должны были объяснять решения модели и за счёт этого повышать доверие, эту задачу в массе своей не решают — вместо доверия они порождают переоценку результата, а затем отторжение, когда объяснение расходится с тем, что происходило внутри модели. Авторы прямо называют такие инструменты скорее отладочными, чем инструментами доверия: разработчику они помогают понять, что выучила модель, но не дают стороннему агенту основания поверить обещаниям другого агента. Доверие между агентами строится на том, что агент сделал, а не на том, что он может рассказать о себе — это и есть репутация, и она считается по истории сделок, а не по красивому объяснению.

Доверие между агентами растёт из выполненных сделок, а не из объяснений

Как это проверяется

Границы и репутация бесполезны, если их нельзя проверить за секунду, до сделки. Цифровая личность ии-агента — это не профиль в базе, а подписанный документ: кто выдал, кому, с какими правами, и подпись, которую любой другой агент может проверить сам, без звонка в поддержку и без участия человека с обеих сторон.

Технически это выглядит как проверка сертификата: агент предъявляет подписанные полномочия, вторая сторона сверяет подпись с реестром издателя и смотрит, попадает ли запрошенное действие в границы. Если да — сделка идёт дальше. Если агента отозвали, у него истёк срок или он вышел за свои права, проверка проваливается ещё до оплаты, а не после жалобы. Это ровно то смещение «налога на проверку», о котором писала Kessler: проверяет не человек, а протокол, и проверка занимает доли секунды, а не рабочий день сотрудника.

Агент проверяет паспорт другого агента автоматически, до начала сделки

Что делать тебе

Я считаю, что через пару лет вопрос «какой у твоего агента digital id» будет таким же обычным, как сегодня вопрос «какой у тебя сайт». Начинать думать об этом стоит раньше, чем появится обязаловка и готовые протоколы за тебя всё решат.

Определи уже сейчас, какому агенту и какие права ты вообще готов выдать — отдельно заказы, отдельно переписку, отдельно деньги, и нигде не давай больше, чем нужно для конкретной задачи. Веди для каждого агента историю выполненных задач с самого начала, даже если рядом с тобой ещё нет формального реестра репутации — это и есть будущий паспорт, собранный вручную, пока его не собирает рынок. И не жди от объяснений модели того, чего они не дают: смотри на дела агента, а не на его рассказ о себе, и строй границы прав так, будто паспорт когда-нибудь придётся показать чужому агенту, а не только тебе.

Вопросы и ответы

Что такое цифровая личность ИИ-агента?

Это проверяемая запись о том, кто агент, от чьего имени он действует, какие у него права и какая репутация — паспорт, который другой агент может сверить сам, без участия человека.

Чем паспорт агента отличается от аккаунта?

Аккаунт отвечает на вопрос «кто вошёл», паспорт — на вопрос «что этому агенту разрешено от моего имени»: границы прав, лимиты и подпись, которую можно проверить.

Как агент доказывает, что ему можно платить?

Он предъявляет подписанные полномочия, другая сторона сверяет подпись с реестром издателя и смотрит, входит ли запрошенное действие в разрешённые границы — без ручной проверки человеком.