С развитием технологий искусственного интеллекта (AI) многие компании, включая интернет-магазины, переходят от экспериментов с AI к его внедрению в производственные и клиентские приложения. Однако, прежде чем позволить AI-агентам действовать автономно, необходимо четко определить, кто несет ответственность за ошибки и возможные риски. Дэвид Гринберг, главный маркетолог компании BlueRock Security, подчеркивает, что как только агент получает возможность обновлять каталог продуктов, выдавать возвраты или изменять рекламные кампании, он становится операционным программным обеспечением с делегированными бизнес-правами.
Делегированные полномочия
Рассмотрим пример интернет-торговца, который поручает AI-агенту улучшить коэффициенты конверсии для плохо продаваемых товаров. Агент может проанализировать запасы, выявить медленно продаваемые позиции, снизить цены и перераспределить рекламные бюджеты. Каждое из этих действий может быть разумным, но в совокупности они могут подорвать маржу, исчерпать запасы или создать неожиданные затраты. Важно определить, сколько полномочий следует делегировать.
Исследовательский центр информационных систем Массачусетского технологического института выделяет два фактора — неопределенность и риск — для определения, какие решения должен принимать AI. Рутинные задачи с предсказуемыми результатами и ограниченными последствиями являются хорошими кандидатами для автоматизации. Однако вопросы, связанные с неопределенностью, значительным финансовым риском или конкурирующими целями, требуют большего участия человека. Гринберг также предлагает учитывать дополнительные аспекты, такие как денежная стоимость, обратимость, влияние на клиентов, чувствительность данных и кумулятивный риск. Например, небольшие возвраты, повторяющиеся тысячи раз, могут стать значительной проблемой.
Установление границ
Торговцы должны установить ограничения, которые определяют, к чему агент может получить доступ, что он может изменить или потратить. Эти ограничения должны быть применимы в процессе работы агента, а не только через инструкции. Гринберг отмечает: "Если ваша видимость заканчивается на уровне команды, держите полномочия узкими".
Ответственность
Делегирование решения AI-агенту не освобождает от ответственности за его последствия. Отдел, ответственный за процесс, должен оставаться ответственным, даже если агент выполняет его. Например, маркетинг отвечает за результаты кампаний, служба поддержки — за процесс разрешения вопросов клиентов, а закупки — за решения о покупке. Этот принцип применим независимо от агента. Как отмечает Гринберг, "покупатель испытывает обещание компании, цену или возврат. Внутреннее объяснение о том, какой AI-поставщик это сгенерировал, не исправит плохой опыт". Каждый операционный агент должен иметь "владельца", который отвечает за конфигурацию, доступ, мониторинг и реагирование на инциденты.
Восстановление событий
Торговцы также должны иметь возможность восстановить события после действий агента. В случае возврата это означает идентификацию: оригинального запроса, заказа, применимой политики, предложенной суммы, авторизации, транзакции и общения с клиентом. Эти записи позволяют различать плохое решение, ошибку исполнения и ошибку клиента. В конечном итоге корректировка того, что пошло не так, должна улучшить производительность в будущем.
Коммерческое суждение
Одним из основных рисков является агент, который выполняет инструкции, но приводит к плохому результату. Гринберг приводит гипотетический пример торговца, который уполномочивает рекламного агента максимизировать доход в рамках фиксированного недельного бюджета. Агент определяет продукт с относительно высоким коэффициентом конверсии и перераспределяет расходы на него. Продажи увеличиваются, агент остается в рамках бюджета и рекламирует только одобренные продукты. Однако продукт имеет низкие маржи, дорогую доставку и высокий уровень возвратов. Агент оптимизировал заданный метрик, но снизил прибыльность бизнеса. Гринберг подчеркивает, что здесь маркетинговое суждение становится более ценным. Команды должны переводить бизнес-стратегию в измеримые цели и обязательные ограничения.
Связанные агенты
Сложность увеличивается, когда несколько AI-агентов работают в одной компании. Представьте себе агента по мерчандайзингу, который снижает цены, рекламного агента, который увеличивает расходы, и агента по закупкам, который пополняет запасы. Каждый из них может действовать разумно в рамках своей задачи, но их совместные действия могут создать нежелательную обратную связь. В статье, опубликованной в Harvard Business Review в сентябре 2026 года, исследователи описали, как компании, включая Walmart, разрабатывают системы для координации AI-агентов между функциями. Исследователи обнаружили, что специализированные агенты могут независимо генерировать полезные рекомендации, но при этом создавать конфликтующие результаты между отделами. Координация этих агентов может автоматизировать целые процессы, но требует общих правил, управления и способов примирения конкурирующих целей.
Операционные агенты
С каждым днем AI позволяет владельцам, менеджерам и сотрудникам создавать собственные инструменты и автоматизировать процессы, которые раньше требовали разработчиков, программного обеспечения или повторяющейся ручной работы. Однако создание агента отличается от его эксплуатации. Цель состоит не в том, чтобы требовать человеческого одобрения для каждого рутинного действия, а в том, чтобы установить достаточный контроль для делегирования полезной работы, не отказываясь от ответственности. Вопрос для интернет-компаний заключается не в том, что AI-агенты могут делать, а в том, что этим агентам разрешено делать, при каких условиях и кто остается ответственным за результаты.