Настоящий риск корпоративного ИИ не в автономных агентах. Он заключается в сложности взаимодействия между ними.

Представленный Gravitee Agent, сложность является коварной тенью, скрывающейся внутри предприятий прямо сейчас, и ей нужно пролить свет. Дело в том, что предприятия не развертывают один агент и не наблюдают за его работой, они разворачивают целые флоты, каждый из которых вызывает API, обращается к другим агентам, проникает в приложения, которые никогда не были созданы с учетом машинного принятия решений. Это режим неудачи, который должен не давать вам спать по ночам: ветреная, сложная система, которую никто не может увидеть достаточно ясно, чтобы управлять ею. Но почему все становится таким непрозрачным так быстро? Добавьте второго агента в систему, и вы добавили одно соединение. Добавьте десятого, и вы не добавили десять соединений, вы потенциально добавили десятки, потому что теперь любой агент может вызвать любой другой, и каждый из этих вызовов может инициировать вызов где-то еще. Сложность не нарастает с числом агентов. Она накапливается с количеством путей между агентами, и никто не отвечает за то, чтобы нарисовать этот график. Заявка на поддержку, которая раньше касалась одной системы, теперь может проходить через четырех агентов, прежде чем человек вообще ее увидит, и каждый из этих переходов является точкой принятия решения, которую никто не одобрил. Большинство корпоративных AI-программ останавливаются, когда люди, ответственные за их агентов, теряют нить. Задайте команде безопасности простой вопрос: какие агенты могут получить доступ к каким системам, и наблюдайте за молчанием. Спросите, какой агент инициировал какое действие три шага назад. Больше молчания. Инстинкт заключается в том, чтобы рассматривать это как контрольный список. Одобрить агента. Зарегистрировать агента. Перейти к следующему. Я бы утверждал, что это неправильный инстинкт. Контрольный список проверяет единую точку во времени. Сложность проходит через цепочку, и вы не можете управлять цепочкой с помощью стопки одноразовых одобрений так же, как вы не можете назвать диету успешной, потому что однажды съели овощ. Так где же это на самом деле