企业人工智能的真正风险不是自主代理。这是他们之间的复杂性。

由Gravitee呈现 代理复杂性是目前潜伏在企业内部的一个阴险的阴影，需要一盏灯来照亮它。 这是因为企业不会部署单个代理并观察其运行，而是部署舰队，每个代理都调用API，调用其他代理，接触从未考虑到机器决策者构建的应用程序。这就是应该让你彻夜难眠的失败模式：一个多风、复杂的系统，没有人能清楚地看到来管理。但为什么事情这么快就变得如此不透明呢？ 将第二个代理添加到系统中，您就添加了一个连接。添加十分之一，您还没有添加十个连接，而是可能添加了数十个连接，因为现在任何代理都可以呼叫任何其他代理，并且这些呼叫中的每个呼叫都可以在其他地方触发呼叫。复杂性不会随着特工人数的增加而增加。它与代理之间的路径数量相结合，没有人的工作是绘制该图表。曾经接触一个系统的支持票现在可能会在人类看到它之前通过四个代理人，而每一个中断都是没有人批准的决定点。 当负责其代理的人失去线程时，大多数企业人工智能程序就会停止。向安全团队询问一个简单的问题：哪些代理可以访问哪些系统，并观察沉默。询问哪个代理在三跳前触发了哪个下游操作。更多的沉默。 我们的本能是将其视为一份清单。验证代理。记录代理。继续前进。我认为这是错误的本能。检查表检查一个时间点。复杂性贯穿于整个链条，你不能用一堆一次性的批准来管理一个链条，就像你不能因为吃过一次蔬菜就说节食成功一样。 那么它实际上在哪里崩溃了呢？ 先删除爬行。有人构建了一个代理来总结支持票，授予它广泛的API访问权限，因为正确地定义它的范围需要另一次冲刺，然后忘记了它。六个月后，同一个代理

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。