通过身份验证的人工智能代理仍然可能漂移、暴露数据或内存中毒

代理部署中有一个明显的重复趋势：网关是控制团队首先接触的，但也是他们最不准备好运行的。这是因为网关位于身份和归因层之上，而这些层大多不存在。 第一层风险不是假设的。六月， CISA添加了一个LiteLLM漏洞 在攻击者被发现在野外滥用它之后，它的已知漏洞目录。该漏洞通过网关本身在主机上运行命令，并与第二个漏洞连锁，它不需要凭据。这是一个月内在该单一AI网关中披露的七个常见漏洞和暴露（CVE）之一。这是许多企业首先接触的层来保护其人工智能代理的安全。 当考虑安全代理架构时，网关控制不应该是第一个控制。他们应该是第五个。 大多数关于代理安全成熟度的模型都描述了公司未来需要的控制。根据我的经验，他们往往会忽略描述棕地场景时更困难的问题：这些控制应该按照什么顺序与已经到位的身份和访问管理系统相结合？ 如果控制平面不知道哪个代理正在操作、谁委托了工作、代理要执行什么任务以及正在使用什么凭证，则上下文是不完整的。网关可能会阻止明显的违反政策行为，但将努力区分合理的行为和技术上允许但操作上不合适的行为。 在对这些控制措施进行代理生产部署时，失败的模式是显而易见的：执法工作很早就开始了，而它所依赖的身份和归属背景还有待开发。代理安全性作为依赖关系链发挥作用，每个控件都依赖于上游生成的上下文。 考虑通过新的运行时网关路由代理流量。一名财务对账代理试图更改produc.com中的记录。

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。