代理人工智能安全的三层：自治代理的深度防御架构

由Nutanix呈现 可以在环境中推理、做出自己的决策并执行操作的自主系统会引入应用程序级控制从未设计过的一类风险。Nutanix产品管理高级总监奥斯卡·沃尔伯格（Oscar Wahlberg）表示，将该风险视为一个单一问题会导致架构不完整。 沃尔伯格说：“捕捉恶意提示的护栏并不能阻止代理产生幻觉并做一些它根本不应该做的事情，例如意外删除数据库或泄露具有授予但随后用于完全不同的事情的凭据的敏感数据。”“这是企业将自主代理人从实验中转移到生产中的核心问题。" 一旦代理系统被授予跨数据中心的执行特权，安全态势就必须扩展到跨越基础设施、存储、计算、网络和治理控制平面的深度防御架构。每个层都解决不同类别的风险，而不是在堆栈中复制相同的控制。没有任何一个安全控制或供应商能够独自提供这种保护。深度防御取决于这些层的协同工作。 通过跨栈划分职责并坚持零信任细分，组织可以创建一个安全框架来改善其整体态势。了解哪些风险属于每一层，可以将深度防御原则转变为实用的安全框架，该框架有三层，每个层都有不同的责任。 基础设施层的基本责任是建立信任根源，以回答一个简单的问题：谁在环境中运营？受信任的身份成为其之上的每一个安全控制的先决条件。在组织信任代理所做的事情之前，它首先必须信任代理所运行环境的完整性。当代理请求时

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。