为前沿模型提供零数据保留

零数据保留为符合条件的API客户提供了明确的承诺：OpenAI在请求处理后不会保留他们的提示或模型响应。OpenAI人员无法查看客户内容以供审查 1 ，并且企业客户数据不会用于训练我们的模型，除非客户明确选择加入。 随着模型承担更长、更复杂的任务，一些严重的风险可能只会在多次交互中变得可见。现有的ZDR兼容安全系统单独评估每个交互。今天，我们正在预览私人安全处理，该处理旨在识别相关交互的模式，而不允许OpenAI人员访问底层内容。 对于ZDR部署，客户内容保留在客户控制的基础设施上。我们还在开发一种选项，将内容存储在OpenAI基础设施上，并使用客户控制的密钥进行加密。在这两种情况下，自动化系统都可以识别潜在的误用并返回有限的安全信号，而不会向OpenAI人员暴露底层提示或响应。 最严重的人工智能安全风险并不总是在一次交互中可见。通常，只有当多个互动一起看待时，潜在的有害意图才会变得清晰。当不良行为者反复调查保障措施、跨账户协调或将威胁伪装为常规研究时，也可能会出现类似的风险。风险也可能在代理任务的过程中产生-例如，如果系统在被告知停止后继续采取行动，从而与用户的意图不一致。 随着人工智能系统承担更长、更复杂的任务，这种更广泛的背景对于区分合法活动与滥用以及确保人工智能代理保持在其预期权力的范围内变得越来越重要。 最近的一些前沿模型部署要求客户允许其人工智能提供商保留敏感内容以进行安全监控。对于许多组织来说，这样的要求

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。