Base Labs与Hugging Face和Goodfire推出开放重量人工智能安全合作伙伴关系

周三，Baseten与其Base Labs研究部门一起推出了一项新的安全基础设施标准，与Hugging Face和Goodfire AI合作，为开放重量模型构建安全评估和监控基础设施。这一消息是在关于开放重量模型安全性的争论之际发布的--通过一种名为“巩固”的新兴技术取消保护措施，这可能会变得危险。这个问题的规模是巨大的：Hugging Face托管开源AI模型，目前列出了6,000多个已创建的模型。Baseten今年早些时候成立的研究小组Base Labs将开发和发布训练和监控开放模型的方法。该公司正在将他们未来的工作设定为开放模型的“标准”，该标准是透明的，并融入模型的培训和部署方式中，而不是事后固定。该公司在X上表示：“我们相信开放性是人工智能安全的一个优势。”“开放性为模型行为提供了更多的可见性，最重要的是，与封闭源相比，开放性为将安全研究转化为可操作且透明的控制提供了更好的方法。”两家公司尚未透露合作伙伴关系在技术上将如何运作，但古德菲尔在回复巴塞滕的帖子时制定了目标：“安全必须构建在开放模型中，并由为其服务的人提供。”Goodfire专门打开人工智能的“黑匣子”来解释模型如何做出决策，是“内置”部分最有可能的候选者。人工智能推理提供商Baseten于6月筹集了15亿美元的F轮融资，估值跃升至130亿美元。合作伙伴Goodfire AI同样资本充足，今年早些时候由B Capital牵头筹集了1.5亿美元的B轮融资，以推进其模型可解释性平台。 展望未来，Baseten正在公开呼吁更广泛的开发者生态系统为框架做出贡献。该公司表示：“我们正在共同建立一个安全且所有人都可以使用的开放模型生态系统。”

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。