企业急于确保人工智能部署安全，HiddenLayer获得1亿美元

三年前，当人工智能安全初创公司HiddenLayer筹集5000万美元的A轮融资时，该领域的一个大问题是，该初创公司所防范的人工智能威胁是否会以足够的数量出现，以创造真正的市场。正如我的前同事凯尔·威格斯（Kyle Wiggers）当时指出的那样，很难确定针对人工智能的大规模攻击的真实例子。事情发生了多么快的变化。安全公司现在正在争先恐后地开发不仅可以监控代理人，还可以监控他们使用的工具和附加组件的产品。虽然关于代理人被剥削的头条新闻仍然不多，但代理人在制作过程中失控的风险仍然是真实存在的。因此，防止这种情况发生的工具市场已经爆炸：Gartner估计，今年企业将在用于保护人工智能工具的产品上花费28.3亿美元，比2025年增加83%，预计明年的支出将达到近47.8亿美元。HiddenLayer是一种保护人工智能模型，代理和工作流免受对抗性攻击，漏洞和恶意代码注入的工具，能够很好地利用这种转变。其联合创始人兼首席执行官Chris Sestito告诉TechCrunch，该初创公司的年度经常性收入在过去一年中增长了10倍以上。他拒绝透露具体数字，但表示ARR目前已达到“数千万”美元，其中90%以上的增长是由过去一年签约的新客户推动的。金融服务和开发人工智能产品的大型科技公司是该公司目前最大的垂直行业，并且还与国防部和情报界签订了合同。它的一位客户显然是一家“领先的前沿模式提供商”，拥有“超过7亿周用户”，在我看来，这听起来像OpenAI或Anthropic。为了充分利用这一势头，该初创公司现已在B轮融资中筹集了1亿美元，该融资由Dela-v Capital领投，Ten Eleven Ventures、Morgan Stanl参与

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。