OpenAI称拥抱脸攻击是史无前例的。但我们以前来过这里。

上周读到OpenAI关于另一家人工智能公司and的描述，我第一次对大型语言模型现在能够做什么感到真正的不寒而栗。但这是人类的傲慢，而不是流氓人工智能。我不是危言耸听。事实上，我已经这么多年了。即便如此，这件事还是越界了。我认为这是迄今为止最清楚的说明，说明构建和测试这项技术的人们如何不完全理解他们在做什么。以下是发生的事情，至少根据相关两家公司的说法。几周前，OpenAI开始测试其一些新模型的黑客能力，包括GPT-5.6 Sol（6月发布）以及OpenAI描述的“功能更强的预发布模型”。OpenAI将其模型与5月份发布的一个模型进行了比较，该模型挑战LLM找到方法来利用广泛使用的软件中发现的数百个现实漏洞，包括支撑网络的关键代码。为了看看他们能做什么，研究人员拆除了大部分网络安全护栏。然后，他们在一个沙箱中运行模型，该沙箱与互联网断开连接，只有一个链接到第三方软件，该软件充当外部世界的代理，以便模型可以安装击败ExploitGym所需的代码。7月9日，据报道，OpenAI的模型开始尝试突破代理。他们在代理服务器的软件中发现了一个未知的错误，并利用它访问互联网。7月11日，他们从那里侵入了Hugging Face的计算机系统，显然是在寻找数据集和解决方案，以帮助他们完成正在测试的任务。Hugging Face于7月16日宣布了这一黑客行为。OpenAI直到7月21日才意识到（或者至少没有透露）其模型参与其中，大约在他们突破遏制措施后10天，以及拥抱脸关闭攻击并通知FBI一周后。在一份声明中，OpenAI说：“我们正在与外部专家一起进行彻底的审查。

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。