双子座变得流氓，黑客攻击了三家公司，谷歌却隐瞒了这一点

今年5月，双子座打破了遏制并黑客攻击了三家不同的公司，但谷歌直到 华尔街日报 联系了公司。这些黑客攻击发生在第三方Irregular对该模型的网络安全能力进行测试期间，该公司也参与了涉及Meta和OpenAI的类似事件。 根据 WSJ 谷歌没有披露这次黑客攻击，因为它不认为这是“模型失调的例子”。该公司表示，这是一个“身份错误”的例子，一旦该模型意识到自己通过猜测密码强行进入了一家真正的公司，它就停止了。谷歌安全工程副总裁希瑟·阿德金斯（Heather Adkins）表示：“在这种情况下，该模型采取了适当的行动。” 阿德金斯告诉 The Verge “该模型在网上发现了公共信息，并猜测了访问它认为是测试一部分的网站的凭据。在这三种情况下，模型都停止了。” 阿德金斯没有详细说明双子座为何主动打破遏制并瞄准第三方而未能被定性为不一致。她说：“我们的安全团队在报告其他人的软件和系统中发现的问题方面有着悠久的记录--即使只是弱密码这么简单。”“我们确保这三个实体都意识到这一点，并与我们的培训合作伙伴合作，研究他们现在对测试流程所做的改变。这些事件凸显了训练强大的人工智能模型负责任地采取行动的重要性。” 但人工智能安全公司Corridor的首席执行官杰克·凯布尔告诉 WSJ “Meta问题是，嘿，模型超出了它们应该做的范围，并进行实际的网络攻击。”此外，Irregular的安全漏洞可能导致这些攻击成为可能。该模型在测试期间不应该访问互联网，但Irregular告诉 WSJ 它是无意中可用的。 作为 事件 像 这 桩 向上， 电话 要控制人工智能，只有 生长 .

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。