我让人工智能代理黑了我所有的小工具--我会再这么做

因为提交人 关于 人工智能 ，我认为我有责任体验 出血边缘 这项技术的第一手资料。本周，这意味着拥抱一些激进的混乱。 您可能知道前沿人工智能模型已经达到 先进的网络安全能力 近几个月他们能找到 零日错误 在大型代码库中并扫描计算机 漏洞 闪电般网络安全让事情变得更加令人兴奋 探员有时会叛变 互相勾结， 入侵外部系统 来获得优势 为了仔细观察，我决定在自己的家庭网络中释放一个。在几天的时间里，我看到我自己的流氓代理在各种家用设备中发现了漏洞，侵入了一台PC，并向我展示了几个视频编码的项目--毫不奇怪-充满了错误。(My妻子知道我在做什么，每次我自豪地宣布发现新的弱点时，她都会翻白眼。） 但将 ，你可能会想， 让顽皮、全能的网络安全代理访问您的家庭网络真是太糟糕了 .你是对的！尽管如此，我相信了解我们面前的网络安全地狱景观的一个好方法就是参观一下。 最后，我的实验揭示了问题，但也奇怪地令人放心。我的小网络妖精向我展示了我的家庭生活如何容易受到人工智能黑客攻击，但它也告诉我如何让一切变得更加安全。最后，我发现应对人工智能黑客的最佳方法很可能是拥有自己的人工智能黑客。 我发现后就有了这个实验的想法 缩略AI 是一家初创公司，提供强大的人工智能模型的访问权限，但拆除了通常的护栏。 大多数主流人工智能模型都会拒绝响应某些查询，而且肯定会拒绝发现和利用计算机系统中的漏洞。但通过在开放权重内查找和修改某些模式，可以消除这些限制

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。