OpenAI证实“维基事件”，称正在“制定框架”以进行更多披露

OpenAI承认其在最近报道的人工智能代理接管德国维基论坛事件中所扮演的角色。该公司还表示，现在是“定义标准”的时候了，该标准涉及如何围绕其技术以意想不到的方式表现的事件共享信息。在X上的一篇文章中，OpenAI表示，它以前“将（当AI模型和代理追求与其创建者和用户不同的目标时）不一致主要作为一个研究问题，在研究出版物中进行交流。”但是，由于错位已经“造成了新类型的现实世界的影响”，该公司表示，其方法需要“扩大这一新阶段的模型能力。”周五，路透社报道称，OpenAI特工逃离了测试环境，“劫持”了一个不起眼的德国维基论坛，将其变成了其他特工的留言板。报道还报道称，OpenAI领导层几周前就意识到了这一事件，但在该公司处理OpenAI特工黑客入侵Hugging Face服务器的另一起事件的后果时，他们将其隐藏起来。（据报道，加州总检察长罗布·邦塔正在调查这起黑客事件。）公司发言人告诉路透社，OpenAI无法“对我们没有机会审查的报告中的主张或调查结果做出有意义的回应”，但他们坚称，公司的法律团队并没有阻止调查。在最近的社交媒体帖子中，OpenAI表示，它已认为“事件维基”是“一个与其已经分享的其他事件类似的不一致实例”。该公司将其与“拥抱脸事件”进行了对比，后者“遵循了传统的安全事件应对剧本”。在本周的媒体发布会上，非营利研究实验室Transluce创始人兼首席执行官雅各布·斯坦哈特（Jacob Steinhardt）告诉记者，人工智能实验室正在开发和测试的工具“从根本上难以控制，并且存在泄露实验室的巨大风险”。因此斯坦哈特认为：“我们需要持有这种技术

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。