人工智能安全争论是关于安全还是控制？

科技行业应该如何处理人工智能安全话题？越来越多的高级管理人员开始关注这个问题，因为围绕“拥抱脸”事件（OpenAI代理黑客攻击了几家不同的公司）等事件是否表明人工智能正处于让我们的世界陷入混乱的边缘的争论愈演愈烈。最近几周，著名实验室呼吁放慢人工智能的进步。最引人注目的是，首席执行官达里奥·阿莫迪（Dario Amedei）写了一篇近4，000字的文章，阐述了为什么应该减速人工智能开发，以便部署足够的护栏。除其他外，该计划还涉及公司和政府在安全部署方面的国际合作战略。竞争对手的人工智能高管--如OpenAI的Sam Altman和xAI的Elon Musk --都支持了Amedei的计划。这篇文章在整个科技行业引发了进一步的对话，尽管并非所有人都同意Amedei关于全球协调行动的呼吁。事实上，许多人似乎认为政府监管根本不一定需要发挥作用。最近加入这场辩论的人包括Meta首席执行官马克·扎克伯格，他本周在X上分享了他对此事的看法。“我的观点是，信任和一致性正在迅速成为区分代理人和模型的最重要能力。”扎克伯格透露，出于安全考虑，他的公司推迟了人工智能模型的发布。扎克伯格说：“Meta将Muse的发货推迟了几个月，以专注于安全保障。”“在我们这样做之前，我们并没有呼吁其他人这样做。我们只是将其作为日常工作的一部分，因为这显然对人们和我们来说都是正确的事情。”扎克伯格--支持阿莫德伊计划的部分内容--似乎暗示政府行动是不必要的，结构该行业的有机激励措施将迫使公司获得正确的安全保障。市场最终应该为那些获得成功的公司带来成功

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。