人工智能行业已经发生了毁灭性的转变。现在怎么办？

本周末，Anthropic的首席执行官Dario Amodei发表了一篇文章，呼吁建立一个。阿莫迪列举了他从该技术中看到的迫在眉睫的危险，从其用于网络攻击和生物恐怖主义，到其破坏经济的潜力。美国其他三家顶级人工智能实验室的负责人--OpenAI首席执行官Sam Altman、Google DeepMind董事长Demis Hassabis和SpaceXAI首席执行官Elon Musk--表达了支持。“达里奥是对的，”马斯克。想想这个协议是多么的超现实。就在几个月前，在马斯克对他的前OpenAI同事提起的（失败的）诉讼中，至少在纸面上，关于Altman是否是这种危险技术的值得信赖的管家。Amedei与OpenAI的裂痕甚至更深。Anthropic成立于2021年，因为Amedei认为Altman没有足够认真地承担他们正在开发的技术的风险。从那时起，Anthropic和OpenAI一直在赢家通吃的竞赛中竞争。（哈萨比斯没有参与这场戏剧，但他的公司仍然是竞争对手。现在看来，他们都达成了一致：最新一代的LLM并不安全，每个人都需要弄清楚该怎么办。来自顶级人工智能实验室的公开信息已经发生了毁灭性的转变。很容易愤世嫉俗。目前还不清楚他们所说的经济放缓是什么意思，也不清楚它将如何运作。这些公司也非常关心他们的印象。OpenAI和Anthropic着眼于数万亿美元的IPO，他们需要向投资者保证他们是房间里的成年人，同时暗示他们所创造的怪物的力量--并打算驯服。呼吁经济放缓两者都有，但这些公司高层的氛围似乎确实发生了变化。Amodei的最新帖子是在OpenAI发表了该公司首席科学家Jakub Paclanki的一篇文章六天后发布的，他在文章中还阐述了LLM的发展速度是否继续不受控制。简而言之，Pacbanki担心OpenAI构建强大模型的能力现在远远超过了

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。