担心的人类学研究人员警告说，人工智能“可能会杀死所有人类”

一位高级Anthropic安全研究员表示，到本世纪末，人工智能“可能杀死所有人类”的可能性超过10%，就在几个小时前，一位同事因担心人工智能实验室及其竞争对手粗心大意地竞相建造“超人系统”而辞职。他们无法控制。 中 邮政 在X宣布离职时，曾在Anthropic培训人工智能系统的研究员雅各布·考克森（Jacob Coxon）表示，由于该公司在安全问题上松懈，他已退出该公司。此前曾为OpenAI培训过系统的考克森指责这两家人工智能公司“直奔自我完善的超级智能，并用我们的生命来赌博”，尽管“开发人工智能的人真诚地相信它可能会在十年结束前杀死我们所有人”。 业内人士长期以来一直对自我改进人工智能系统的潜在危险表示担忧，他们警告说，人工智能系统可能会在一个通常被描述为循环式自我改进的失控循环中脱离人类控制。虽然尚未实现，但公司正在积极追求这一目标，当今的大部分人工智能代码都是在人工智能的帮助下编写的。 作为直接回应，Anthropic人工智能安全团队之一的负责人埃文·胡宾格（Evan Hubinger）表示， 说 他对自我改进的人工智能感到担忧，并补充说它“发生得比我们想象的要快”。他也同意考克森的定性。他说：“我们确实坚信人工智能可以杀死所有人类。”他个人估计，“在未来十年内”这种可能性将超过十分之一。 尽管如此，胡宾格表示，Anthropic“尚未制定计划”来确保先进人工智能保持安全并与人类价值观保持一致，并且“也没有明确走上”开发计划的轨道。Coxon 说 这些公司“陷入了一场首先开发先进系统的竞赛”，因此“尽管存在风险”仍在继续前进。 Coxon的离职标志着员工离开Anthropic最引人注目的例子之一，Anthropic是一家由前OpenAI成员因担心公司安全而创立的公司。近年来，多

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。