为什么人工智能不太可能用生物武器消灭人类

对一个的担忧 人工智能引发的世界末日 是 reaching a fever pitch ，从硅谷到华盛顿特区。 关于如何 流氓人工智能将消灭我们 ?生化武器 今年夏初，人工智能首席执行官 呼吁制定新法律 以控制合成DNA的制造。上个月，斯坦福大学和Arc研究所的研究人员表明， 人工智能可以设计新的病毒基因组 .上周，在Anthropic之后，这个想法开始流行 发布报告 表明有人试图以“可以支持生物武器开发的方式利用克劳德。该报告的作者将生物滥用列为“前沿人工智能模型最严重的风险之一”。此后不久，首席执行官Dario Amodei敦促 政府帮助AI实验室 “在边疆漫步” 尽管人们对人工智能造成的致命瘟疫发出了警报，但许多科学家表示，这种风险在世界上的担忧中相当低。 加利福尼亚州桑尼维尔基金会模型研究所的研究科学家大卫·贝拉米（David Bellamy）并不认为人工智能是生物武器制造方面的根本性新威胁。几十年来，科学界一直在努力解决是否发表具有潜在危险的生物研究的问题--即所谓的双重用途困境。 贝拉米说，在大型语言模型出现之前，互联网本身、开放获取科学期刊以及Google Translate等翻译服务使人们更容易访问生物信息，包括实验室协议。 “人工智能本质上是一种工具，可以帮助科学家等优秀行为者和威胁行为者更快地阅读信息并更快地定义和获取这些协议，”他补充道。“但这些能力并不是生物武器生产的真正瓶颈。” 他说，真正的瓶颈是 组装病毒的过程 或其他生物制剂以及所需的原材料、设备和知识。一个坏演员需要o

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。