外星人的心灵

2023年中期，在“RL Slow”研究项目中，我们看到了第一批结果，这些结果让我们相信我们将能够扩大推理模型的训练，释放预训练模型形成自己思想链的能力。那天晚上，我和西蒙在办公室里度过了一晚，思考的不是这项技术将带来的令人难以置信的基准数字、产品或科学成果，而是试图处理一个发人深省的事实，我们实际上会看到机器在我们的有生之年比我们自己聪明，而且我们已经看到了这些系统的形状;想知道如何提醒人们注意这一点的重要性。 三年后，推理语言模型是经济中快速增长的一部分，并开始推动科学的边界。他们能够操作计算机和图形界面，与人和彼此合作，并开展研究项目。它们也在改变计算机安全的格局，并在这一过程中出现了明显的新危险。 这一时期发生了很多新的研究，我们对这些系统的理解再次与2023年略有不同。根据内部结果，我强烈期望这种进步速度能够持续到循环自我完善中。如果人工智能发展继续沿着当前的道路发展，我们将在未来几年看到的系统可能会代表同等或更大规模的进一步能力飞跃，并越来越多地推动自身的发展。 这是一个需要极其谨慎的时刻。我担心没有人准备好应对机器智能持续快速发展的后果。OpenAI将继续寻求调整和监控的技术解决方案，以构建防御系统，并根据需要单方面停止进一步扩展;然而，我认为需要更广泛的干预。 在高层面上，机器智能的进步是由计算能力的提高推动的。我们OpenAI深度合作

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。