研究加速：OpenAI内部的观点

为了让AGI造福全人类，我们相信它必须民主治理。这只能通过关于高功能人工智能系统的能力、风险和保障措施的知情公开辩论来实现。世界各地的人们都需要了解前沿人工智能的未来可能轨迹，以便他们能够对人工智能的发展方式发表有意义的意见。 具体风险、事件和保障措施的透明度是必要的，但还不够。我们相信公众还需要了解最强大的系统如何开发，以及它们如何在前沿实验室内推动研究进展。 我们的目标是安全地构建一个自动化人工智能研究员，可以在人类监督下工作，以在深度学习和对齐方面进一步取得进展，从而实现迭代改进。根据我们的测量，我们现在已经达到了目标， 宣布 ⁠ （在新窗口中打开） 去年秋天，到今年9月拥有一名自动化研究实习生。所谓“研究实习生”，我们指的是一个可以在人类指导下执行明确定义的研究任务的系统，包括熟练的研究人员需要几天时间才能完成的任务。我们正在朝着到2028年3月创建自动化人工智能研究员的方向取得重大进展。 今年，OpenAI研究人员的日常工作发生了很大变化。研究人员全天都在使用编码代理（通常在并发会话中），并且总使用量正在迅速增加，超过了其他OpenAI团队的增长速度。研究人员正在更快地贡献代码并运行更多实验。研究人员使用代理的方式也在发生变化：代理处理越来越复杂的任务，并且更频繁地成功。人工智能研究是一个复杂的过程，存在许多潜在的瓶颈，因此总体进展速度可能无法跟上这些特定指标的步伐。但总的来说，这些发现与我们许多人内心的更广泛印象一致，即代理工具正在有意义地加速研究进展

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。