6月5日，Anthropic发表了一篇警示文章，《When AI buildes itself》，当 AI 开始建造自己，不禁要思考，我们人类角色将如何改变？
在 AI 发展的历史中，人类长期主导着每一个开发环节。但如今，在 Anthropic，我们正将越来越多的AI开发工作委托给AI系统自身，这极大加速了我们的工作进展。
如果这一趋势走得足够远，再配合充足的算力，最终可能诞生一个完全自主设计并开发自身继任者的AI系统，这就是递归自我改进（Recursive Self-Improvement）。
我们尚未完全抵达这一步，且它并非必然发生。但Anthropic Institute的最新报告显示：这一趋势可能比大多数机构预想的来得更早。
AI已在显著加速AI自身的开发。一个最直观的例子是：如今Anthropic工程师平均每个季度输出的代码量，是2021-2025年期间的8倍。
这些趋势意味着AI能力将在未来几年大幅跃升。它可能带来科学、医疗等领域的巨大福祉，但也可能大幅增加人类失去对AI控制的风险。
（写在最后，这几天开通了知识星球，这个私域知识社区，主要是输出深度知识，专栏，和资料库，服务好SpaceDaily的订阅会员）
