AI巨头Anthropic突然发布了一篇题为《当AI自我构建》（When AI Builds Itself）的文章，呼吁全球暂停前沿AI开发。
理由是AI快要具备“递归自我改进”能力，再这么卷下去人类可能要失控了。
没错，就是那个估值9650亿美元、刚秘密递交IPO申请、准备募资600亿美元、还在疯狂迭代“全球最强AI”Claude 4.8的Anthropic。
这感觉就像一个准备参加奥运会百米决赛的运动员，临上场前突然对着所有选手喊：“兄弟们，跑太快会伤膝盖，要不咱们都慢点走？”
Anthropic语重心长地警告：“AI系统正接近无需人类干预就能自主改进的临界点，这可能在未来两年内发生，甚至更早。”
他们呼吁全球AI实验室达成协议，建立可验证机制确保大家都不偷偷卷，这样他们才愿意减速甚至暂停。
最绝的是时间点——这篇“人类安全警告”发布时，Anthropic刚完成650亿美元H轮融资，S-1文件都递到SEC了，年化收入从140亿飙到470亿美元，马上就要在纳斯达克敲钟了。
Anthropic的文章详细复盘了AI辅助研发的完整进化路径。
构建第一代Claude（2021—2023年）
早期，Anthropic的工作与其他科技公司并无二致：员工们在笔记本电脑上编写代码和文档。
聊天机器人（2023—2025年）
人们开始借助早期聊天机器人辅助完成部分工作，例如生成简短的代码片段，再将输出内容复制到文本编辑器中。
编程智能体（2025—2026年）
随着智能体能力的增强，它们能够独立编写和修改代码，有时甚至可以处理整个文件。
自主智能体（当下）
智能体现在可以自行运行代码，并将数小时的工作委派给其他智能体。
闭合循环（20XX年？）
未来，智能体或将具备足够的能力，自主构建和训练模型。若果真如此，Claude的后续版本将能够由Claude自身持续迭代改进。
