【能力向左,安全向右:Claude Fable 5背后的AI分裂】
Karpathy盛赞Claude Fable 5带来了软件开发效率的质变,甚至触发了杰文斯悖论:当软件制作变得像自来水一样即开即得,人们对定制化软件的需求反而会呈指数级爆发。但评论区却是一片哀嚎。
这次争议的核心在于“安全护栏”的矫枉过正。为了防止模型被用于敏感领域,Anthropic设置了极其敏感的防御机制。这导致大量开发者在进行正常技术探索时频繁遭遇误判和拒绝,甚至被质疑是在搞技术特权垄断。
这揭示了AI行业当下的深层矛盾:模型智商在狂飙,但为了商业合规,厂商不得不给它戴上沉重的枷锁。未来的竞争不仅是底层Transformer架构的军备竞赛,更是如何在“释放生产力”与“安全合规”之间找到那个精细的平衡点。
x.com/karpathy/status/2064409694761054332
