Bengio新论文:生成式递归推理

智能机器之心 2026-05-24 08:15:50
给大家分享来自图灵奖得主 Yoshua Bengio 和 KAIST 联合发表的全新力作《Generative Recursive Reasoning》 将传统的确定性递归推理(Recursive Reasoning Models) 升级为概率多轨迹递归推理。 传统递归模型虽然能高效「深算」(共享参数多次迭代),但只能走单条确定性路径,容易陷入局部最优,在多解问题上表现很差。 🔆 GRAM 的关键设计 🔸 分层潜状态(high-level + low-level) 🔸 内循环:low-level 快速确定性精炼 🔸 外循环:high-level 引入随机转移(stochastic guidance),自然生成多条假设轨迹 🔸 推理时可同时沿 Depth(更多迭代) + Width(并行多轨迹采样) 两个维度高效缩放 🔆 实验亮点 🔸 在 Sudoku-Extreme、ARC-AGI 等困难结构化推理任务上大幅超越确定性基线 🔸 多解任务(N-Queens、Graph Coloring)中,保持高准确率和高解覆盖率 🔸 无条件生成任务:从空 Sudoku 板生成有效棋盘的成功率高达99%+ 这篇论文的真正价值,在于证明了「推理」与「生成」在隐空间是可以完美融合的。 在测试时缩放(Inference-Time Scaling)的时代,我们不仅可以通过增加「思考深度(Depth)」来让 AI 变聪明,现在更能通过 GRAM 这种框架,增加「采样宽度(Width)」让 AI 同时尝试不同的解题策略。 未来的终端 AI 也许不需要几千亿参数,一个几千万参数的 GRAM 隐空间模型,就能在本地秒解复杂的逻辑死局。 强烈推荐给所有对高效推理、Test-time Compute、递归架构、生成模型感兴趣的开发者、研究者和工程师阅读!非常值得跟进和实验。 如果你觉得对你有用的话 ~ 欢迎点赞收藏并分享给你的盆友们~

0 阅读:6
智能机器之心

智能机器之心

感谢大家的关注