EBR:以能量函数引导循环推理、停止与候选选择
研究把潜在状态的循环更新写成能量梯度下降,并引入探索式训练。推理时以梯度阈值决定停止,以能量选择候选;多解评测则另行统计有效解的覆盖比例。
论文阅读笔记 · energy-based-reasoners.github.io · 原文日期 2026-11-18
将潜在状态更新写成梯度下降
能量式推理器(EBR)学习定义在潜在推理状态上的能量函数,把循环更新写成沿该能量进行梯度下降的过程。作者还引入基于探索的训练,目的是发现更多解的模式,并在更广的状态范围内塑造能量景观。这是作者提出的训练方法与目标。
能量评分与梯度各司其职
在作者的描述中,能量衡量推理状态与初始棋盘的相容程度,数值越低表示越相容;梯度则把评分转成状态改进的方向。当梯度足够小时,状态趋于稳定,因此梯度也被用作停止依据;面对多个候选解,模型选择能量最低的一项。
下降步数与轨迹数量控制不同环节
推理时,每条轨迹在能量梯度低于阈值后停止。按作者描述,简单谜题可以较快结束,难题则继续迭代。增加下降步数用于继续细化每个答案,增加轨迹数量则提供更多候选,再交由能量评分筛选;两者分别影响答案的细化过程和候选范围。
多解覆盖率保留采样条件
多解评测采用覆盖率衡量答案的多样性:对每个输入,统计20个样本找到的不同有效解,占该输入全部不同有效解的比例。这个指标关注有限采样能够找到多少种有效答案;阅读结果时,需要保留采样数量,以及以不同有效解为统计对象的定义。
原始标题:Energy-Based Reasoners: Your Recurrent Reasoner Should Be an Energy-Based Model
来源:energy-based-reasoners.github.io