自我纠错

它是什么

自我纠错是系统针对先前输出获得反馈，再据此修改答案或行动的推理时迭代过程。反馈可以由模型生成，也可以来自验证器、工具结果或人员；关键是修订要回应具体问题，而不是换一个随机结果。Self-Refine 展示了“输出、反馈、修订”的循环，但其他研究也发现缺少可靠外部反馈时，模型未必能纠正推理错误。[S1][S2]

为什么需要它

模型第一次输出经常存在格式、事实或执行错误，而代码测试、Schema 校验和环境结果可能立即暴露这些问题。把可操作反馈送回模型，可以在不重新训练权重的情况下修正局部失败。不过，“请再想一遍”并不自动提供新证据；没有验证信号的循环可能重复原错，甚至把正确答案改坏。

它如何工作

系统先生成候选输出，再由规则、测试、工具或人员给出指向具体失败的反馈。模型只针对这些失败修订，系统用同一验证器比较前后结果，并在通过、无改善或达到最大次数时停止；若修订引入关键回归，则保留上一版本或转人工。可靠的外部验证通常比模型仅凭自身判断更适合作为停止依据。[S1][S2]

必须澄清的误会

自我纠错 ≠ 反思机制。 反思机制让模型回顾并评价自己刚才的过程与结论，产出的是评语；自我纠错是在发现偏差之后真的去改，产出的是修正后的结果。

自我纠错 ≠ 重试策略。 重试策略是「失败几次、隔多久再试」的工程规则，通常在模型之外执行；自我纠错是模型自己判断要不要改、改哪里。

真实例子

SQL 助手在只读沙箱里生成查询，数据库返回“字段 customer_tier 不存在”，同时列出允许使用的字段。模型据此改用 segment 并重新执行；通过语法、权限和结果行数检查后停止。系统最多允许两次修订，永不自动执行写操作。这里真正驱动修正的是数据库反馈和权限规则，不是模型自行宣称“现在正确了”。

什么时候适合与不适合

代码、结构化输出、数学计算或可在受控环境验证的任务适合使用自我纠错。结果高度主观、验证器不可靠或错误会直接造成高风险动作时，不应让循环自行放行。每次修订都会增加延迟和成本，反馈本身也可能错误。研究表明，在没有可靠外部反馈的推理任务上，内在自我纠错可能无效或退化，因此必须设置回归检查和停止规则。[S2]

亲自试一下

让模型输出一份必须符合 JSON Schema 的对象，并故意在第一次请求中制造一项违规。把验证器的精确错误反馈给模型，最多允许两次修订，同时另做一组只说“再想一遍”的对照。只有修订结果通过同一验证器、没有改变已正确字段且循环按规则停止，纠错流程才算通过。

接下来学什么

学习AI Agent理解反馈循环所处的执行系统，再用AI 评估检查修订是否真的改善结果；当风险不能由自动规则覆盖时，加入人在回路。

来源与修订

反馈驱动的迭代修订模式参考 Self-Refine [S1]；缺乏外部反馈时无法稳定纠正推理、甚至发生退化的边界参考 Large Language Models Cannot Self-Correct Reasoning Yet [S2]。不同模型、任务、验证器与最佳循环次数仍需按实证结果复核。