GracefulRL：训练语言模型学会优雅失败
· ME 快讯
ME AI 消息，该工作提出 GracefulRL 方法，用于训练语言模型识别自身无法可靠成功的情况并优雅地失败。文中指出，核心挑战在于：当成功是获得奖励的唯一途径时，模型倾向于冒险猜测而非选择安全退路；但错误操作可能导致数据库损坏或交付缺陷代码。作者通过 GracefulRL 重塑优化景观以促进优雅失败，且该行为直接源自结果层面的奖励信号，无需标注何时回退，也无需额外的推理时机制（如验证器）。在一系列任务和规模上，训练出的模型在很大程度上保留了任务解决能力，同时在行动不可靠时选择性地回退。该工作为预印本，属机器学习（cs.LG）领域，arXiv 编号 2610.20401，提交于 2026 年 10 月 14 日。（来源：InFoQ）