研究:大模型从规则描述中学习比从示例中学习更可靠
arXiv论文通过五类任务对比发现,模型从规则中学习通常比单靠示例更可靠;在规则之上追加示例或单纯扩大示例数量,并未带来持续且显著的提升。
AI解读:这条新闻的核心是:论文通过五类任务(游戏、算术、语言推理)的系统对比发现,让大模型从规则描述中学习(即指令跟随)通常比给它一堆输入输出示例(即少样本提示)更可靠。这意味着提示工程可能被过度依赖了——很多场景下,与其费力收集大量示例,不如把任务规则写清楚。对普通用户,这提示你在用AI时,如果任务规则明确,优先描述规则;但要注意,论文也指出在需要分布敏感性或依赖模型参数知识的任务中,规则的相对优势会变小,所以示例并未失效。对开发者而言,指令微调能放大规则学习的优势,且不损伤示例学习能力,这为提示设计和模型训练提供了选择依据。不过这些结论基于特定任务和模型,实际效果还需在自己的场景中验证。
一项发表于arXiv的研究(编号arXiv:2609.03213)对比了两种上下文学习方式——从规则描述学习(指令跟随)与从输入输出示例学习(少样本提示)——的效果。论文作者为Xiang Fu、Seungmin Cho、Yukyung Lee和Najoung Kim,提交于 2026 年 9 月 2 日。研究发现,在涵盖游戏、算术和语言推理的五类任务中,模型从规则中学习通常比仅从示例中学习更可靠;在规则之上增加示例或单纯扩大示例数量,并未带来持续且显著的改进。
研究还发现:指令微调放大了基于规则学习的优势,同时保持了基于示例学习的能力;在基础模型中,示例学习并未表现出特殊优势,在代数任务中规则仍带来收益。整体上,当任务涉及代数抽象与计算时,规则相对示例的优势更大;当任务需要分布敏感性或依赖参数知识时,这种优势较小。