Apple机器学习研究团队提出“信息处理差距”方法，衡量LLM从证据更新信念时的内部一致性，发现非贝叶斯启发式更新在下游任务上常优于精确贝叶斯更新。
AI解读：这项研究针对的是LLM在医学、科学、法律等需要处理不确定性的领域中的可靠性问题。模型不仅要给出答案，还要能根据新证据合理调整自己的置信度，但研究发现它们并不总是按贝叶斯规则这样做。苹果团队用“信息处理差距”来量化这种偏差，并发现一个反直觉现象：使用学习到的启发式而非严格的贝叶斯更新，下游任务表现往往更好。这可能意味着模型对世界的概率模型本身存在设定错误，所以最优信息处理方式反而吃亏。对开发者而言，这意味着不能默认贝叶斯更新就是更好的提升方向，需要检查模型内部信念是否一致；对普通用户来说，这一研究目前没有改变任何使用方式，但提示了在关键决策场景中应谨慎对待模型给出的概率估计，因为它可能并不符合真实的逻辑一致性。
苹果机器学习研究团队（含斯坦福大学合作者）发布新研究，提出将大语言模型（LLM）视为“信息处理规则”、用其与贝叶斯更新的偏差（称为“信息处理差距”）来量化模型内部概率信念不一致性的方法。
实验发现，不同证据整合方式导致不同结果：部分方式产生接近贝叶斯的最优更新，另一些则依赖学习到的启发式；且非贝叶斯启发式更新在下游任务上经常优于精确贝叶斯更新，提示LLM对世界的概率模型存在设定错误。