研究人员提出Large Language Gibbs：用LLM条件分布迭代采样，替代单遍生成

AI解读：这项研究的核心问题是：大语言模型知道很多关于世界的知识，但用这些知识做结构化的概率推理（比如同时推断多个相互关联的变量）时，单遍自回归生成往往会有顺序偏差——先输出的变量会影响后输出的变量，导致结果不一致。论文提出的Large Language Gibbs方法，把每个变量都当作一个节点，每次只重采样一个变量，固定其他变量，利用LLM对给定上下文的下一个词概率来更新它，反复迭代直到分布稳定。这种方式的优势在于，他不依赖生成顺序，最终的平稳分布是所有局部条件分布的折中，更像是在做真正的联合推断。论文在合成分布、一致推理任务和贝叶斯结构学习上做了实验，认为在"世界先验可通过带噪LLM条件分布获得"的场景下，这是比单遍生成更实用的替代方案。对研究者而言，这意味着有了一种新的工具，可以在不重新训练模型的情况下，用现成的LLM做马尔可夫链蒙特卡洛采样。但注意，目前论文仅提供了初步实验结果，尚未涉及大规模实际应用，也没有公开的基准对比数据，所以还谈不上能直接替代现有推理管线。