评论文章:LLM与大脑表征对齐不足以证明二者共享计算机制

一篇针对Nastase等人2026年观点的评论指出,表征对齐虽能约束机制假说,但本身无法识别机制,质疑LLM作为语言“完全机制模型”的结论。

AI解读:这篇论文争论的实质是:AI模型和大脑在表征上相似,能不能说明模型就像大脑一样工作?评论作者承认,用脑成像数据去对齐大语言模型的内部表征,确实能发现两者都依赖分布式、随语境变化的编码方式,也能帮研究者筛掉一些过于简单的脑区功能划分。但他强调,对齐只是说模型内部某个数值模式能预测神经活动,这并不能推出模型和大脑用了同一套算法或机制。Nastase等人的论证在这里出现跳跃——他们一边承认编码模型不代表共享架构,一边又下结论说LLM是语言的“完全机制模型”。对做认知科学或神经语言学研究的人来说,这意味着不能拿对齐结果直接当机制证据,需要在表征相似之外,用因果干预或结构性约束来区分哪些相似是本质的、哪些只是巧合。对普通读者,这项讨论不带来立即要采取的行动,它影响的是未来语言机制研究的设计口径:如果审稿人或基金评审更严格,这类结论会被要求加上更强的证据。

arXiv上发布的一篇评论文章(编号2609.03160,类型为新增)反驳了Nastase等人(2026)的观点。评论作者Elliot Murphy指出,Nastase等人认为大语言模型(LLM)或能启发对语言处理的理解,依据是二者都依赖分布式、语境敏感且由统计学习塑造的表征。Murphy认为对方对简单皮层“盒式模型”的批评有说服力,也认可LLM-大脑对齐研究的价值,但核心主张是:表征对齐原则上能约束机制假说,却不能独自识别出机制。

论证中的逻辑与因果不足

Murphy指出,Nastase等人承认编码模型能捕捉神经活动中表征的特征,但无法确证共享的架构或算法。然而,该文在部分段落从对齐结论滑向“共享计算原则”,最终主张LLM可能体现生物大脑相同的计算原则,并作为语言的“完全机制模型”。Murphy认为这与作者自己声明的方法论保留相冲突。

文章列出的问题集中在逻辑、因果与计算三个维度的“欠确定性”(underdetermination)上。摘要未提供具体的反例或详细论据,以上内容均基于arXiv上的摘要说明。

信息来源