新研究：无需训练的用户画像蒸馏在分类任务上可媲美检索式个性化，回归任务仍落后

AI解读：个性化AI助手需要根据用户历史调整行为，主流做法有两种：检索（把最相关的历史片段塞进提示词）和蒸馏（把历史压缩成一段画像）。检索准确但每次查询都要重新选择并消耗上下文，成本随历史增长；蒸馏只做一次、成本固定，但一直被认为会牺牲精度。这篇论文的关键发现是：这个代价并非在所有任务上都存在。他们提出的PersonaLink先把用户历史压缩成三个字段的画像，再用冻结的 7B模型在用户自己的标注数据切片上自我评估、根据错误改写画像，只有不倒退时才保留。在 200 名用户的LaMP-2新闻分类（15 类）上，PersonaLink达到 0.745–0.755 准确率，与BM25检索（0.760–0.765）统计上无差异，但回归任务仍落后。对开发者来说，这意味着如果你的应用是分类或类似任务，可以改用无查询成本的蒸馏画像来降低延迟和上下文开销，而不必担心精度下降；但涉及连续数值预测时，蒸馏仍有明显短板。普通用户暂时不需要做任何事，这项研究尚在预印本阶段，未经过同行评审。