新提示策略用大模型检测对话中的心理操控，论文获COLING 2025最佳短文奖
研究人员提出Intent-Aware Prompting（IAP），通过捕捉参与者潜在意图来识别对话中的隐蔽心理操控。在MentalManip数据集上的实验显示，该方法相较其他提示策略误报更少，能检测出更多操控实例。
AI解读：这篇论文解决的是对话中隐蔽心理操控难以自动检测的问题：操控往往藏在话术里而非表面语义中，常规文本分类容易漏判。研究者提出的Intent-Aware Prompting，核心是先让大模型推测对话双方各自的潜在意图，再基于这些意图判断是否存在操控，而不是直接贴标签。在MentalManip数据集上，它比多种先进提示策略表现更好，主要优势是大幅减少漏报，同时很少误伤正常对话。对心理热线、在线咨询平台这类需要筛查高风险对话的场景，这可能提供一种成本较低的辅助筛查手段；但它依赖大模型的意图推断能力，实际部署效果还需在真实对话数据上验证，目前只是论文实验结果。
arXiv上发布的一篇计算语言学论文提出一种新的提示策略Intent-Aware Prompting（IAP），利用大型语言模型（LLM）检测日常对话中的心理操控。该论文已被计算语言学领域会议COLING 2025接收，获得口头报告资格，并被评为最佳短文奖（Best Short Paper Award）。
方法：先推断意图，再判断操控
论文指出，心理操控会通过隐蔽、负面的方式扭曲受害者的决策，严重损害心理健康。尽管自然语言处理社区对心理健康领域的关注在增加，但受限于对话中操控策略的微妙和隐蔽性，自动检测进展有限。
针对这一问题，来自澳大利亚、美国和中国的作者提出Intent-Aware Prompting，其思路是先捕捉对话参与者的潜在意图，再据此判断对话中是否存在心理操控。论文称该方法能提供对操控策略更深入的理解。
在MentalManip数据集上的表现
论文在MentalManip数据集上进行了实验，结果显示IAP相比其他先进prompting策略有更好的检测效果。作者特别指出，该方法显著降低了假阴性，即在尽量减少对正常对话误判的前提下，能够检测出更多的心理操控实例。
论文的代码和实验数据已在论文页面公开，可供复现。该论文发表于《Proceedings of the 31st International Conference on Computational Linguistics》第 9176-9183 页，DOI为 10.48550/arXiv.2412.08414。论文于 2024 年 12 月首次提交，2026 年 9 月更新。