DNative-Twin:用图数字孪生记录并回放AI代理决策,补上工具状态盲区

新框架将代理决策记录成带类型的轨迹,通过重放和验证找出未观测工具状态导致的分歧;在300个注入实例的实验中,分歧召回率从0升至1.0。

AI解读:AI代理做决策时可能参考多种证据、调用工具、受规则约束,但最终只输出一个结果,外人无法看出这个结果由哪些证据、工具状态或权限路径产生。DNative-Twin把一次决策记录成带类型的轨迹,用图结构把代理观察到的状态、走过的路径和最终行动的授权来源连起来,然后可以在隔离环境中重放这个决策机制,并在受控条件下比较不同版本。实验揭示了一个具体盲区:图结构只能定位哪些表示发生了变化,无法判断某个未观测到的工具状态会带来什么后果。在300个注入实例的三条件对照实验中,仅靠图结构时无法分辨分歧;加入重放合约状态后召回率从0升到0.667,再加上验证结果后达到1.0。也就是说,要让审查者看出决策机制是否在新输入下偏离预期,必须同时提供重放上下文和验证证据,缺一不可。这个框架目前针对企业决策流程,已在三个公开流程日志和受控重放套件上测试,但代价是处理时间增加:在BPI 2020数据集上,处理500到5000个案例的中位端到端时间从0.794秒升至8.889秒。对需要审计AI决策的企业或监管方来说,这项技术提供了一种比只看最终输出更可靠的核查办法,但部署前需要权衡时间成本,尤其是大规模场景。

arXiv:2609.03787v1发布了一项名为DNative-Twin的研究(作者:Junjie Pang、Zhenzhen Xie、Haoke Han、Ying He、Jing Wang、Gang Liu),提出一种图原生数字孪生框架,用于记录AI代理已提交的决策,并在声明条件下重新执行其决策机制。该框架将代理观察到的状态、遵循的路径、以及导致最终行动的授权来源,关联在一个图中,并同步信息、在隔离环境中重放机制、在受控变更下进行对比。

研究的核心动机是:代理最终输出本身无法说明它由哪些证据、工具状态、规则、授权或行动路径产生。实验发现,图结构能够定位已表示的变化,但无法确定未观测工具状态带来的后果。在300个注入实例的三条件对照实验中,未解决分歧的召回率从0(仅图结构)提升至0.667(加入重放合约状态),再提升至1.0(同时提供验证结果);保留集合中未包含关键类实例。

框架已在企业决策流程中实例化,使用三个公开流程日志和受控重放套件。在BPI 2020数据集上,处理500至5,000个案例时,中位端到端时间从0.794秒增加至8.889秒(基于论文报告的平台)。

信息来源