TAP-Path:对Virchow2病理基础模型进行任务自适应压缩,减参25%、减少35%计算量
新框架通过移除冗余transformer块和剪裁patch token,在32类组织病理基准上准确率达到87.98%,超过原始Virchow2的86.89%。
AI解读:病理基础模型虽能提升组织病理学的表征学习,但近年模型动辄数亿参数、推理成本高,限制了实际应用。TAP-Path提出的不是蒸馏出小模型,而是直接在预训练的Virchow2编码器上做“减法”:用验证集驱动选择保留哪些transformer块,物理删除冗余块,再根据输入动态裁剪patch token,并配上轻量门控任务头。结果是把编码器参数从 6.31 亿降到 4.74 亿(减少24.96%),单次前向计算量从 340G FLOPs降到 220G FLOPs(减少35.2%),同时在 32 类组织病理基准上测试准确率 87.98%,高于完整Virchow2的 86.89% 和UNI2-h的 87.67%。对研究者或医疗机构来说,这意味着不必换用更小的模型家族,也能在保留甚至提升精度的前提下降低推理成本。需要注意的是,结果主要基于单一公开基准和论文自报数据,外部验证仅用了 433 例CPTAC样本,实际部署价值还要看更多独立评测。
TAP-Path是一种任务自适应的压缩框架,直接重构预训练Virchow2编码器,而不是蒸馏成独立的学生模型。它结合了验证集驱动的transformer块选择、物理移除冗余块、输入自适应patch token剪裁、多深度特征恢复和轻量门控任务头。
压缩效果与计算节省
最终模型保留 32 个transformer块中的 24 个,裁剪后保留 70% 的patch token。编码器参数减少 24.96%(从 631.24M降至 473.70M),解析编码器计算量减少 35.20%(从 340.13G降至 220.40G FLOPs)。
性能基准与外部验证
在 32 类组织病理基准上,跨三个任务头优化种子,TAP-Path达到 87.98 ± 0.067% 的测试准确率、81.26 ± 0.49% 的平衡准确率和 82.38 ± 0.48% 的宏F1,对比完整Virchow2的 86.89% 和UNI2-h的 87.67%。
TAP-Path的Brier分为 0.1800 ± 0.0005,失败检测AUROC为 0.9047 ± 0.0060。在二次运行分析中,仅用验证集的稀有类感知目标改善了稀有类平衡准确率。
在 433 例CPTAC样本上的冻结外部评估中,获得 91.22 ± 0.83% 的准确率和 91.10 ± 0.81% 的平衡准确率。