研究论文
FedPref:用联邦偏好学习实现放射报告结构化抽取
研究提出 FedPref 框架,借助冻结大模型与协作微调,在不共享数据的前提下提升放射报告结构化抽取效果。
2026.08.19 · 周三约 2 分钟阅读
arXiv 上发表的论文《FedPref: Federated Preference Learning for Structured Radiology Report Extraction》提出了一种面向放射学报告结构化抽取的联邦偏好学习框架。放射报告以自由文本描述病灶及其位置,但下游检索与分析需要将其映射到固定 schema;以往训练抽取模型既需要标注,又面临各医院数据量与病种分布不均以及数据难以汇聚的难题。FedPref 正是为解决这一矛盾而设计。
方法概览
FedPref 的工作流程分为三步:
- 由冻结的公开大语言模型对每份放射报告生成多个候选 JSON 抽取结果;
- 本地标注人员对这些候选结果进行偏好排序;
- 各参与医院在本地对 Qwen3-8B 的紧凑适配器进行训练,协作过程中只共享模型更新,而不交换原始报告或标注。
为防止单一模型反复采样带来的偏好坍缩,框架额外引入一组异构的教师模型提供跨模型对比信号,从而让偏好对更具判别力。
实验设置与关键结果
研究在六家数据量与病种分布均不平衡的模拟医院上展开评估。主要结果包括:
- 相比各医院单独训练,FedPref 在客户端平均 F1 上提升 2.49 个点,在数据最少的医院上提升高达 9.10 个点;
- 将所有偏好对汇集到中央进行训练的上限结果比 FedPref 在客户端平均 F1 上再高 2.66 个点;
- 在一份 400 份报告、人工校验的锁定金标准测试集上,FedPref 达到 68.68 F1,而集中训练上限为 71.67 F1,两者排序与开发集一致。
意义与局限
FedPref 的核心价值在于:在数据无法出院的现实约束下,让数据量较少的医院也能借助协作显著提升抽取质量。该方法不依赖共享报告或标注,更贴近医疗机构的合规要求。
不过,论文也指出 FedPref 与「完全集中训练」之间仍存在约 2–3 个 F1 的差距,说明联邦协作虽能缩小但尚不能完全替代数据集中。此外,当前评估基于六家模拟医院,尚未在真实跨机构场景下验证,临床部署的鲁棒性有待后续研究进一步检验。
