CARE: Towards Clinical Accountability in Multi-Modal Medical Reasoning with an Evidence-Grounded Agentic Framework

CARE 论文完整解读

一、研究背景与现存痛点

当前各类医疗多模态大模型、工具增强智能体（比如刚才讲的 Ophiuchus）虽然能调用 SAM、放大、病理解析工具完成影像诊断，但存在临床可信性、可追溯性缺陷，也就是临床落地最核心的「问责性缺失」：

1. AI 给出诊断结论，但无法清晰展示每一步诊断对应的临床证据来源；分不清判断是来自 CT 病灶分割、病理细胞特征，还是模型凭空脑补；
2. 模型容易产生幻觉，给出和影像、临床事实冲突的诊断，医生无法核验 AI 推理逻辑，医院不敢直接用于临床；
3. 推理链条碎片化，工具调用、图像观测、文本思考脱节，没有统一的证据归档，不符合医疗合规、临床质控要求；
4. 现有智能体只追求诊断准确率，忽略医疗行业刚需：临床可解释、证据可溯源、结果可复核。

论文提出 CARE 框架，核心目标就是给医疗多模态推理加上「临床问责能力」，所有诊断结论必须绑定、锚定真实影像证据。

二、CARE 全称与核心定义

CARE = Clinical Accountability Reasoning Agentic Framework

 

基于证据锚定的智能体架构，核心思想：AI 的每一条临床判断，都必须绑定对应的视觉证据块，全程留痕、可追溯、可复核。

三、核心架构四大模块（证据闭环链路）

1. 证据感知模块（Evidence Perception）

兼容 CT/MRI/OCT/ 病理切片所有医学影像，复用 SAM2 分割、局部 Zoom 放大、BiomedParse 解析工具，提取图像中客观视觉特征：病灶大小、信号强度、细胞形态、器官纹理；

 

和 Ophiuchus 工具链兼容，但额外给每一块视觉输出打上唯一证据标识 ID，记录坐标、放大区域、分割掩码来源。

2. 证据锚定推理链（Evidence-Grounded CoT）

区别于普通文本思维链：

• 每一段模型推理语句，强制绑定对应的图像证据 ID；
• 不允许无依据的凭空推断，一旦推理内容没有匹配的影像证据，智能体自动触发二次工具调用，重新采集视觉证据；
• 举例子：模型说 “存在肾囊肿”，必须附带肾脏区域分割图 + 放大细节证据，否则判定推理无效。

3. 临床校验问责模块（Clinical Accountability Checker）

内置两层校验规则，模拟放射科医生质控：

 

1）事实校验：比对推理文本和工具输出的客观影像特征，过滤幻觉、假阳性；

 

2）临床逻辑校验：绑定医学知识库（临床指南、疾病诊断标准），检查证据→诊断的推导逻辑是否符合临床规范；

 

校验不通过会自动回溯，重新调用视觉工具补充证据。

4. 标准化证据归档输出

最终输出不只是诊断答案，附带完整溯源档案：

 

工具调用记录、病灶坐标、分割掩码、放大局部图、逐句推理绑定的证据 ID，满足医院临床质控、医疗器械审批合规要求。

四、和 Ophiuchus（上一篇工具增强框架）核心区别

1. Ophiuchus 重点解决：怎么调用视觉工具、精细看图提升诊断精度；侧重「看得更准」；
2. CARE 在 Ophiuchus 的工具智能体基础上，新增临床问责、证据溯源、幻觉校验；侧重「说得有理、有据可查、临床可信」；
3. 二者可以组合使用：先用 Ophiuchus 完成多轮精细影像观测，再用 CARE 框架约束推理、归档证据，适配医疗商业化落地、医疗器械申报。

五、核心创新点

1. 证据锚定约束机制：首次强制医疗多模态推理每一步结论绑定客观影像证据，从架构层面抑制模型幻觉；
2. 临床问责智能体：把医疗器械临床合规、质控要求嵌入大模型推理流程，而不是事后补充解释；
3. 统一证据归档格式，输出可直接用于医院 AI 辅助诊断系统的标准化报告，工程落地价值极高；
4. 配套专用训练奖励函数：激励模型优先基于真实视觉证据推理，惩罚无依据的脑补输出。

六、实验关键结论

1. 幻觉发生率相比普通工具增强智能体下降 42%，假阳性诊断大幅减少；
2. 放射科医生盲测：91% 医生认为 CARE 输出的推理过程可复核、临床可信度更高，愿意引入科室使用；
3. 在医学 VQA、病灶分割、病理计数三大任务上，精度不弱于 Ophiuchus，同时额外获得可解释、可溯源的临床合规优势；
4. 适配轻量化 7B 医疗模型，部署成本低，适合企业商业化医疗 AI 平台开发。

https://arxiv.org/abs/2603.01607