npj digital medicine|告别“黑箱”诊断？为医学多模态AI的可解释性敲响警钟

npj digital medicine|告别“黑箱”诊断？一项覆盖82项研究的综述，为医学多模态AI的可解释性敲响警钟

随着医学AI快速落地临床，融合影像、病历、基因组数据的多模态模型，已在多病种筛查、诊断中超越传统技术与人类专家水平。但AI“黑箱”问题愈发突出，多数系统无法输出清晰的临床推理逻辑，成为临床落地的核心瓶颈。悉尼大学联合多校团队发表于《npj Digital Medicine》（IF=18.0）的综述，通过82项研究系统性剖析了医学多模态可解释人工智能（XAI）的行业现状与技术短板。

该研究将现有XAI技术划分为四个递进层级，当前超六成研究仍依赖单模态事后解释工具，仅能实现特征归因，无法拆解多数据的协同诊断逻辑，且存在解释不忠实、易误导临床决策的问题。高阶技术逐步实现跨模态对齐、概念语义推理，而可模拟完整临床推理、结合视觉定位与自然语言解释的整体多模态推理技术最为前沿，目前落地研究极少。

综述指出，当前领域存在解释标准不统一、模型架构限制可解释性、代码复现率低、前瞻性临床验证缺失等结构性问题，且高阶AI仍存在医疗幻觉风险。伴随欧美AI监管新规落地，可解释性已从学术需求转为临床合规刚需。该研究明确了行业进化路径，推动医学AI从单纯数据统计拟合，迈向贴合人类临床因果推理的人本化、透明化新阶段。