所谓“深度伪造”，即通过AI技术生成或篡改，制造出看似真实却并非临床实际采集的医疗影像。

这项覆盖6个国家12家医疗中心的回顾性研究，邀请了17名放射科医生，对264张X光影像展开识别测试，影像分为ChatGPT（GPT-4o）生成、RoentGen模型生成及真实影像三类。

测试结果令人深思：

未告知研究目的时，仅41%的医生能主动识别出AI伪造影像；即便明确告知数据集中存在伪造影像后，医生的平均识别准确率也仅为75%。

而在同期开展的大模型测试中，GPT-4o、GPT-5、Gemini 2.5 Pro、Llama 4 Maverick四款主流多模态大模型的识别准确率在57%至85%之间，即便作为影像生成方的GPT-4o，也无法识别全部伪造影像。

不过研究也发现，这些AI伪造影像并非无迹可寻，其往往存在“过犹不及”的特征：

骨骼表面过于光滑、脊柱排列过度对称、肺部血管分布过于均匀，甚至骨折断面异常整齐，这些“过于完美”的细节，成为其隐藏的核心识别线索。

当前，云胶片普及、影像云端存储已成为智慧医院建设的重要方向。

据医保局数据，截至3月12日，全国已有31个省、自治区、直辖市和新疆生产建设兵团均已实现省份内至少一地医保影像索引上传，累计上传影像索引数量达3.49亿条，影像数据的共享与流转日益频繁，其真实性直接关乎医疗质量与安全。

而AI深度伪造影像一旦流入医院系统，可能引发一系列风险：

伪造病灶用于医疗欺诈、黑客植入虚假影像篡改诊断结果、破坏电子病历可信度，甚至污染AI辅助诊断模型的训练数据，从底层动摇智慧医疗的运行根基。

这也意味着，智慧医院建设不能只追求技术的赋能与效率的提升，更要兼顾数据安全的防护与风险的前置预判。

面对AI深度伪造带来的影像安全挑战，行业需从技术防护、人员培训、体系建设多维度发力，为智慧医院的影像数据筑牢“防火墙”。

在技术层面，落地多重防伪手段，譬如研究团队给出明确建议，可在医学影像中嵌入不可见的数字水印、添加专属加密签名，从技术层面防范篡改；

在人员层面，需加强医护人员的专业培训，让放射科及相关科室人员掌握AI伪造影像的典型识别特征，提升人工鉴别能力；

在系统建设层面，可布局AI辅助鉴别工具的研发，将影像真伪检测功能融入智慧医院的AI辅助诊断系统，通过“AI对抗AI”的方式，提升伪造影像的识别效率与准确率。

此外，智慧医院还需建立完善的影像数据管理制度，从采集、存储、传输到使用全流程严格把控，防范数据泄露与恶意篡改。

AI技术的飞速发展，为智慧医疗的创新与升级带来了无限可能，从影像辅助诊断到医疗数据挖掘，AI正成为智慧医院建设的重要驱动力。

但此次研究也提醒我们，技术是一把双刃剑，在拥抱AI赋能的同时，必须正视其带来的安全风险，提前布局防护体系。

「信息来源：https://doi.org/10.1148/radiol.252094」

— END —

  最新活动↓

▲ 扫码报名，免费参加！