News | Nature：超百篇AI疾病预测论文所用训练数据存疑，部分模型已在医院投入使用

统计分析发现了多项不符合真实人群特征的异常数据，研究者怀疑数据可能系人为伪造。更令人担忧的是，至少2个基于这些数据集训练的模型已在印度尼西亚和西班牙的医院中使用，其中1种模型在2024年还用于提交1项医疗器械专利申请，另有2个模型为公开网页工具，允许用户上传个人信息自行评估疾病风险。

这一发现直击医学AI的根本假设——训练数据必须反映真实患者群体。若训练数据系合成或伪造，模型输出将毫无意义，甚至可能造成危害。

澳大利亚悉尼乔治全球健康研究院公共卫生研究员Soumyadeep Bhaumik指出："基于来源不明数据训练的预测模型在临床决策中毫无立足之地，它们本质上是不可靠的。"若这些工具未使用真实数据，很可能做出错误预测，导致临床医生开具不必要的处方，或在需要治疗时遗漏处方。

卒中预测数据集：一个包括用于预测卒中事件的 11 项临床特征的数据集。包含5,110人的健康信息，涵盖心脏病史、血糖水平、体重指数（BMI）等风险因素。该数据集由马德里数据科学家Federico Soriano Palacios上传，下载量超过28.8万次。

Barnett团队发现该数据集几乎没有缺失值——这在真实临床数据中极为罕见，因为受试者会出现失访、退出或死亡而存在数据空缺。目前，已有104篇论文使用该数据集构建卒中预测模型，包括一种已在印度尼西亚某医院使用的模型，以及一项美国研究称已部署于 “当地心脏诊所” 的模型。

糖尿病预测数据集： 一个结合医学与人口统计学数据、用于预测糖尿病的综合数据集。包含10万人的记录，由印度金奈数据工程师Mohammed Mustafa上传。研究团队发现，10万名受试者的血糖值仅有18个离散取值——鉴于人群血糖水平存在巨大差异的情况下，这种情况在生物学上不可能出现。此外，研究团队还发现了数千条疑似重复数据。目前，已有21篇研究使用了该数据集，目前尚无模型进入临床。

多位被标记论文的作者在PubPeer上做出回应。印度SRM科学技术学院计算机工程师M. Karpagam是2025年发表于Scientific Reports的一篇使用双数据集论文的通讯作者，她表示数据集用于验证AI框架性能，而非得出临床结论，"在研究和投稿时，我们并不知道有任何报告表明这些数据集可能是合成或模拟的"。印度尼西亚萨姆·拉图兰吉大学工程师Daniel Sengkey是一篇使用卒中数据集论文的合著者，他表示该研究为本科项目，旨在"测试优化算法"而非构建临床工具。

该预印本本身尚未经过同行评审，目前尚不清楚已部署的模型是否直接导致了误诊或患者伤害。两位数据上传者均未回应Nature的询问。Kaggle拒绝评论是否会调查相关数据集或采取任何行动。Scientific Reports已撤回其正在审查的5篇论文中的3篇，理由是"对所用数据的来源和有效性存在担忧"。Frontiers in Bioengineering and Biotechnology表示将依据COPE指南进行调查。

数据集来源不是脚注，而是模型有效性的根基。基本的统计审查——检查缺失值模式、数值分布和重复情况——即可在模型构建前标记不可信数据。跨独立数据集的外部验证必须成为AI预测工具进入临床前的强制性要求。