摘要由奥地利维也纳医科大学皮肤科 ViDIR 团队与澳大利亚昆士兰大学皮肤癌诊所联合创建了HAM10000“Human Against Machine with 10000 training images”数据集——一个包含 10,015 张皮肤镜训练图像的大型多来源色素性皮肤病变数据集通过 ISIC 档案库向学术界公开。其意义在于首次提供了一个覆盖 7 大诊断类别临床实践中 95% 以上的色素性病变都落入其中的多样化基准打破了既往数据集只盯着黑色素瘤和痣的局限其中53.3%的图像经组织病理学确诊为自动化皮肤病变诊断研究和人机对比实验提供了高质量基准。一、研究背景1、研究背景皮肤镜检查Dermatoscopy是一种广泛应用的诊断技术相比肉眼检查能显著提升良恶性色素性皮肤病变的诊断准确性。皮肤镜图像也是训练神经网络自动诊断的理想素材——早在 1994 年Binder 等人就用它训练神经网络区分黑色素瘤最致命的皮肤癌与黑素细胞痣。随着 GPU 算力和深度学习技术的发展人们对无需人类专家即可诊断各种色素性病变的自动化系统寄予厚望。训练基于神经网络的诊断算法需要大量标注图像但高质量、诊断可靠的皮肤镜图像数量非常有限且大多只覆盖少数几种疾病类别。2、目前遇到困难和挑战1现有数据集规模小、多样性差2013 年的 PH2 数据集只有 200 张图像160 痣 40 黑色素瘤商业化的 Interactive Atlas of Dermoscopy 虽有 1044 张图像但获取受限规模最大的 ISIC 档案库13,786 张虽许可宽松但严重偏向黑色素细胞病变——93.5%12,893/13,786的图像是痣或黑色素瘤。2非黑色素细胞病变被系统性忽视由于可用数据的局限既往研究几乎全部聚焦黑色素瘤 vs 痣的二分类问题而临床实践中同样常见的非黑色素细胞性色素病变如基底细胞癌、日光性角化病、血管病变等几乎没有对应的训练数据。3实验性能与临床现实严重脱节训练数据的低多样性与真实世界病例的多样性之间的错配导致自动化诊断系统在实验环境下表现优异、到了临床环境却表现平庸。多类别分类本身就比二分类困难得多而当时可靠的多类别预测只在临床照片非皮肤镜图像上实现过。二、介绍数据集1、数据集名称HAM10000Human Against Machine with 10000 training images2、一句话介绍数据集HAM10000 是一个汇集奥地利与澳大利亚两大来源、历时 20 年收集的 10,015 张皮肤镜训练图像数据集覆盖 7 大色素性皮肤病变诊断类别53.3% 经病理确诊通过 ISIC 档案库公开并作为 ISIC 2018 挑战赛官方数据。3、详细介绍数据完整数据集共 11,788 张皮肤镜图像其中 10,015 张作为训练集公开发布其余为 ISIC 2018 挑战赛测试集为防止数据泄漏未公开元数据。7 大诊断类别分布训练集缩写类别数量说明nv黑素细胞痣6,705良性包含各种变体mel黑色素瘤1,113恶性含原位黑色素瘤不含无色素/甲下/眼部/黏膜型bkl良性角化病1,099脂溢性角化、日光性黑子、苔藓样角化病bcc基底细胞癌514常见上皮性皮肤癌含各形态变体akiec日光性角化病/上皮内癌327鳞癌的非侵袭性变体含鲍温病vasc血管性病变142樱桃状血管瘤、血管角化瘤、化脓性肉芽肿、出血df皮肤纤维瘤115良性增生合计—10,015—真值Ground Truth类型真值类型说明组织病理学53.3%手术切除后病理确诊金标准随访Follow-up痣在 3 次随访或 1.5 年内无变化视为良性证据由 20 年经验专家评估专家共识Consensus两位作者独立给出一致良性诊断仅用于无需活检的典型良性病例共聚焦显微镜Confocal活体反射共聚焦显微镜确认四个来源子集子集图像数病理验证率来源Rosendahl澳大利亚2,259100%昆士兰皮肤癌诊所DermLite Fluid/DL3 设备ViDIR Legacy奥地利439100%历史存档含数字化幻灯片ViDIR Current奥地利3,36377.1%维也纳医科大学皮肤科ViDIR MoleMax奥地利3,9541.2%MoleMax HD 数字皮肤镜系统HAM10000 合计10,01553.3%—附加元数据年龄、性别、解剖部位挑战赛后发布。同一病变可能包含不同放大倍数/角度/相机拍摄的多张图像构成天然数据增强。4、数据集构建1多源异构数据采集两大数据来源存储格式天差地别澳大利亚站点用 PowerPoint 存图像、Excel 存元数据34.2GB、122 个 PPT 文件、36,802 张原始图像奥地利站点跨越 20 年经历了幻灯片diapositive→ 数码相机 → MoleMax HD 数字皮肤镜系统多个时代。2针对性提取与数字化PowerPoint 提取用 python-pptx 库自动遍历幻灯片批量提取图像、病变编号和记录年份幻灯片数字化Nikon Coolscan 5000 ED 扫描仪双重扫描 Digital ICE人工裁剪至 800×600px 并做直方图均衡化MoleMax HD 提取厂商工具筛选 SQL 表只保留有共识良性诊断的非黑色素细胞病变、随访超 1.5 年的痣、有病理报告的切除病变3神经网络半自动清洗原始图像集混有临床特写和全景照团队手工标注 1,501 张图像训练 InceptionV3ImageNet 预训练权重微调做图像类型分类top-1 准确率达98.68%大幅加速筛选少量误分类再人工复核剔除。病理诊断术语也用专门训练的神经网络做归一化。4人工终审与匿名化多重人工复核色彩还原与亮度清除 EXIF 信息防止患者身份泄露两站数据均获伦理委员会批准维也纳医科大学、昆士兰大学 Protocol-No. 2017001223。5、数据集特点覆盖临床全谱系7 大诊断类别囊括了临床实践中95% 以上的色素性皮肤病变既有痣和黑色素瘤也有既往数据集忽视的基底细胞癌、日光性角化病、血管病变等且每类都包含多种形态学变体代表性强。高质量多层级真值超过一半53.3%图像有组织病理学确诊这一金标准其余真值也分层严谨——随访1.5 年无变化、双人专家共识、共聚焦显微镜且明确标注每例属于哪种真值类型方便研究者按需筛选。天然数据增强同一病变提供不同放大倍数、不同角度、不同相机拍摄的多张图像展示随机形变和全局局部特征相当于免费的增广数据。保留真实临床噪声刻意不去除日光损伤皮肤的背景、终毛等干扰因素忠实反映临床实践的真实场景训练出的模型更接近实战能力。两种人群、多种设备奥地利站点是黑色素瘤高危人群转诊中心痣多、有个人/家族史澳大利亚站点是皮肤癌高发区基层诊所严重慢性日光损伤人群多样性拉满设备涵盖偏振/非偏振皮肤镜、不同相机提升模型泛化能力。6、数据集使用方法获取方式通过 ISIC 档案库isic-archive.com公开下载支持画廊浏览和标准化 API 调用2018 年 4 月 2 日起开放许可协议CC BY-NC-SA-4.0仅限学术非商业用途不得尝试重新识别患者数据内容图像 诊断 真值类型年龄、性别、解剖部位等附加元数据在 ISIC 2018 挑战赛后发布配套代码数据集处理方法代码开源github.com/ptschandl/HAM10000_dataset注意事项训练集/测试集划分沿用 ISIC 2018 挑战赛设置挑战期间测试集元数据不开放以防数据泄漏7、基准测试总结在 10,015 张训练图像中53.3%经组织病理学确诊且 7 大诊断类别覆盖了临床实践中95%以上的色素性皮肤病变——这使它成为当时规模最大、多样性最强的公开皮肤镜图像基准。三、数据集有哪些场景的应用1、多类别皮肤病变自动分类——从二分类走向全科诊断这是 HAM10000 最核心的用途。以前大家只能做黑色素瘤 vs 痣的二分类临床上远远不够——基底细胞癌和黑色素瘤都是恶性但处理方式和时间窗完全不同。有了 7 类标注你可以训练一个真正全科的分类器一张皮肤镜照片丢进去直接告诉你这是痣、黑色素瘤、基底细胞癌、脂溢性角化还是血管病变。ISIC 2018 挑战赛就是干这个的全球团队同台竞技这个数据集至今仍是皮肤 AI 的入门必修课。2、人机大战——AI 与皮肤科专家的公平对决数据集的名字Human Against Machine就表明了野心它专门设计用来收集人类专家的诊断表现和机器算法正面比较。你可以组织不同年资的皮肤科医师新手 vs 20 年经验专家在同一批图像上做诊断再和模型比准确率、灵敏度、特异度。2018 年后大量AI 超越皮肤科医生的研究都基于这个数据集做的人机对比实验。3、类别不平衡学习的实战演练场数据分布极度不均衡痣有 6,705 张皮肤纤维瘤只有 115 张相差近 60 倍——这和真实世界的发病率分布一致。想研究过采样、类别加权损失、 focal loss、少样本学习这里是天然的实验场。而且别忘了罕见类皮肤纤维瘤、血管病变在临床上恰恰是不能漏诊的怎么在少数类上把召回率做上去是个有实际价值的研究方向。4、真值质量分层研究——标签噪声对模型的影响这个数据集特别良心的一点是标明了每例的真值类型病理确诊金标准、随访、专家共识、共聚焦显微镜。你可以做很细致的实验只用 53.3% 病理确诊的数据训练和用全部数据训练模型性能差多少专家共识的标签噪声有多大影响这种标签可信度分级的数据在医学影像里很少见是研究标签噪声鲁棒性的绝佳素材。5、跨设备、跨人群泛化能力测试奥地利数据来自高危人群转诊中心澳大利亚数据来自皮肤癌高发区基层诊所设备有偏振/非偏振皮肤镜、不同相机、甚至 20 年前的幻灯片扫描件。你可以训练时只用奥地利数据、测试时用澳大利亚数据或反过来看模型跨人群、跨设备的泛化能力掉多少。这种域偏移实验对评估 AI 产品的实际部署价值至关重要。6、自然数据增强与多视图学习同一病变有不同放大倍数、角度、相机的多张图像——这不是 PS 出来的增广是真实拍摄的变体。你可以研究多视图融合把同一病变的几张图一起输入比单图提升多少用这些自然变体做一致性正则化同病变不同图的预测应该一致效果如何这类实验用人工增广数据做不出说服力。7、半监督与弱监督学习的数据底座1 万张有标注的图像之外ISIC 档案库里还有海量未标注或弱标注的图像。HAM10000 可以作为可靠的种子集先在上面训练教师模型去给未标注数据打伪标签再训练学生模型。半监督学习的经典流程在这个领域已经验证有效这个数据集是最常用的起点。8、皮肤病变分割与检测的迁移预训练虽然 HAM10000 是分类数据集但 1 万张多样化的皮肤镜图像是绝佳的预训练素材。做病变分割ISIC 也有分割任务或检测时先用 HAM10000 预训练 backbone再在小规模分割标注数据上微调比 ImageNet 预训练效果好得多——毕竟域更匹配皮肤镜下的毛发、标尺、气泡这些特产它都见过。9、临床决策影响研究——AI 建议如何改变医师判断因为数据集包含不同恶性程度的病变从良性痣到黑色素瘤且真值明确可以设计成对人机交互实验给医师看图像先记录他们的诊断再展示 AI 的建议对的或错的观察医师会不会被带偏。这类自动化偏差研究对 AI 临床落地的安全性评估非常重要HAM10000 的分层难度典型病例 vs 易混淆的 LPLK正好派上用场。10、可解释性研究的展示窗口皮肤病变诊断有明确的视觉依据ABCD 法则、蓝白幕、色素网等HAM10000 因此成为可解释 AI 的热门展示对象Grad-CAM 热图是不是盯着临床上该看的区域概念激活向量TCAV能不能识别出不规则色素网这种皮肤科概念模型的错误案例是不是连人类也觉得难比如模仿黑色素瘤的苔藓样角化病这些研究写出来既直观又有临床说服力。相关资源本文是 HAM10000 数据集的详细解读。对于做医疗 AI 的朋友数据集选型往往是个痛点——不同数据集的标注标准、适用任务、获取方式分散在各处论文和存档库中查阅成本很高。我们把 HAM10000 以及全球主流医疗 AI 数据集涵盖 CT、MRI、病理、超声、多模态等整理成了 AI-Ready Dataset 条目库以统一的 Wikipedia 式结构呈现方便研究者快速比对和选型Qianfanghub AI-Ready Datasethttps://www.qianfanghub.com/ai-ready-dataset/#HAM10000 #皮肤病变分类 #皮肤镜图像 #人机对比