Big Self-Supervised Models Advance Medical Image Classifications 2021

用于dermatology condition 和 chest X-ray 分类的自监督学习（见论文）。论文采用的是SimCLR的思想，其整体流程如下（见论文图1）：

1. 基于SimCLR，先利用自然图像ImageNet进行预训练
2. 接着步骤1中模型，基于SimCLR，利用医学图像进行预训练
3. 接着步骤2中模型，利用带标签数据进行有监督训练

作者还提出了Multi-Instance Contrastive Learning (MICLe)，这和SimCLR思想是相似的。SimCLR是将一张图像进行不同的augmentation，然后将它们视为一对正样本。而MICLe则是将同一个样本的多张 图片视为正样本（见论文图3）。