自监督学习（Self-supervised Learning）

前段时间在杭州参加华尔兹，在会场听报告和看Poster的时候，我发现AI领域的论文研究不再跟前几年一样专注于某个特定的任务提出全监督的网络模型（比如语义分割、目标检测和风格迁移等）。因为这些年深度学习的发展使得在数据充足情况下，经典任务的模型已经能达到很好的效果了，但是对于数据和标签匮乏的特定任务，这种监督学习的模型的效果就很受限。
目前CV领域主流的研究一般是结合多任务学习或者基于特定的学习方式，比如域自适应（Domain Adaptation）、自监督学习（Self-supervised）、无监督学习（Unsupervised Learning）以及增量学习（Incremental Learning）等，本文主要来聊一聊自监督学习。
一、什么是自监督学习
在基于深度学习的模型中，我们一般先对数据通过主干网络Backbone来进行特征提取，比如用VGG、Resnet、Mobilenet和Inception

自监督学习（Self-supervised Learning）最先出现在Python成神之路。