所谓生成模型,就是指可以描述成一个生成数据的模型,属于一种概率模型,生成模型能够随机生成观测数据的模型,尤其是在给定某些隐含参数的情况下,他给观测值和标注数据序列一个联合概率分布.在机器学习中,生成模型可以直接用来对数据建模,也可以简历变量间的联合概率分布.通俗来说就是生成不包含在训练集中的新数据.

目前Transformer领域在图像上有两大挑战

ViT 是 Google 提出的把 Transformer 应用在图像分类的模型.因为模型简单效果好可扩展性强,所以成为了 Transformer 在 CV 领域的里程碑

Attention 机制就是从关注全部到关注重点.当我们看一张图片的时候,并没有看到全部内容,而是将注意力集中在了图片的焦点上.也就是说,我们的视觉系统是一种 Attention 机制,将有限的注意力集中在重点信息上,从而节省资源,快速获得最有效的信息.

input – （批大小， 数据的通道数， 数据长度） output –（批大小， 产生的通道数， 卷积后长度）

Self-Supervised Learning 超详细解读 (二)：SimCLR系列 - 知乎 (zhihu.com)

Self-Supervised Learning 超详细解读 (二)：SimCLR系列 - 知乎 (zhihu.com)