【Linear Probing | 线性探测】深度学习 线性层
1. 作用
自监督模型评测方法
是测试预训练模型性能的一种方法,又称为linear probing evaluation
2. 原理
训练后,要评价模型的好坏,通过将最后的一层替换成线性层。
预训练模型的表征层的特征固定,参数固化后未发生改变,只通过监督数据去训练分类器(通常是Softmax分类器或者SVM分类器等等)。
只训练这个线性层就是linear probe。
3. 出处
何恺明MAE
https://zhuanlan.zhihu.com/p/432614068
文章来源:https://www.toymoban.com/news/detail-609370.html
4. 参考
https://blog.csdn.net/LoseInVain/article/details/103870157
https://blog.csdn.net/qq_23981335/article/details/122576120文章来源地址https://www.toymoban.com/news/detail-609370.html
到了这里,关于【Linear Probing | 线性探测】深度学习 线性层的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!