本文介绍基于L1正则化的剪枝原理,并以VGG网络进行实战说明。将从零详细介绍模型训练、稀疏化、剪枝、finetune
的全过程,提供详细的源码及说明,有助于对剪枝的熟练掌握,后续也会对yolov8进行剪枝的介绍。
论文: Learning Efficient Convolutional Networks through Network Slimming
作者对
VGG、DenseNet、ResNet
进行剪枝,发现模型剪枝50%
,模型的精度反而比没有剪枝(BaseLine)的更高
,并且剪枝超过60%后还能维持跟BaseLine模型差不多的精度。
本系列博文的安排如下:
1 Prerequisites 前置知识
- CIFAR10 数据集
- 简介
- dataset, dataloader
- VGG Network
- 论文简介
- 模型结构
- 神经网络模型搭建
- Batch Normalize
- 论文简介
- 具体实现
- L1&L2 正则化
- L1(Lasso 回归)
- L2(岭回归)
文章来源地址https://www.toymoban.com/news/detail-661893.html文章来源:https://www.toymoban.com/news/detail-661893.html
2 Prune 理论
- Baseline Training
- Train with sparsity
- Prune
- Finetune
3 Prune 实践
到了这里,关于剪枝基础与实战(1): 概述的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!