【知识点】nn.Conv2d参数设置-Toy模板网

这篇具有很好参考价值的文章主要介绍了【知识点】nn.Conv2d参数设置。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

reference

nn.conv2d padding,深度学习,计算机视觉,神经网络

in_channels
这个很好理解，就是输入的四维张量[N, C, H, W]中的C了，即输入张量的channels数。这个形参是确定权重等可学习参数的shape所必需的。

out_channels
也很好理解，即期望的四维输出张量的channels数。

kernel_size
卷积核的大小，一般我们会使用5x5、3x3这种左右两个数相同的卷积核，因此这种情况只需要写kernel_size = 5这样的就行了。如果左右两个数不同，比如3x5的卷积核，那么写作kernel_size = (3, 5)，注意需要写一个tuple，而不能写一个列表（list）。

stride = 1
卷积核在图像窗口上每次平移的间隔，即所谓的步长。这个概念和Tensorflow等其他框架没什么区别，不再多言。

padding = 0
Pytorch与Tensorflow在卷积层实现上最大的差别就在于padding上。
Padding即所谓的图像填充，后面的int型常数代表填充的多少（行数、列数），默认为0。需要注意的是这里的填充包括图像的上下左右，以padding = 1为例，若原始图像大小为32x32，那么padding后的图像大小就变成了34x34，而不是33x33。
Pytorch不同于Tensorflow的地方在于，Tensorflow提供的是padding的模式，比如same、valid，且不同模式对应了不同的输出图像尺寸计算公式。而Pytorch则需要手动输入padding的数量，当然，Pytorch这种实现好处就在于输出图像尺寸计算公式是唯一的，即

nn.conv2d padding,深度学习,计算机视觉,神经网络

当然，上面的公式过于复杂难以记忆。大多数情况下的kernel_size、padding左右两数均相同，且不采用空洞卷积（dilation默认为1），因此只需要记

O = 【（I - K + 2P）/ S】 +1

这种在深度学习课程里学过的公式就好了。

dilation = 1
这个参数决定了是否采用空洞卷积，默认为1（不采用）。从中文上来讲，这个参数的意义从卷积核上的一个参数到另一个参数需要走过的距离，那当然默认是1了，毕竟不可能两个不同的参数占同一个地方吧（为0）。
更形象和直观的图示可以观察Github上的Dilated convolution animations，展示了dilation=2的情况。

groups = 1
决定了是否采用分组卷积，groups参数可以参考groups参数详解

bias = True
即是否要添加偏置参数作为可学习参数的一个，默认为True。

padding_mode = ‘zeros’
即padding的模式，默认采用零填充。

groups参数详解

reference

以mobilenet为例

意思是将对应的输入通道与输出通道数进行分组, 默认值为1, 也就是说默认输出输入的所有通道各为一组。

比如输入数据大小为90x100x100x32，通道数32，要经过一个3x3x48的卷积，

group默认是1，就是全连接的卷积层。

如果group是2，那么对应要将输入的32个通道分成2个16的通道，将输出的48个通道分成2个24的通道。对输出的2个24的通道，第一个24通道与输入的第一个16通道进行全卷积，第二个24通道与输入的第二个16通道进行全卷积。

极端情况下，输入输出通道数相同，比如为24，group大小也为24，那么每个输出卷积核，只与输入的对应的通道进行卷积。

比如input_size = [N, C, H, W] = [1,6,1,1], 如果你令conv = nn.Conv2d(in_channels=6, out_channels=6, kernel_size=1, stride=1, dilation: 空洞卷积; padding=0, groups=?, bias=False)，

则当groups=1时，即为默认的卷积层，则conv.weight.data.size为[6,6,1,1],实际上共有6 * 6=36个参数；若group=3时，则每组计算只有out_channel/groups = 2个channel参与，故每一组卷积层的参数大小为[6,2,1,1]，每一组共有6 * 2=12个参数，相当于每一组被重复用了3次（即group）次，最后再concat.

groups 决定了将原输入分为几组，而每组channel重用几次，由out_channels/groups计算得到，这也说明了为什么需要 groups能供被 out_channels与in_channels整除。文章来源地址https://www.toymoban.com/news/detail-661387.html

到了这里，关于【知识点】nn.Conv2d参数设置的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！