【目标检测】epoch、、batch、、batch

这篇具有很好参考价值的文章主要介绍了【目标检测】epoch、、batch、、batch_size理解。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

1 epoch

当一个完整的数据集通过神经网络一次并且返回一次的过程称为一个epoch。

然而，当一个epoch对于计算机太过庞大时，就需要把它分成多个小块。

2 batch

在不能将数据一次性通过神经网络的适合，就需要将数据集分成几个batch。

3 batch_size

直观的理解

一个batch中的样本总数（一次训练所选取的样本数）。

batch_size的大小影响模型的优化程度和速度。同时其直接影响到GPU内存的使用情况，假如你GPU显存不大，该数值最好设置小一点。

提出batch_size的原因的原因

在没有使用Batch Size之前，这意味着网络在训练时，是一次把所有的数据（整个数据库）输入网络中，然后计算它们的梯度行反向传播，由于在计算梯度时使用了整个数据库，所以计算得到的梯度方向更为准确。但在这情况下，计算得到不同梯度值差别巨大，难以使用一个全局的学习率，所以这时一般使用Rprop这种基于梯度符号的训练算法，单独进行梯度更新在小样本数的数据库中，不使用Batch Size是可行的，而且效果也很好。但是一旦是大型的数据库，一次性把所有数据输进网络，肯定会引起内存的爆炸。所以就提出Batch Size的概念。

batch_size设置合适时的优点

1、通过并行化提高内存的利用率。就是尽量让你的GPU满载运行，提高训练速度。

2、单个epoch的迭代次数减少了，参数的调整也慢了，假如要达到相同的识别精度，需要更多的epoch。

3、适当batch_size使得梯度下降方向更加准确文章来源地址https://www.toymoban.com/news/detail-601718.html

到了这里，关于【目标检测】epoch、、batch、、batch_size理解的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！