前言
MaixHub虽然可以在线训练模型,但是数据集限制大小为20M以下,而且大多数时候都需要排队才能训练模型,这可能就不能满足我们对模型的需求,所以我在Windows系统下搭建环境,本地训练模型。对于本地训练的纯小白来说,虽然MaixHub本地训练不需要虚拟机,但是还是要严格按照教程的步骤一步步来。不然很容易出错。
一、环境配置
1.安装python3.8
这里推荐安装python3.8,由于python3.9有一些不知名问题导致了环境可能会配置失败。点击下载python3.8。双击打开python3.8安装包,勾选如图所示,然后Install Now即可。
安装完成后win+r打开命令窗口,输入Python检测是否安装成功,显示这个则是安装成功。
2.安装pip
因为在安装python3.8时已经默认安装pip了,所以这里不需要在另外安装pip,可以通过 pip list来查看python上安装了的包。这个警告是提醒当前pip不是最新版,可以不用管它。
3.安装CUDA10.1
打开cuda10.1下载的链接,选择对应的系统版本和下载方式
下载好的安装包,直接打开,然后一直点下一步就好了。
注意:如果电脑其它版本的CUDA,可以参考这个方法来选择指定CUDA《windows一个显卡配置多个CUDA版本》
安装完成后可以在系统变量中是否已经包含这两个路径。
4.安装CUDNN
点击这里进入到cudnn的下载官网,选择cudnn v7.6.5.32 for cuda 10.1的版本进行下载,
下载之后会得到一个cudnn-10.1-windows10-x64-v7.6.5.32.zip的压缩包,将其解压。得到三个文件夹
都复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1文件下面。这时CUDA的环境已经配置好了。
5.tensorflow安装
tensorflow-gpu 2.3.0版本对于cuda版本有点严格,cuda版本必须是10.1版本,cudnn是 10.1 V7.**版本,不然是不能使用GPU进行训练。
win+r,输入cmd,打开命令行输入
pip install tensorflow-gpu==2.3.0
如果下载的很慢,请输入
pip install tensorflow-gpu==2.3.0 -i https://pypi.mirrors.ustc.edu.cn/simple
6.MaixHub本地训练代码下载
到这里下载本地训练代码,进入连接之后,可以通过git命令进行下载,或者是点击Download ZIP进行下载压缩包。将压缩包解压,任何位置都都可以,只要你记得解压到哪里了。然后下载 ncc-win7-x86_64 并解压,就会得到一个叫ncc-win7-x86_64的文件夹,将这个文件夹名字修改为ncc_v0.1。再将这个文件夹的复制到maix_train/tools/ncc文件夹下面。(如果没有ncc这个文件夹就创建一个,路径一定要对的上)
ncc路径创建
二、本地训练使用步骤
1.安装依赖
打开解压后得到的文件夹,打开里面的 requirements.txt 文件,将里面的 tensorflow>=2.3.1 删除,保存关闭。
win+r,输入cmd,进入文件夹保存路径后输入
pip install -r requirements.txt
如果下载速度很慢的话,可以使用中科大源来进行下
pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/
2.数据集准备
数据集的准备和MaixHub在线训练差不多,具体可以看《K210学习笔记(十一)——MaixHub在线训练模型(在线炼丹)》
3.开始训练
先进行初始化
python train.py init
将数据集放到本地训练源码中的datasets文件夹中,
分类训练输入
python train.py -t classifier -z datasets/test_classifier_datasets.zip train
如果是没有压缩的文件夹,则输入
python train.py -t classifier -d datasets/test_classifier_datasets train
目标检测输入
python train.py -t detector -z datasets/test_detector_xml_format.zip train
注意:这里输入的命令中,在datasets/后面加的是你自己的所制作的数据集名字。
像我的数据集名字为datasets.zip,则我开始目标检测训练代码为:
python train.py -t detector -z datasets/datasets.zip train
输入代码后就可以开始训练了。训练完之后就会得到一个out的文件夹,里面的文件就是训练之后得到的模型。
三、训练中可能出现的问题
1.版本错误
这是包的版本对应不上导致的,下载对应版本的即可,比如:
pip install numpy==1.19.0
pip install tifffile==2021.6.14
pip install imageio==2.9.0
2.显存不足
出现这个报错
2022-04-21 16:50:38,364 - [ERROR]: failed: TrainFailReason.ERROR_INTERNAL, error occurred when train, error: Failed to get convolution algorithm. This is probably because cuDNN failed to initialize, so try looking to see if a warning log message was printed above.
原因是因为显存不足引起,可以直接在文件中加入如下代码,让tensorflow自动进行显存分配(本人电脑太拉了,就报这个错)
在D:\maix_train\maix\train\classifier(训练代码存放路径)中的__init__.py中找到
在import语句后加入代码:
from tensorflow.compat.v1 import ConfigProto
from tensorflow.compat.v1 import InteractiveSession
config = ConfigProto()
config.gpu_options.allow_growth = True
session = InteractiveSession(config=config)
在D:\maix_train\maix\train\detector中的__init__.py中找到
在import语句后加入代码:
from tensorflow.compat.v1 import ConfigProto
from tensorflow.compat.v1 import InteractiveSession
config = ConfigProto()
config.gpu_options.allow_growth = True
session = tf.compat.v1.Session(config=config)
再次运行训练任务,问题解决。
3.训练完成后没有生成压缩包
这个原因是因为,maix_train/tools/ncc/ncc_v0.1路径没有设置好,或者下载的不是ncc-win7-x86_64。
4.判断是否在用GPU进行训练
1.启动训练的查看是否出现答应出这些信息,并都是和下图框出来的一样的
如果没有,则说明你的前面的cuda和cudnn环境没有安装好,请将所有关于英伟达的软件驱动进行卸载,是卸载!!!不是将文件删除。然后再重新进行cuda和cudnn的环境配置。
2.在任务管理器中查看,GPU 的显存有没有被使用到,而不是看显卡的利用率
3.训练刚开始出现的 no GPU,will use CPU 只是一个提示信息而已,并不是没有使用到
4.看看笔记本有没有起飞(手动狗头)。
5.训练中出现Internal: no kernel image is available for execution on the device
环境需要重新安装,tensorflow安装版本没有对上
6.出现failed: TrainFailReason.ERROR_PARAM, datasets not valid: datasets format error: datasets error, not support format, please check
这种就是没有严格的安装数据集要求来进行制作,检查你的文件夹名字,就可以解决的了,特别是images这个文件夹,容易少了个s。文章来源:https://www.toymoban.com/news/detail-425604.html
总结
MaixHub本地训练如果不严格按照步骤进行的话,还是很容易出错的,比如我在安装CUDA的时候就卡了很久,原因是我更改了安装路径,导致安装路径被电脑自动删除了,第n次之后一直点下一步就没有这个问题了。学到这里对MAIX BIT(K210)已经有了初步的了解,用来比赛、做毕设应该是没有任何问题了,后面再更新MAIX BIT(K210)的学习笔记,可能就是MaixHub本地训练模型(Linux)和一些用k210进行实战的项目(奈何学生党一个,没有票子去买配件)。
文章来源地址https://www.toymoban.com/news/detail-425604.html
到了这里,关于K210学习笔记(十二)——MaixHub本地训练模型(Windows)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!