最近因为个人工作上的变动、更文频次降低了不少哈
本次博文为一份存稿、可能有些细节还需要补充、敬请查阅、指点
-
🍊 模型部署之转换-加速-封装
-
🍊 目标检测-模型部署 – 物有所值的一个 AI 工程化 落地专栏
📙 OpenVINO 前言介绍
近些年、云原生技术相关概念越来越火热,如何把 AI 模型 高效 落地应用到 物联网相关实际场景中,成为一个当下较为迫切能够进一步解放生产力的一项技术。
随着AI技术等对应用开发和功能实现的影响越来越大,这也就要求相关企业具备更强的AI开发能力,从数据收集、数据预处理、数据标注、模型训练、模型评估和模型部署等一系列任务,无一不考验着企业的AI模型精度和AI推理速度、AI 算力资源等AI开发、落地能力。
模型推理框架一览——模型部署不得不了解的罗马【一文读懂】
而各家大厂针对也大多针对自己产品和技术推出了相关的深度学习AI模型端侧推理框架帮助开发者们快速把训练好的AI模型落地到实际产品中。
OpenVINO是英特尔针对自家硬件平台开发的一套深度学习工具库,包含推断库,模型优化等等一系列与深度学习模型部署相关的功能。
OpenVINO™工具包是用于快速开发应用程序和解决方案的综合工具包,可解决各种任务,包括模拟人类视觉,自动语音识别,自然语言处理,推荐系统等。该工具包基于最新一代的人工神经网络,包括卷积神经网(CNN),循环和基于注意力的网络,可在英特尔®硬件上扩展计算机视觉和非视觉工作负载,从而最大限度地提高性能。它通过从边缘到云的高性能,人工智能和深度学习推理来加速应用程序。
OpenVINO是一个Pipeline工具集,同时可以兼容各种开源框架训练好的模型,拥有算法模型上线部署的各种能力,只要掌握了该工具,你可以轻松的将预训练模型在Intel的CPU上快速部署起来。
📙 OpenVINO 安装
1 . 基础信息
OpenVINO是英特尔推出的一款全面的工具套件,用于快速部署深度学习应用和解决方案
我的虚拟机 Linux 版本
cat /etc/issue
Ubuntu 20.04.2 LTS \n \l
2 . Install Protobuf 【基础依赖】
- 好处是,编译构建 时就会使用系统中的 Protobuf
- Found Protobuf: /usr/lib/x86_64-linux-gnu/libprotobuf.so;-pthread (found version “3.6.1”)
sudo apt-get install libprotobuf-dev protobuf-compiler
输出如下
Reading package lists... Done
Building dependency tree
Reading state information... Done
The following packages were automatically installed and are no longer required:
linux-headers-5.8.0-50-generic linux-hwe-5.8-headers-5.8.0-50 linux-image-5.8.0-50-generic linux-modules-5.8.0-50-generic linux-modules-extra-5.8.0-50-generic
Use 'sudo apt autoremove' to remove them.
The following additional packages will be installed:
libprotobuf-lite17 libprotoc17
The following NEW packages will be installed:
libprotobuf-dev libprotobuf-lite17 libprotoc17 protobuf-compiler
0 upgraded, 4 newly installed, 0 to remove and 0 not upgraded.
Need to get 1,960 kB of archives.
After this operation, 13.8 MB of additional disk space will be used.
Do you want to continue? [Y/n] y
...
Fetched 1,850 kB in 2min 35s (11.9 kB/s)
Selecting previously unselected package libprotobuf-lite17:amd64.
(Reading database ... 236473 files and directories currently installed.)
Preparing to unpack .../libprotobuf-lite17_3.6.1.3-2ubuntu5_amd64.deb ...
Unpacking libprotobuf-lite17:amd64 (3.6.1.3-2ubuntu5) ...
Selecting previously unselected package libprotoc17:amd64.
Preparing to unpack .../libprotoc17_3.6.1.3-2ubuntu5_amd64.deb ...
Unpacking libprotoc17:amd64 (3.6.1.3-2ubuntu5) ...
Selecting previously unselected package libprotobuf-dev:amd64.
Preparing to unpack .../libprotobuf-dev_3.6.1.3-2ubuntu5_amd64.deb ...
Unpacking libprotobuf-dev:amd64 (3.6.1.3-2ubuntu5) ...
Selecting previously unselected package protobuf-compiler.
Preparing to unpack .../protobuf-compiler_3.6.1.3-2ubuntu5_amd64.deb ...
Unpacking protobuf-compiler (3.6.1.3-2ubuntu5) ...
Setting up libprotoc17:amd64 (3.6.1.3-2ubuntu5) ...
Setting up protobuf-compiler (3.6.1.3-2ubuntu5) ...
Setting up libprotobuf-lite17:amd64 (3.6.1.3-2ubuntu5) ...
Setting up libprotobuf-dev:amd64 (3.6.1.3-2ubuntu5) ...
Processing triggers for man-db (2.9.1-1) ...
Processing triggers for libc-bin (2.31-0ubuntu9.2) ...
3 . Install OpenVINO Toolkit
官方提供多种安装下载方式
- https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit-download.html
方式一:可视化安装
这里选择命令行安装
查阅该文档进行这种方式的配置
- https://docs.openvino.ai/latest/openvino_docs_install_guides_installing_openvino_linux.html
Step 1: Install OpenVINO™ Toolkit Core Components
- 下载离线版安装包
l_openvino_toolkit_p_2021.4.689.tgz
需要 root 权限
tar -zxvf l_openvino_toolkit_p_2021.4.689.tgz
cd l_openvino_toolkit_p_2021.4.689/
sudo ./install_GUI.sh
# 或者
sudo ./install.sh
具体步骤截图说明如下【仅供参考】
- 步骤 1
- 步骤 2
- 步骤 3
- 步骤 4 【告诉我们默认会安装 list 】
- 步骤 5
- 步骤 6
- 步骤 7 查看安装位置
Step 2: Install External Software Dependencies【非必须步骤】
cd /opt/intel/openvino_2021/install_dependencies
sudo -E ./install_openvino_dependencies.sh
sudo -E ./install_prerequisites_onnx.sh
网速决定安装速度 | 我们也可以使用 Conda 搭建自己的环境
Step 3: Configure the Environment【配置环境变量】
cd /home/moli/
vi ~/.bashrc
添加如下一行命令
source /opt/intel/openvino_2021/bin/setupvars.sh
# 或者 使得 环境变量生效
source .bashrc
# 输出如下
[setupvars.sh] OpenVINO environment initialized
Step 4: Configure the Model Optimizer
sudo ./install_prerequisites.sh
Step 5: GET STARTED GUIDES【测试是否成功】
- Getting Started with One-Command Demo
这一部分参考官方链接,网络顺利,基本都可运行成功
https://docs.openvino.ai/2021.4/openvino_docs_get_started_get_started_scripts.html
cd /opt/intel/openvino_2021/deployment_tools/demo
eog car.png
Python 环境安装命令
pip install openvino
# 或者
pip install openvino-dev
方式二:源码编译安装
官方安装教程链接
https://github.com/openvinotoolkit/openvino/wiki/BuildingForLinux
本次安装是在自己的虚拟机中进行
git clone https://github.com/openvinotoolkit/openvino.git
cd openvino
git submodule update --init --recursive
这一步会补充下载一些可能用到的依赖库,根据网络情况,可能会部分下载失败
chmod +x install_build_dependencies.sh
./install_build_dependencies.sh
## 运行输出如下
Get:1 http://security.ubuntu.com/ubuntu focal-security InRelease [114 kB]
Hit:2 http://us.archive.ubuntu.com/ubuntu focal InRelease
Fetched 114 kB in 2s (60.0 kB/s)
Reading package lists... Done
Building dependency tree
Reading state information... Done
mkdir build && cd build
cmake -DCMAKE_BUILD_TYPE=Release -DENABLE_CLDNN=OFF ..
make --jobs=$(nproc --all)
📙 预祝各位 前途似锦、可摘星辰
- 🎉 作为全网 AI 领域 干货最多的博主之一,❤️ 不负光阴不负卿 ❤️
- ❤️ 如果文章对你有帮助、点赞、评论鼓励博主的每一分认真创作
- 🍊 深度学习模型训练推理——基础环境搭建推荐博文查阅顺序【基础安装—认真帮大家整理了】——【1024专刊】
计算机视觉领域 八大专栏、不少干货、有兴趣可了解一下
- ❤️ 图像风格转换 —— 代码环境搭建 实战教程【关注即可阅】!
- 💜 图像修复-代码环境搭建-知识总结 实战教程 【据说还行】
- 💙 超分重建-代码环境搭建-知识总结 解秘如何让白月光更清晰【脱单神器】
- 💛 YOLO专栏,只有实战,不讲道理 图像分类【建议收藏】!
-
🍊 深度学习:环境搭建,一文读懂
-
🍊 深度学习:趣学深度学习
-
🍊 落地部署应用:模型部署之转换-加速-封装
-
🍊 CV 和 语音数据集:数据集整理
-
📆 最近更新:2021年10月31日
-
🍊 点赞 👍 收藏 ⭐留言 📝 都是博主坚持写作、更新高质量博文的最大动力!文章来源:https://www.toymoban.com/news/detail-443286.html
文章来源地址https://www.toymoban.com/news/detail-443286.html
到了这里,关于Ubuntu20安装并配置OpenVINO【图文教程】的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!