当英特尔 OpenVINO 遇上微软 Azure,AI在边云协同的新方案

这篇具有很好参考价值的文章主要介绍了当英特尔 OpenVINO 遇上微软 Azure,AI在边云协同的新方案。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

作者 | 宋慧

出品 | CSDN云计算

数字化浪潮下,越来越多的终端 IoT 设备接入网络,边缘的数据量与分析需求也随之增加。根据 Eclipse 对边缘负载的分析显示,人工智能是边缘计算中占比最高的负载之一,高于控制逻辑、数据分析等负载所占比例。

凭借企业级至强系列处理器,在云计算的基础设施中处于核心位置的英特尔,对于边缘计算领域也一直在不停地积累和实践。现在,芯片巨头英特尔和云领域的巨头微软 Azure 携起手来,一起打造了从边缘到云端的 AI 完整方案,详细了解后,不能不感叹方案的完整与强大。

当 OpenVINO™ 遇上 Azure

当英特尔 OpenVINO 遇上微软 Azure,AI在边云协同的新方案

 英特尔边缘到云的 AIoT 架构图,囊括英特尔重磅软硬件产品组合

从上面的架构图我们能看到,AI 在边缘和云的方案囊括了英特尔在 CPU、GPU 的硬件产品,软件层面则是英特尔 AI 工具包 OpenVINO™。而微软 Azure 提供了在边缘端和云中心端的资源支持,以及 AI 训练模型,还有数据可视化等能力。

当英特尔 OpenVINO 遇上微软 Azure,AI在边云协同的新方案

微软 AI 能力的产品矩阵图

另外,从微软的角度,除了 Azure 在云领域的优势,微软 Azure 的机器学习平台 AML(Azure Machine Learning),整合了微软在软件和企业级应用各层的优势,OpenVINO™ 则提供和补充了更丰富的机器学习预训练模型,补充了微软 AML 平台的 AI 实力。最终,微软希望在 AML 平台上,通过自动机器学习、拖放式、代码工具 notebook 等等功能,简化 AI 的使用难度,在软件工程师和数据科学家等专业 IT 人员之外,AI 相关的业务人员也可以成为机器学习平台的重要的使用者。

现在,英特尔的 AIoT 方案已经应用到了医疗、工业、教育、安防等各类重要的行业中。例如中国两癌筛查中的宫颈癌病理筛查方案,将 LBP 涂片识判断数字化、自动化和智能化,平均精度达到 91%-98.6%,漏检率小于 4%。以往人工诊断一张切片平均耗时约 15-20 分钟,基于 Intel Xeon 平台的人工智能诊断耗时约 30 秒/张。再例如工业质检中使用 AI 实时产品缺陷检测,也是完整的云边端架构下,实现每个工位每秒钟采集 400 多张图片,对各类质量问题的检测准确度已经降低到 1PPM 缺陷率之下。在园区或居民区安防的 AI 视频监控,通过肢体特征、运动规律、行为逻辑等 40 多种算法,能处理分析出私闯、闲逛、乱丢垃圾、电瓶车上楼、高空抛物、意外摔倒、打架冲突、撞车、违规停车等等多种异常行为和危险情况。

对开发者友好的 OpenVINO™

从 IoT 领域成长起来的开放视觉推理和神经网络优化工具包 OpenVINO™,是英特尔在 AI 领域的重磅软件产品。而在英特尔与微软合作的边缘 AIoT 方案里,OpenVINO™ 也发挥了重要的作用。

OpenVINO™ 工具包已经适配和支持了多种机器学习平台,以及各类系统和 Intel 自家的 CPU、GPU、VPU 芯片。OpenVINO™ 还有丰富的模型库,自身已有 270 多个预训练模型,另外,OpenVINO™ 和飞桨合作适配的模型已经超过了 400 个。

当英特尔 OpenVINO 遇上微软 Azure,AI在边云协同的新方案

另外在英特尔开发者生态的大战略下,OpenVINO™ 也切实做到对开发者友好的各类特性和服务。开发者使用 OpenVINO™,甚至可以最少使用七行代码,就能完成一个推理的过程。


当英特尔 OpenVINO 遇上微软 Azure,AI在边云协同的新方案

机器学习应用深入了各行业,也产生了多种硬件平台共存的情况,OpenVINO™ 最新支持了这类多硬件平台的开发场景,可以自动更换硬件设备。另外,OpenVINO™ 还在持续优化对 GPU 推理的加速,以及对吞吐量和时延要求不同的模型自动选择,以保证推理性能优先。

当英特尔 OpenVINO 遇上微软 Azure,AI在边云协同的新方案

 OpenVINO Notebook 在 Azure 上的代码示例

另外,OpenVINO™ 也为开发者提供了丰富的代码示例供参考,例如模型优化器、压缩工具,一些常规深度学习场景和图像分类,以及如笔记本外接摄像头等数据采集设备的接入和调试的代码。

英特尔从芯片的绝对领导地位,到现在重申了开发者生态的战略。而本次的从云到边缘的 AIoT 方案,两家巨头的携手,软硬件的联动,共同打磨 AI 在边缘的方案案例,以及大量开发者所服务的特性研发,能看到英特尔在技术创新和开发者生态上切实地投入和探索,值得行业参考与关注。CSDN 也将持续关注和报道人工智能在边缘领域的最新进展与应用实践。文章来源地址https://www.toymoban.com/news/detail-464752.html

到了这里,关于当英特尔 OpenVINO 遇上微软 Azure,AI在边云协同的新方案的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 基于英特尔® Gaudi® 2 AI 加速器的文本生成流水线

    随着生成式人工智能 (Generative AI,GenAI) 革命的全面推进,使用 Llama 2 等开源 transformer 模型生成文本已成为新风尚。人工智能爱好者及开发人员正在寻求利用此类模型的生成能力来赋能不同的场景及应用。本文展示了如何基于 Optimum Habana 以及我们实现的流水线类轻松使用 Ll

    2024年03月14日
    浏览(37)
  • Ubuntu Linux 22.04 快速安装英特尔显卡驱动(含Edge AI 包)

    英特尔 EIV (Edge insight Vision)具有一组预集成组件,专为边缘应用的计算机视觉和深度学习推理而设计,并针对英特尔®架构进行了优化。它作为容器化架构或独立运行时实现。 此软件包包含用于在英特尔处理器和英特尔显卡设备上安装英特尔®显卡驱动程序和为 OpenVINO™ 推理

    2024年02月08日
    浏览(46)
  • 英特尔集成显卡+ChatGLM3大语言模型的企业本地AI知识库部署

    作者: 英特尔创新大使 刘力 英特尔开发者技术推广经理 李翊玮     在当今的企业环境中,信息的快速获取和处理对于企业的成功至关重要。为了满足这一需求,我们可以将RAG技术与企业本地知识库相结合,以提供实时的、自动生成的信息处理和决策支持。这将有助于企业

    2024年04月26日
    浏览(44)
  • 基于英特尔开发套件的实时AI图像处理技术的茶叶病害监测物联网系统

    作者: 浙江大学 刘兆隆 文章指导:罗雯,李翊玮 随着茶叶产业的快速发展,茶叶的品质和安全性日益受到人们的关注。茶叶植株在生长过程中容易受到各种病虫害的侵害,这不仅会影响茶叶的产量,还会严重影响茶叶的品质。传统的茶叶病虫害诊断主要依赖于农民的经验判

    2024年04月28日
    浏览(35)
  • 使用FastDeploy在英特尔CPU和独立显卡上端到端高效部署AI模型

    目录 1.1 产业实践中部署AI模型的痛点 1.1.1  部署模型的典型流程 1.1.2 端到端的AI性能 1.1.3 部署模型的难点和痛点 1.2 FastDeploy简介 1.3 英特尔独立显卡简介 1.4 使用FastDeploy在英特尔CPU和独立显卡上部署模型的步骤 1.4.1 搭建FastDeploy开发环境 1.4.2 下载模型和测试图处 1.4.3 三行代

    2024年02月01日
    浏览(42)
  • 【文末附gpt升级4.0方案】英特尔AI PC的局限性是什么

    英特尔AI PC的推出无疑为AIGC(生成式人工智能)的未来发展开启了一扇新的大门。这种新型的计算机平台,通过集成先进的硬件技术和优化的软件算法,为AIGC提供了更为强大和高效的支持,进一步推动了人工智能的落地和应用。 首先,英特尔AI PC的出色性能为AIGC提供了坚实

    2024年04月15日
    浏览(36)
  • 如何在Linux系统下安装英特尔 Arc系列独立显卡驱动以及进行AI推理性能测试

    作者:  周兆靖         目前,英特尔®推出了包括了Arc™家族A770,A750在内的多个桌面版本的独立显卡(discrete Graphic Processing Unit,简称dGPU)供玩家与开发者进行选择。鉴于很多消费者都是初次体验Intel®的独立显卡,在Linux * 系统下对于显卡驱动的下载与安装并不熟悉,

    2024年02月05日
    浏览(52)
  • 越小越好: Q8-Chat,在英特尔至强 CPU 上体验高效的生成式 AI

    大语言模型 (LLM) 正在席卷整个机器学习世界。得益于其 transformer 架构,LLM 拥有从大量非结构化数据 (如文本、图像、视频或音频) 中学习的不可思议的能力。它们在 多种任务类型 上表现非常出色,无论是文本分类之类的抽取任务 (extractive task) 还是文本摘要和文生图像之类的

    2024年02月06日
    浏览(89)
  • 第三代英特尔 至强 可扩展处理器(Ice Lake)和英特尔 深度学习加速助力阿里巴巴 Transformer 模型性能提升

    第三代英特尔® 至强® 可扩展处理器采用了英特尔10 纳米 + 制程技术。相比于第二代英特尔® 至强® 可扩展处理器,该系列处理器内核更多、内存容量和频率更高。阿里巴巴集团和英特尔的技术专家共同探索了这些能力对人工智能应用的意义,特别是在与英特尔® 深度学习加

    2024年02月16日
    浏览(31)
  • 英特尔开始加码封装领域 | 百能云芯

      在积极推进先进制程研发的同时,英特尔正在加大先进封装领域的投入。在这个背景下,该公司正在马来西亚槟城兴建一座全新的封装厂,以加强其在2.5D/3D封装布局领域的实力。据了解,英特尔计划到2025年前,将其最先进的3D Foveros封装产能扩增至目前的四倍,同时还向客

    2024年02月11日
    浏览(29)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包