英伟达推出新的 AI 芯片和软件:我们要做像苹果或微软一样的公司

这篇具有很好参考价值的文章主要介绍了英伟达推出新的 AI 芯片和软件:我们要做像苹果或微软一样的公司。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

  • 英伟达周一宣布推出新一代人工智能芯片和用于运行人工智能模型的软件。

  • 新的人工智能图形处理器被命名为Blackwell,预计将于今年晚些时候发售。

  • 这一消息发布之际,各公司和软件制造商仍在争先恐后地购买当前一代的 H100 和类似芯片。


nvidia inference microservices,热门技术,人工智能,大数据,机器人,rpa,自然语言处理,ai

刚刚,英伟达宣布推出新一代人工智能芯片和用于运行人工智能模型的软件。这一消息是在圣何塞举行的开发者大会上宣布的,英伟达公司正寻求巩固其作为人工智能公司首选供应商的地位。

自 2022 年底 OpenAI 的 ChatGPT 掀起人工智能热潮以来,英伟达股价上涨了五倍,总销售额增长了两倍多。英伟达的高端服务器 GPU 对于训练和部署大型 AI 模型至关重要。像微软已花费了数十亿美元用于购买芯片。

新一代 AI 图形处理器被命名为 Blackwell。第一款 Blackwell 芯片称为 GB200,将于今年晚些时候发售。

01 不只卖芯片,还卖软件

英伟达正在用更强大的芯片来吸引客户,以刺激新订单。例如,公司和软件制造商仍在争先恐后地获得当前一代的“Hopper”H100 和类似芯片。

“Hopper 太棒了,但我们需要更大的 GPU,”英伟达首席执行官黄仁勋在加州举行的公司开发者大会上表示。

该公司还推出了名为 NIM 的创收软件,该软件将使人工智能的部署变得更加容易,为客户提供了另一个理由,让他们在不断增长的竞争对手中坚持使用英伟达芯片。

英伟达高管表示,我们不再是一个唯利是图的芯片提供商,而更像是一个平台提供商,就像微软或苹果一样,其他公司可以在平台上构建软件。

“Blackwell 不是芯片,而是一个平台的名称,”黄说。

英伟达企业副总裁 Manuvir Das 在接受采访时表示:“可销售的商业产品是 GPU,而软件都是为了帮助人们以不同的方式使用 GPU。” “当然,我们仍然这样做。但真正改变的是,我们现在真正拥有了商业软件业务。”

Das 表示,英伟达的新软件将使在任何 Nvidia GPU 上运行程序变得更加容易,甚至是那些可能更适合部署但不适合构建人工智能的旧 GPU。

“如果你是一名开发人员,你有一个有趣的模型,希望人们采用,如果你将它放入 NIM 中,我们将确保它可以在我们所有的 GPU 上运行,这样你就能接触到很多人, ”Das 说道。

nvidia inference microservices,热门技术,人工智能,大数据,机器人,rpa,自然语言处理,ai

02 Blackwell GPU 功能很强大,但也很贵

英伟达每两年更新一次 GPU 架构,实现性能的大幅提升。去年发布的许多人工智能模型都是在该公司的 Hopper 架构上进行训练的,该架构由 H100 等芯片使用,该架构于 2022 年发布。

英伟达表示,基于 Blackwell 的处理器(例如 GB200)为 AI 公司提供了巨大的性能升级,其 AI 性能为 20 petaflops,而 H100 为 4 petaflops。英伟达表示,额外的处理能力将使人工智能公司能够训练更大、更复杂的模型。

该芯片包括英伟达所谓的变压器引擎,专门用于运行基于变压器的人工智能,这是支撑 ChatGPT 的核心技术之一。

Blackwell GPU 很大,将两个单独制造的芯片组合成一颗由台积电制造的芯片。它还将作为一个名为 GB200 NVLink 2 的完整服务器提供,结合了 72 个 Blackwell GPU 和其他旨在训练 AI 模型的英伟达部件。


nvidia inference microservices,热门技术,人工智能,大数据,机器人,rpa,自然语言处理,ai

亚马逊、谷歌、微软和甲骨文将通过云服务出售 GB200 的访问权限。GB200 将两个 B200 Blackwell GPU 与一个基于 Arm 的 Grace CPU 配对。

英伟达表示,亚马逊网络服务将构建一个包含 20,000 个 GB200 芯片的服务器集群。该系统可以部署27万亿参数的模型。这甚至比最大的模型(例如 GPT-4)还要大得多,据报道 GPT-4 有 1.7 万亿个参数。

许多人工智能研究人员认为,具有更多参数和数据的更大模型可以释放新功能。

英伟达没有提供新 GB200 或它所使用的系统的成本。据分析师估计,英伟达基于 Hopper 的 H100 每个芯片的成本在 25,000 美元到 40,000 美元之间,整个系统的成本高达 200,000 美元。


nvidia inference microservices,热门技术,人工智能,大数据,机器人,rpa,自然语言处理,ai

03 Nvidia 推理微服务

英伟达还宣布在企业软件订阅中添加一款名为 NIM(Nvidia Inference Microservice)的新产品。

NIM 使使用旧版 Nvidia GPU 进行推理或运行人工智能软件的过程变得更加容易,并将允许公司继续使用他们已经拥有的数亿个 Nvidia GPU。

与新人工智能模型的初始训练相比,推理所需的计算能力更少。NIM 使想要运行自己的 AI 模型的公司能够使用,而不是从 OpenAI 等公司购买 AI 结果作为服务。

该策略是让购买基于英伟达的服务器的客户注册 Nvidia enterprise,每个 GPU 每年的许可费用为 4,500 美元。

英伟达将与微软或 Hugging Face 等人工智能公司合作,确保他们的人工智能模型能够在所有兼容的英伟达芯片上运行。然后,使用 NIM,开发人员可以在自己的服务器或基于云的 Nvidia 服务器上高效地运行模型,而无需冗长的配置过程。

“在我的代码中,当我调用 OpenAI 时,我将替换一行代码,将其指向我从 Nvidia 获得的 NIM,”Das 说。

英伟达表示,该软件还将帮助人工智能在配备 GPU 的笔记本电脑上运行,而不是在云端服务器上运行。文章来源地址https://www.toymoban.com/news/detail-850384.html

到了这里,关于英伟达推出新的 AI 芯片和软件:我们要做像苹果或微软一样的公司的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 英伟达推出免训练,可生成连贯图片的文生图模型

    目前,多数文生图模型皆使用的是随机采样模式,使得每次生成的图像效果皆不同,在生成连贯的图像方面非常差。 例如, 想通过AI生成一套图像连环画,即便使用同类的提示词也很难实现 。虽然DALL·E 3和Midjourney可以对图像实现连贯的生成控制,但这两个产品都是闭源的。

    2024年02月22日
    浏览(29)
  • 伙伴云CEO戴志康:我们为什么要做伙伴云?

    分享嘉宾: 戴志康,伙伴云CEO 以下为演讲实录⬇⬇⬇ 01选择人更少的一条路,从B级走向A级 我一直想和大家交流一个话题,关于我们为什么要做伙伴云。既代表我自己,同时也代表我们团队的一些想法。 我是一个怀疑论者。大多数人公认正确的事情,就一定是正确的吗?这

    2024年02月16日
    浏览(31)
  • 英伟达H100算力出租,Punkhash探索AI无限,GB200/H800算力租赁解决方案GPU算力租赁成本揭秘史上最贵芯片Nvidia H100是什么?

    英伟达(NVIDIA)一直是人工智能(AI)领域的领先者之一,其GPU产品在深度学习、科学计算和数据处理等方面展现了卓越的性能和能力。H100系列是英伟达专为AI计算而设计的一款顶级GPU,具备强大的计算性能和丰富的深度学习加速功能。在本文中,我们将对H100系列的三个不同

    2024年04月26日
    浏览(39)
  • ChatGPT之后我们要做什么?丨文本生成中的知识和控制

    导读 ChatGPT出现后,语言理解与生成质量较之前有显著提升,但在知识性、逻辑性、可控性、可解释性方面仍然存在一些问题。 如何让现有的聊天机器人拥有人类对话中丰富的先验知识?如何让生成的回复具有更强的交互性? 针对这些问题,青源Talk第33期邀请到来自南京航空

    2023年04月14日
    浏览(28)
  • 作为微软开发者官方号,我们又要做点特别的事情了

    在“感谢”二字最容易说出口的日子 谢谢每一个你,像一颗颗星星一样 点亮 MSDN 微软开发者社区的技术宇宙 我们也将在这个最值得感谢的日子 做一点特别的事情 MSDN 微软开发者社区已经成立快10年了 ,相信有很多资深开发者都知道微软的老 MSDN 网站,现在开发者相关的资讯

    2024年02月09日
    浏览(25)
  • 妙鸭相机推出AI修图,修图软件们慌了吗?

    “这才是真正的科技与狠活吧,闭眼照都能修好。”最近,木木迷上了“AI修脸”。 先上传至少15张照片,生成一个数字分身,随后打开AI修脸选项,上传要修的图片,就可以坐等收图了。即便是闭眼照,或是表情不够理想,都能得到“换脸”的效果。 不仅是木木,各大社交

    2024年01月21日
    浏览(23)
  • AI低代码开发宣言:一场新的软件工程革命

    引言:AI低代码开发不仅是继面向过程,面向对象之后的一种新的抽象方式,也是继瀑布开发,敏捷开发之后的一种新的开发方法。       正是计算机技术的起步阶段,软件的基础设施正在建立,如操作系统,数据库,互联网底层协议等,软件正在从简单走向复杂。人们发现

    2024年02月08日
    浏览(38)
  • 吴军长文讲解算力:全球算力竞争中我们要做的三件事

    这两天看到吴军的一段访谈,绝对是在算力这个话题领域中最深入浅出的一篇讲解了,把算力的概念、演进趋势,再到与经济发展如何挂钩、中国算力产业的发展方向,做了一个非常完整的梳理。 其中,吴军提到了算力竞争中,中国算力产业应该做的三件事:一是建设基础设

    2024年01月17日
    浏览(40)
  • 企业为什么要做自动化测试?我们该如何学习自动化测试?

    作为一名大厂测试开发,编写自动化脚本,俨然成为一种必备的技能。 为什么要做自动化测试? 那企业或者是我们测试人员为什么要做自动化测试呢? 如果在前两年,可能10个测试员有6个都是做的功能测试,但随着测试技术的发展以及测试工作的深入,传统的手工测试已经

    2024年02月10日
    浏览(40)
  • 软件工程师,AI手机元年到来,我们怎么办

    概述         OPPO创始人、总裁、CEO陈明永在2024年2月18日发表了名为《开启AI手机新时代》的内部信。陈明永认为:“2024年是AI手机元年。未来五年,AI对手机行业的影响,完全可以比肩当年智能手机替代功能机”。他预测AI手机时代将成为继功能机、智能手机之后,手机行

    2024年02月21日
    浏览(43)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包