以大模型重构云计算,百度智能云为繁荣AI原生应用生态操碎了心

这篇具有很好参考价值的文章主要介绍了以大模型重构云计算,百度智能云为繁荣AI原生应用生态操碎了心。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

临近2024年关,也到了2023年的总结时刻。

如果要问AI领域,2023年最不缺的是什么?“大模型”当仁不让。

那AI领域,2023年最缺的又是什么?一个答案可能是“卡”,但“卡”的问题,毕竟已有多种解决办法或者替代方案;另一个答案便是“应用”了,特别是基于大模型的AI原生应用。

而AI原生应用之所以匮乏,很大程度上一方面在于AI应用场景有待进一步激发,另一方面在于支持AI原生应用开发的资源和工具能否给力。

如何让开发者更专注于探寻AI创新应用场景,而不必焦虑于开发AI原生应用技术本身?

12月20日,在主题为“重构云计算·CLOUD FOR AI”为主题的2023百度云智大会·智算大会上,百度智能云给出了它的AI原生应用开发解法——百度智能云正在基于“云智一体”战略重构云计算服务,目前已完成从底层基础设施—大模型开发与应用—AI原生应用开发的端到端升级重构:全面升级百舸等20多个云计算基础设施、千帆大模型平台再升级、AI原生应用开发工作台“千帆AppBuilder ”全面开放。

大模型:正在重构云计算

“AI原生时代开启,大模型正在驱动云计算产业创新变革。”百度集团副总裁侯震宇表示:“大模型重构云计算主要体现在三个层面:AI原生云将改变云计算的格局,模型即服务(MaaS )会成为新的基础服务,AI原生应用催生新的研发范式 。”

以大模型重构云计算,百度智能云为繁荣AI原生应用生态操碎了心,重构,云计算,百度,语言模型

百度集团副总裁侯震宇

  1. 在云基础设施层,移动互联网时代的应用,底层大多依赖CPU算力,而AI应用对GPU或异构计算的需求大幅增加,云市场的底层算力需求将逐渐转向以GPU为主。
  2. 在模型层,大模型正在成为通用的服务能力,即MaaS。MaaS将大幅降低Al落地的门槛,实现真正的Al普惠。
  3. 在应用层,应用开发的范式已经被彻底颠覆。大模型理解、生成、逻辑、记忆的独特能力会催生A原生应用研发新范式,整个应用技术栈、数据流和业务流都将被改变。

侯震宇表示,总体来说,构建繁荣的A原生应用生态,需要大模型、智能算力、AI原生应用研发新范式三要素相辅相成。大模型是AI原生应用的“大脑”,智能计算则为A原生应用运行提供坚实支撑,新研发范式助力开发者高效基于大模型能力开发应用。数据飞轮是成功的AI原生应用的充分必要条件,让大模型能力高速迭代,产品体验持续进步。

以大模型重构云计算,百度智能云为繁荣AI原生应用生态操碎了心,重构,云计算,百度,语言模型

以大模型重构云计算基础设施,为开发者提供坚实底座

AI原生时代,面向大模型的云计算基础设施体系将全面重构。大会现场,百度智能云密集发布和升级了20多款云计算产品,涵盖智能计算、通用计算、数据基础设施、分布式云等领域。

在智能计算方面,发布百度百舸·AI异构计算平台3.0,针对AI原生应用以及大模型的训练、推理等环节进行了专项优化。百舸3.0在稳定、高效、易运维三个方面大幅升级产品能力,实现万卡级别任务有效训练时长达到98%以上,带宽有效性可达 95%。相比自建智算基础设施,可以实现模型训、推吞吐分别最高提升30%和60%。

以大模型重构云计算,百度智能云为繁荣AI原生应用生态操碎了心,重构,云计算,百度,语言模型

百度百舸3.0发布

同时,针对AI原生时代智能算力的供给平衡问题,百度智能云发布智算网络平台。在算力资源层面,智算网络平台支持将百度及第三方建设的智算中心、超算中心、边缘节点等智算节点进行全域接入,将分散和异构的算力资源连接起来,形成统一的算力网络资源池,再通过百度自主研发的算力调度算法,智能分析各类算力资源的状态、性能和利用率等指标,统一调度算力,让智算资源灵活、稳定、高效地交付给有需求的用户,实现智算资源的“南水北调”。

在通用计算方面,计算、存储、网络等云原生基础设施也需要面向AI原生时代重构升级,提供更具弹性、高性能和智能化的运维能力。本次大会,百度太行·计算新增了三款计算实例:全新推出第7代(通用计算型)云服务器实例G7,综合性能较上一代产品提升10%;发布昆仑芯弹性裸金属实例NKL5,搭载了百度自研的昆仑芯R300加速处理器,在大模型推理场景综合性能较业界主流加速卡可提升达50%;发布基于昇腾910B加速处理器打造的弹性高性能计算实例NH6T,在大模型训练场景中,综合性能较业界主流加速卡提升可达40%。同时,高性能计算平台CHPC(Cloud HPC)正式发布,为用户提供的一站式公共云 HPC 服务。在资源使用层面,CHPC支持用户一键创建高性能计算环境,并根据业务变化灵活使用云上资源;在业务应用层面,CHPC支持集成药物研发、基因测序等行业的应用。此外,结合集成在 VPC 内的百度网盘等服务,用户可以轻松实现HPC源文件从提交、上传、处理、结果回传,到分发的数据全链路打通,助力研发提效。

在数据基础设施领域,正式发布百度沧海·存储,统一技术底座,能够支持各类存储产品,同时满足AI原生时代的大规模、高性能、低成本的存储要求。全新升级的对象存储BOS、云磁盘CDS、并行文件存储PFS等产品,面向数据湖存储和AI存储能力进行了全面增强,加速智能计算,释放数据价值。同时,正式发布云原生数据库GaiaDB 4.0,增强并行查询能力,突破单机计算瓶颈,实现跨机多核并行查询,在混合负载和实时分析业务场景中性能提升超过10倍;针对不同的工作负载推出列存索引和列存引擎,提升不同规模数据的查询速度,其中列存引擎最大可支持 PB 级数据的复杂分析,并且与事务处理业务严格复杂隔离;通过共识协议优化、链路优化、自适应动态回放存储多版本等一些列数据流深度优化,大幅提升GaiaDB整体性能60%以上。

在分布式云方面,升级边缘计算节点BEC产品能力,打造全球统一的边缘计算网络和产品体验,打造AI原生应用时代能力最完善的“云边一体”;发布专有云ABC Stack新能力,支持本地部署百度智能云千帆大模型平台;发布本地计算集群LCC新能力,支持全新一代CPU/GPU实例以及完整的百度智能云AI&HPC集群管理能力,进一步丰富完善基础设施与云产品支持能力矩阵。

以千帆大模型平台,模型即服务(MaaS):千帆大模型平台再升级

在AI原生时代,大模型将作为新的通用服务能力,由模型即服务(MaaS)平台提供给广大用户。百度智能云千帆大模型平台(以下简称“千帆平台”)作为业界领先的MaaS服务平台,预置了包括百度文心大模型在内的、国内最多的54个主流基础大模型和行业大模型,还为大模型的持续预训练、精调、评估、压缩和部署等环节提供最完善易用的工具链,帮助客户针对自身业务场景快速定制专属大模型。相较于自建系统训练大模型,使用千帆平台训练的成本最高可以下降90%。

以大模型重构云计算,百度智能云为繁荣AI原生应用生态操碎了心,重构,云计算,百度,语言模型

百度智能云千帆大模型平台

目前,千帆平台已经累计服务超过40000家企业用户,精调近10000个大模型。本次智算大会,针对客户应用大模型最关心的“提效”和“降本”两大核心诉求,千帆平台发布一系列全新功能。
在数据方面,千帆平台提供完善、高效的大模型数据管理工具链,包括数据采集,清洗、自动标注、自动增强与推理数据多位评估等功能,助力用户快速构建自身业务“数据飞轮”,实现反馈驱动增长。全新发布的数据统计分析、数据质量检查等功能,支持用户获取全方位的数据洞察信息,结合数据清洗可视化Pipeline,能够构建出面向大模型场景的高质量数据燃料,为大模型训练“保驾护航”,千帆也因此成为国内首个支持大模型多方位数据分析的MaaS服务平台。

作为模型部署上线前的“最后一公里”,模型评估能够对大模型的输出效果、计算性能等进行全方位评估,确保大模型上线后AI原生应用的效果稳定可靠。千帆平台创新性地引入自动化与人工结合的双重评估机制,充分发挥双方优势,大幅提升模型评估效率与质量。一方面,百度文心大模型作为AI裁判员,能够对被评估模型的回答进行自动化打分,极大程度地减少海量重复性人工作业;另一方面,由数据标注员/业务专家对大模型回答进行打分,则能够实现对大模型回答质量的精细化衡量。

此外,千帆平台灵活的计价方式,如Tokens(适用灵活性要求较高的业务)、TPM(Tokens per Minute,适用于较大并发量业务)、批量计算(适用于离线内容生产等对实时性要求较低,吞吐较大的任务)、算力单元(适用于需要专享硬件部署模型的客户)等,可以轻松满足客户的多种业务场景需要,助力企业低成本用好大模型。

以AppBuilder开放服务,帮开发者加速AI原生应用开发

为了满足企业敏捷、高效地进行AI原生应用开发的需求,降低AI原生应用开发门槛,百度智能云千帆AppBuilder正式开放服务。
AppBuilder将大模型开发AI原生应用的常见模式、工具、流程,沉淀成一个工作台,帮助开发者聚焦业务本身,而无需为开发过程牵扯多余精力。具体来讲,AppBuilder主要由组件、框架两层服务构成。

组件服务由多模态的AI能力组件(如文字识别、文生图等)、基于大语言模型的能力组件(如长文总结、nl2sql等)、基础组件(如向量数据库、对象存储等)三部分组成,是对底层服务能力的组件化封装,让每个组件完成一个特定的功能。

框架服务则是通过将上述这些组件有选择地串联、组合起来,让它们能够比较完整地完成一个特定场景的任务。目前,AppBuilder提供的检索增强生成(RAG)、智能体(Agent)、智能数据分析(GBI)就是常用的AI原生应用框架。

AppBuilder提供两种产品形态,代码态与低代码态。对于有深度AI原生应用开发需求的用户,AppBuilder代码态提供包括SDK、开发环境、调试工具、应用示例代码等各种开发套件和应用组件;而AppBuilder低码态则提供可视化工具,用户只需简单点选,即可快速定制、上线AI原生应用。

以大模型重构云计算,百度智能云为繁荣AI原生应用生态操碎了心,重构,云计算,百度,语言模型

百度智能云千帆AppBuilder

百度创始人、董事长兼首席执行官李彦宏认为,繁荣的AI原生应用生态,会驱动经济增长。今年10月,百度智能云推出了国内首个大模型全链路生态支持体系,为合作伙伴提供包括赋能培训、AI原生应用孵化、销售商机、市场营销等全方位的支持,致力于繁荣AI原生应用生态。

侯震宇预判:“真正非常闪耀的AI原生应用会在2024年诞生,2024年将成为AI原生应用的元年,迎来AI原生应用的爆发式增长。百度智能云将持续推出有竞争力的产品方案,与伙伴一起深耕客户应用场景,让更多的AI原生应用创新涌现。”文章来源地址https://www.toymoban.com/news/detail-763857.html

到了这里,关于以大模型重构云计算,百度智能云为繁荣AI原生应用生态操碎了心的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 大模型重构云计算:AI原生或将改变格局

    摘要 :随着AI技术的快速发展,大模型正逐渐改变云计算的格局。本文将深入探讨大模型如何重构云计算,并分析其对云计算的影响。 一、开篇引言 近年来,人工智能技术的飞速发展,特别是大模型的崛起,正在对云计算领域产生深远的影响。在2023百度云智大会·智算大会

    2024年02月04日
    浏览(38)
  • 运营商AI机遇:以大模型拓展全新赛道

    东数西算正在成为各行业的普遍机遇,对于运营商来说也是如此。 东数西算带来了全新的算力网络建设需求,以及各行业普遍的网络升级需求。在这一大背景下,运营商还需要一系列细分的价值节点来推动业务进步,打开市场空间。换言之,东数西算的路有了,运营商接下来

    2024年02月11日
    浏览(64)
  • “科创中国”青百会轮值主席吴甜:以大语言模型为代表的AI将引发产业变革

    8月1日,“科创中国”青年百人会(后文简称青百会)联合百度举办“青·创·汇”高端对话,围绕人工智能技术创新与产业发展交流研讨,同时正式成立“科创中国”青年百人会女性工作委员会。该委员会将鼓励更多女性投身科技创新事业,为女性科技工作者提供展示交流平

    2024年02月14日
    浏览(39)
  • 大模型重构行业,百度网盘再度抢跑?

    随着ChatGPT爆火出圈,AI大模型逐渐渗透到各个行业和领域,诸多大厂也纷纷发布了自己的大模型产品。而在国内AI大模型的市场上,百度的文心大模型无疑是其中较为有名的一个。于是,在国内大厂都在探索如何在大模型时代取得更多优势时,百度大模型也不再局限于某个特

    2024年02月09日
    浏览(51)
  • 百度智能云发布国内首个AI原生应用商店,构建全链路大模型生态体系

    面向企业客户启动文心大模型4.0 API调用服务测试申请, 服务超过17000家客户,在各行各业的近500个场景中进行大模型应用落地探索 ……自今年3月面世以来,百度智能云千帆大模型平台作为全球首个一站式企业级大模型平台,为业界交出了唯一一份“满分成绩单”。 10月17日

    2024年02月07日
    浏览(51)
  • 从互联网到云计算再到 AI 原生,百度智能云数据库的演进

    如果说今年科技圈什么最火,我估计大家会毫不犹豫选择 ChatGPT。ChatGPT 是 2022 年 11 月 30 日由 OpenAI 发布的聊天应用。它创造了有史以来用户增长最快的纪录:自 11 月 30 日发布起,5 天就拥有了 100 万活跃用户,两个月就达到了一亿用户。对比其他热门应用,同样达到一亿用

    2024年02月04日
    浏览(51)
  • 【AI产品测评】垂直领域——AI智能招聘|拉钩招聘HrMind、科大讯飞星火大模型、百度文心一言、金山办公WPSAI 各显神通

    原文地址:【AI产品测评】垂直领域——AI智能招聘|拉钩招聘HrMind、科大讯飞星火大模型、百度文心一言、金山办公WPSAI 各显神通

    2024年02月16日
    浏览(47)
  • 百度文心一言宣布向全社会开放,同时还有全新重构的 AI 原生应用,哪些信息值得关注?...

    以下是值得关注的信息: 1. 百度文心一言向全社会开放:这意味着任何个人、组织或开发者都可以使用百度文心一言,而不仅限于百度内部使用。这将为更多人提供使用和开发百度文心一言的机会,可能带来更多创新和应用。 2. 全新重构的 AI 原生应用:百度文心一言可能经

    2024年02月09日
    浏览(51)
  • 明晚直播:可重构计算芯片的AI创新应用分享!

    大模型技术的不断升级及应用落地,正在推动人工智能技术发展进入新的阶段,而智能化快速增长和发展的市场对芯片提出了更高的要求:高算力、高性能、灵活性、安全性。可重构计算区别于传统CPU、GPU,以指令驱动的串行执行方式,采用数据流驱动下软硬件均可配置的空

    2024年02月15日
    浏览(40)
  • 重构云计算,打造 AI 原生时代的云计算产品与技术体系,实现 AI 零距离

    自 ChatGPT 大模型横空出世以来,文心一言、通义千问等诸多大模型接踵而来,感觉这个世界每天都在发生着翻天覆地的变化。 今年很有幸,参与了云栖的盛宴,当时被震惊到瞠目结舌,12 月 20 日百度云智能云智算大会,又给我一记重拳,这让我不由得开始重新评估 AI 与我们

    2024年02月04日
    浏览(49)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包