本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票

这篇具有很好参考价值的文章主要介绍了本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

来源 | 算力豹

本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票,人工智能,电脑

200亿个大模型参数无压力,新一代酷睿Ultra凭什么?

12月14日报道,在大模型军备竞赛如火如荼的今天,真正让AI铺开惠民,那么移动端、PC将成为首选,AI PC或成标配。英特尔今日奉上AI硬件大招,正式推出AI PC处理器代号Meteor Lake的酷睿Ultra处理器。

01

本地部署生成式AI,

买显卡还是买笔记本电脑?

最近AI PC的概念炒得很火,PC产业能否乘着生成式AI的技术浪潮而迎来新一轮的发展呢?

这在很大程度上取决于人们在本地电脑上运行生成式AI模型的需求

在本地电脑上运行生成式AI应用,在隐私安全管理、自定义程度、网络状况依赖和成本可控方面都有优势。

英特尔酷睿Ultra处理器改变了个人电脑仅依靠CPU就运行大语言模型的现状,是产业技术生态的一次大的变化。

在发布会上,英特尔发言人宣称英特尔酷睿Ultra处理器甚至可以运行200亿参数的大语言模型,而在此前,这种规模参数的模型都需要大容量显存的独立显卡才能完成。

本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票,人工智能,电脑

考虑到实际体验,需要模型能快速完成推理。

从介绍中了解到,英特尔酷睿Ultra处理器可以在1秒内生成512x512分辨率的图片,在6秒内生成1024x1024分辨率的图片,速度甚至超过依靠中端GPU来运行Stable Diffusion模型的性能表现。

对于用户来说,此前不得不购买一块中高端,有大容量的独立显卡才能在本地运行相关模型,而现在,这些用户可以在台式机上购置中高端显卡,与买一台带有英特尔酷睿Ultra处理器的笔记本电脑之间做出选择。

02

核显性能翻倍 智能分配工作负载

全力支持智能混合算力

给人们的工作、学习和生活带来全新的价值体验的个人大模型,应该是可以用自然语言交互、具备智能混合算力、开放生态的私人个性化模型,这种大模型无疑需要质量极优的智能混合算力

本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票,人工智能,电脑

为满足AI PC市场对算力的要求,据英特尔描述,首批酷睿Ultra系列处理器包括U和H两个系列,基础功耗分别为15W和28W,其中:

  • U系列为2+8+2核心规格,最高4Xe核显
  • H系列最高6+8+2核心规格,最高8Xe核显

明年第一季度,英特尔还将发布基础功耗45W的Ultra9旗舰型号,6+8+2核心规格,8Xe核显。

本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票,人工智能,电脑

此次发布会上,英特尔相关人员补充描述到:“酷睿Ultra是英特尔处理器家族中目前能效比最好的产品,这得益于我们对混合架构的全新设计。”

本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票,人工智能,电脑

据英特尔中国区技术部总经理高宇描述,英特尔为酷睿Ultra创新设计了P核(Performance-core,性能核)与E核(Efficient-core,能效核),还在SoC模块中集成了两个超低功耗E核

因此,酷睿Ultra整个系统有三种不同的核心。为此,英特尔重新设计了线程调度器,这意味着硬件线程调度器会优先考虑和管理工作负载分配,将任务发送到内核。英特尔相关人员描述其设计目标是“让正确的任务在正确的时间,运行在正确的核心上”。

03

Intel 4制程工艺打造最强能效比
内置NPU实现AI加速与本地推理

早在今年9月,英特尔CEO基辛格(Pat Gelsinger)便表示,酷睿Ultra是首款基于Intel 4制程工艺打造的处理器,代表英特尔40年来最重大的架构变革,并将成为英特尔最具能效比的客户端处理器。

英特尔中国区技术部总经理高宇谈道,Intel 4是英特尔计划实现“四年内5次半导体技术迭代”计划中的重要一环,这是该公司的首个EUV(极紫外光刻机)支持的工艺,有望显著简化工艺。

可实现AI加速与本地推理的内置NPU是酷睿Ultra处理器除了核显之外的另一秘密武器。据英特尔描述,酷睿Ultra处理器采用了英特尔首个用于客户端的片上AI加速器NPU(神经网络处理单元),将高能效AI加速提升到了新的高度,带来2.5倍于上一代产品的能效表现。据介绍,全新英特尔酷睿Ultra胜任多达200亿参数大语言模型。

本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票,人工智能,电脑

让我们来看看,在产品形态上英特尔酷睿Ultra表现如何?

据英特尔数据,与AMD锐龙7 7840U等竞品相比,酷睿Ultra系列处理器中率先上市的旗舰型号Ultra 7 165H单线程性能超竞品12%多线程性能超竞品11%。核显方面,酷睿Ultra7 165H所搭载的8Xe核显性能是上代的两倍,在超薄本的相同28W功耗范围内,Ultra 7 165H功耗比AMD锐龙7 7840U降低了79%

结语

拥抱人人AI的终端新格局

AI PC需要软硬件基石

明年,据英特尔描述,酷睿Ultra处理器将在为全球笔记本电脑和联想、华硕等PC制造商的230多款机型带来AI特性。在软件方面,英特尔提到他们正与100多家软件厂商紧密合作,为市场带来数百款AI增强型应用。

本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票,人工智能,电脑

更广泛的AI增强型应用将能够在英特尔酷睿Ultra平台上流畅运行,对于消费者和商用客户来说,尤其针对一些剪视频和编程场景能够提升生产创作效率。此次发布会上,“影视飓风”等内容创作者便分享了使用英特尔的AI增强型应用的感受,这些具有创造力、生产力和趣味性的AI应用大幅提升了PC创作的体验。文章来源地址https://www.toymoban.com/news/detail-771753.html

到了这里,关于本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【Stable Diffusion】windows 1050显卡,17年笔记本还能再战

    Stable Diffusion https://github.com/AUTOMATIC1111/stable-diffusion-webui 查看最新的流程(时间23.3.12) 模型 https://huggingface.co/models https://civitai.com https://git-scm.com/ https://www.python.org/downloads/windows/ 安装3.10,勾Add Python to PAH,目录可以安装到D盘 安装完后输入 python 换国内源,否则可能比较慢 C

    2024年01月21日
    浏览(37)
  • 笔记本外接显示器无法检测 或 Nvidia显卡驱动安装失败解决办法

    由于C盘空间过少且不满意win11,就重装了一下系统。但是重装完系统之后我的外接显示器不工作了,设置当中检测不到 打开设备管理器,找到显示适配器一栏 查看是否显示Microsoft基础显示适配器,如果是,那么就是因为显卡驱动没安装 安装显卡驱动的过程中检测环境显示失

    2024年02月11日
    浏览(96)
  • 【折腾电脑】win笔记本雷电3外接显卡过程记录(使用内屏)、雷电三驱动怎么更新

    准备材料:雷电3硬盘盒(400)、NVME转PCIE X16转接板(75,直接用这个搜,对应价格就是)、显卡、主机电源(100+)、机箱盒子、一条杜邦线或者电源欺骗器。 确定你的电脑有满血雷电3接口。其他接口可作参考。 准备东西时需要注意:电源注意功率,至少要有SATA供电

    2024年02月11日
    浏览(46)
  • Win11笔记本电脑RTX4080显卡安装Tensorflow-GPU2.6.0方法步骤

    Tensorflow是当前主流的深度学习框架,是深度学习方向从业者和研究生的生产力工具,我在本科参加学科竞赛期间曾经安装过tensorflow1.12版本和对应的keras2.2版本,相对来说,keras提供了较多调用tensorflow的API,这极大地减轻了工作量,而新版的tensorflow2.0及以上版本自带keras,无

    2024年02月14日
    浏览(52)
  • 学习笔记:利用usb_cam进行单目标定与畸变矫正(笔记本摄像头 or usb相机)

    一个刚入门视觉的学习笔记,怕哪天系统崩了找不回笔记了,故上传到博客方便保留。 1、准备工作(安装usb_cam) 1)创建文件夹 2)下载编译安装usb_cam包(该包能将摄像头的图像通过sensor_msgs::Image消息发布)    2、可以通过ls/dev/video*来查看电脑的设备号来选择外接或笔记本

    2024年02月07日
    浏览(27)
  • 华硕天选笔记本频繁IRQL_NOT_LESS_OR_EQUAL蓝屏个人解决方案记录

    首先叠个甲,笔记本为华硕天选R7-4800H,RTX2060版本 认证型号 FA506 符合以下条件的可以试一下 自己手动重装过系统 更改过电源模式为高性能 蓝屏代码多为IRQL_NOT_LESS_OR_EQUAL,提示文件为ntoskrnl.exe 尝试过更换内存条,硬盘等硬件均会复现 仅使用电池时未复现 接通电源长时间不

    2024年02月03日
    浏览(137)
  • IRQL_NOT_LESS_OR_EUQAL,间歇性蓝屏,4800h笔记本,暗影精灵6,解决办法,蓝屏问题排查

    本文章所列出解决方法适用于AMD Ryzen 4800H处理器(其他amd处理器亦可参考),在低功耗下间歇性蓝屏、卡死、黑屏等情况,蓝屏代码不定(黑屏、卡死下无蓝屏代码),但普遍为 IRQL_NOT_LESS_OR_EUQAL ,使用Windbg分析,蓝屏触发应用为 ntoskrnl.exe 。 机型:暗影精灵6锐龙版-16+512

    2024年02月09日
    浏览(74)
  • 笔记本电脑上部署LLaMA-2中文模型

    尝试在macbook上部署LLaMA-2的中文模型的详细过程。 (1)环境准备 MacBook Pro(M2 Max/32G); VMware Fusion Player 版本 13.5.1 (23298085); Ubuntu 22.04.2 LTS; 给linux虚拟机分配8*core CPU 16G RAM。 我这里用的是16bit的量化模型,至少需要13G内存,如果4bit的只需要3.8G内存,当然上述不包含系统本身需要

    2024年04月09日
    浏览(29)
  • Jupyter AI:开源为笔记本电脑引入LLMs

    : [Amazon Web Services re:Invent 2023, Jupiter AI, Jupiter Ai, Open Source, Language Models, Notebooks, Generate Notebooks] 本文字数: 1400, 阅读完需: 7 分钟 如视频不能正常播放,请前往bilibili观看本视频。 https://www.bilibili.com/video/BV1sb4y1K7CF 在亚马逊云科技,我们的开发人员构建了Jupyter AI,这是一

    2024年02月03日
    浏览(40)
  • ensp pro 在笔记本/服务器/虚拟化平台的部署

    链接 :Ensp pro 下载链接 注 :后缀、qcow2与.gz的不同在与适应的虚拟化平台不同 个人电脑 virtual box 支撑 物理机支撑 eNSP Pro FusionCompute平台支撑eNSP Pro Proxmox平台 一、下载qcow2模式的ensp pro包 二、进入proxmox平台 三、创建centos虚机 四、部署问题 Proxmox平台部署ensp pro无ip 五、解决办

    2024年02月02日
    浏览(69)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包