两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用

这篇具有很好参考价值的文章主要介绍了两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

在亚马逊云科技2023 re:Invent美国拉斯维加斯现场,亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian宣布了众多在生成式AI领域的发布和创新,其中就包括Anthropic Claude 2.1和Meta Llama 2 70B两款大语言模型已在Amazon Bedrock正式可用。

两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用,人工智能

亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian

Amazon Bedrock是亚马逊云科技于今年4月发布的一项全面托管的服务,通过它,企业用户可以通过API等方式轻松访问包括亚马逊云科技自研的Titan(Amazon Titan)系列大语言模型和AI21 Labs、Anthropic、Cohere、Meta、Stability AI等众多主流第三方大语言模型。

新增两大第三方主流大语言模型可用

在生成式AI领域,Anthropic被称为OpenAI的最强竞争对手,旗下旗舰大语言模型产品Claude有着不凡实力,而Anthropic与亚马逊有着紧密合作。

今年9月,亚马逊宣布与Anthropic展开战略合作,双方的合作包括亚马逊向Anthropic投资40亿美元并持有其部分股权;Anthropic长期承诺将通过Amazon Bedrock向全球亚马逊云科技客户提供其未来基础模型的访问权;以及亚马逊的开发人员和工程师可以通过Amazon Bedrock使用Anthropic大语言模型构建产品,以便将生成式AI能力融入到他们的工作中等等。

两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用,人工智能

此次,在Amazon Bedrock上正式可用的Anthropic Claude 2.1提供了长达200,000个token的上下文窗口,并且提高了长文档的准确性。客户可以处理文本密集型文档,例如财务报表和内部数据集。Claude 2.1能够总结和对比文档、进行问答等。Anthropic报告称,与此前的大语言模型相比,Claude 2.1在开放式对话中的错误陈述减少了50%,错误陈述率减少了一半。

两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用,人工智能

另一个在Amazon Bedrock上新增可用的是Meta Llama 2 70B大语言模型。这意味着现在,除了之前发布的Llama 2 130亿参数大语言模型之外,Llama 2 700亿参数大语言模型也已在Amazon Bedrock上提供。

Llama 2是Meta的下一代大语言模型。据悉,Llama 2 的训练数据比Llama 1多40%,上下文长度是Llama 1的两倍。Llama 2 Chat建立在预训练的Llama大语言模型之上,通过指令数据集和超过100万条人工注释进行调优,针对对话场景进行了优化。这些大语言模型在多个外部基准测试中的表现卓越,包括推理、编码、熟练程度和知识测试,并在Amazon Bedrock上提供了极高的性能价格组合。

自有Amazon Titan大语言模型发布多项新能力

同时,亚马逊云科技自有Titan(Amazon Titan)大语言模型在2023 re:Invent上也推出了多项新大语言模型能力。包括Amazon Titan Multimodal Embeddings、Amazon Titan Text Lite、Amazon Titan Text Express、Amazon Titan Image Generator。

两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用,人工智能

其中,Amazon Titan Image Generator这一模型可以理解复杂的提示词并生成相关图像,可帮助广告、电子商务、媒体和娱乐等行业的客户通过使用自然语言提示生成高质量、逼真的图像或增强现有图像,以便以低成本快速构思和大量迭代图像。

Amazon Titan Multimodal Embeddings模型可提供多模态搜索和推荐体验,通过它,用户可以使用短语、图像或图像和文本的组合来搜索图像,例如,可以输入“我要和这张照片类似的图像,但天空是晴朗的”等这种既包含图片也有文字的描述方式来搜索。

两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用,人工智能

现在,借助Amazon Bedrock,企业客户可以利用的最新版本的大语言模型包括Amazon Titan的5款大语言模型、新推出的Anthropic Claude 2.1和Meta Llama 2 70B以及此前推出的Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed大语言模型等。

另外,值得一提的是,对于企业而言,能用的大语言模型如此之多,那么到底哪一个或者哪些组合才是最适配用户需求的呢?

为了帮助企业客户在纷繁的大语言模型中选出最适合自己的那一个,Amazon Bedrock还推出了“模型评估功能”,可帮助企业客户使用自动或人工评估来评估、比较和选择适合其特定应用场景的最佳模型。目前该功能已推出预览版。

同时,为了进一步方便企业客户生成、部署自己的大语言模型应用产品,“Agents for Amazon Bedrock(Amazon Bedrock代理功能)”也正式可用。

两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用,人工智能

Agents for Amazon Bedrock的目的就是为了进一步降低企业客户使用客户Amazon Bedrock来构建自己的生成式AI应用程序的门槛。通过它,企业用户可以简单的设置就能加速生成式AI应用程序的开发。

Swami Sivasubramanian表示:“生成式AI有望成为我们这个时代最具变革性的技术。客户积极应用生成式AI创造新机遇、应对业务挑战,这给我们带来了启发。当客户将生成式AI融入其业务时,他们会利用Amazon Bedrock以全托管的方式获取领先大语言模型、定制功能、代理功能以及企业级安全和隐私保障。有了更多触手可及的工具,客户可以使用Amazon Bedrock充分发挥生成式AI的潜力,创新用户体验、重塑业务并加速生成式AI之旅。”文章来源地址https://www.toymoban.com/news/detail-758956.html

到了这里,关于两款顶尖大语言模型Claude2.1和Llama2在Amazon Bedrock正式可用的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Windows11下私有化部署大语言模型实战 langchain+llama2

    CPU:锐龙5600X 显卡:GTX3070 内存:32G 注:硬件配置仅为博主的配置,不是最低要求配置,也不是推荐配置。该配置下计算速度约为40tokens/s。实测核显笔记本(i7-1165g7)也能跑,速度3tokens/s。 Windows系统版本:Win11专业版23H2 Python版本:3.11 Cuda版本:12.3.2 VS版本:VS2022 17.8.3 lan

    2024年02月03日
    浏览(186)
  • 如何让 Llama2、通义千问开源大语言模型快速跑在函数计算上?

    :::info 本文是“在Serverless平台上构建AIGC应用”系列文章的第一篇文章。 ::: 随着ChatGPT 以及 Stable Diffusion,Midjourney 这些新生代 AIGC 应用的兴起,围绕AIGC应用的相关开发变得越来越广泛,有呈井喷之势,从长远看这波应用的爆发不仅仅是停留在形式之上,更是在各个领域产生实

    2024年02月09日
    浏览(47)
  • 基于Llama2模型的开源模型

      2023年7月18日Meta开源了Llama2,在2万亿个Token上训练,可用于商业和研究,包括从7B到70B模型权重、预训练和微调的代码。相比Llama1,Llama2有较多提升,评估结果如下所示: 基于Llama2模型的开源模型如下所示: 1.WizardCoder Python V1.0 2.Phind Code Llama v1 3.WizardLM 70B V1.0 4.Dophin Llam

    2024年02月10日
    浏览(42)
  • 逐行对比LLaMA2和LLaMA模型源代码

    几个小时前(2023年7月18日),Meta发布了允许商用的开源模型LLaMA2。笔者逐行对比了LLaMA2模型源代码,和LLaMA相比,几乎没有改动,细节如下: 是否改动 LLaMA2 LLaMA 模型整体构架 无 Transformer Transformer 规范化函数 无 均方根规范化(RMSNorm) 均方根规范化(RMSNorm) 位置编码 无

    2024年02月16日
    浏览(54)
  • 大模型Llama2部署,基于text-generation-webui、Llama2-Chinese

    参考安装教程:傻瓜式!一键部署llama2+chatglm2,集成所有环境和微调功能,本地化界面操作! Github地址:GitHub - oobabooga/text-generation-webui: A Gradio web UI for Large Language Models. Supports transformers, GPTQ, llama.cpp (ggml/gguf), Llama models. 模型下载地址:meta-llama/Llama-2-13b-chat-hf at main 遇到的问

    2024年02月08日
    浏览(47)
  • LLMs之LLaMA2:基于云端进行一键部署对LLaMA2模型实现推理(基于text-generation-webui)执行对话聊天问答任务、同时微调LLaMA2模型(配置云端环境【A100】→下载数

    LLMs之LLaMA-2:基于云端进行一键部署对LLaMA2模型实现推理(基于text-generation-webui)执行对话聊天问答任务、同时微调LLaMA2模型(配置云端环境【A100】→下载数据集【datasets】→加载模型【transformers】→分词→模型训练【peft+SFTTrainer+wandb】→基于HuggingFace实现云端分享)之图文教程详

    2024年02月11日
    浏览(50)
  • llama.cpp LLM模型 windows cpu安装部署;运行LLaMA2模型测试

    参考: https://www.listera.top/ji-xu-zhe-teng-xia-chinese-llama-alpaca/ https://blog.csdn.net/qq_38238956/article/details/130113599 cmake windows安装参考:https://blog.csdn.net/weixin_42357472/article/details/131314105 1、下载: 2、编译 3、测试运行 参考: https://zhuanlan.zhihu.com/p/638427280 模型下载: https://huggingface.co/nya

    2024年02月16日
    浏览(41)
  • [玩转AIGC]LLaMA2之如何微调模型

    首先我们从github上下载Llama 2的微调代码:GitHub - facebookresearch/llama-recipes: Examples and recipes for Llama 2 model 执行命令: 下载完成之后,安装对应环境,执行命令: 在这里我补充一下模型下载权限的申请 需先在Meta上申请权限(国家选中国不行,要选其他国家) https://ai.meta.com/re

    2024年02月03日
    浏览(45)
  • Claude2 AI实战:重新认识我们自己

    交流源于内心本真的需要,通过交流来降低信息的不对称,今天的交流对象是一个集大成者的老学者,当然是由 Claude2 扮演,相信会有不一样的收获。 角色设定 你是一名集大成者的年迈学者,在哲学、社会学、历史、心理学等方面都有很高的造诣,现在我们针对一些问题进

    2024年02月13日
    浏览(39)
  • Llama2通过llama.cpp模型量化 Windows&Linux本地部署

    LLaMA ,它是一组基础语言模型,参数范围从7B到65B。在数万亿的tokens上训练的模型,并表明可以专门使用公开可用的数据集来训练最先进的模型,而无需求助于专有和不可访问的数据集。特别是, LLaMA-13B在大多数基准测试中都优于GPT-3(175B) ,并且LLaMA65B与最好的型号Chinch

    2024年02月05日
    浏览(55)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包