基于Amazon Bedrock的企业级生成式AI平台

这篇具有很好参考价值的文章主要介绍了基于Amazon Bedrock的企业级生成式AI平台。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

基于Amazon Bedrock的企业级生成式AI平台

  • 2023.12.2
  • 版权声明:本文为博主chszs的原创文章,未经博主允许不得转载。

Amazon Bedrock 是一项新的 AWS 服务,可让企业通过 API 轻松利用和自定义生成式 AI 模型。公司现在可以构建和扩展人工智能应用程序,而无需管理运行这些模型本身所需的复杂基础设施和维护。Amazon Bedrock 充当“基础模型即服务(Foundation Models as a Service)”平台,客户可以在其中探索开源和专有模型,以找到最适合其需求的模型。一个关键的好处是无服务器体验(serverless experience),它简化了使用公司自己的数据定制基础模型的过程。然后可以使用组织基础设施内的其他 AWS 工具无缝集成和部署定制模型。总体而言,Bedrock 的目标是通过消除模型管理和基础设施复杂性的障碍,使生成式人工智能的利用变得更容易。

AWS Bedrock 通过提供对文本和图像的高质量基础模型的便捷访问,帮助组织更轻松地采用生成式 AI。它提供来自多个供应商的开源和专有模型,包括亚马逊自己的 Titan 模型。这减轻了企业自行进行供应商评估的需要,因为亚马逊在其基础设施上运行所有内容。通过处理安全性、合规性和模型服务,Bedrock 消除了公司采用生成式 AI 的关键障碍。他们不再需要构建和维护自己的模型基础设施和功能。相反,Bedrock 允许他们通过简单的 API 利用强大的生成模型,而无需担心潜在的复杂性。

AWS Bedrock 通过以下方式降低了企业采用开源和商业生成式 AI 的障碍:

  1. 只需使用 Amazon S3 中的几个标记示例即可轻松微调现有开源或封闭基础模型,无需大规模数据注释或构建数据管道。这简化了定制并加快了新的基于人工智能的应用程序的开发。
  2. 提供无服务器、可扩展、可靠且安全的托管服务,让客户保持对其数据的完全控制和治理以进行定制。内置模型访问系统允许管理员控制模型使用,支持强大的人工智能治理。
  3. 通过 API 与 AWS SageMaker、Lambda、EKS、ECS 和其他 AWS 服务(例如 EC2)集成,以便开发人员可以轻松构建、扩展和部署 AI 应用程序,而无需管理基础设施或高级 LLM 部署流程。

总之,Bedrock 通过简化定制、与 AWS 无缝集成以及为企业提供对其数据和模型的完全控制、治理和安全性,加速了生成式 AI 的采用。这可以降低利用生成式人工智能功能时的风险和实现价值的时间。

Amazon Bedrock 服务演练

登录AWS控制台后,我们需要输入Amazon Bedrock来加载服务。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
目前,在撰写本文之前,Bedrock 仅在少数地区可用,并且他们正在不断向列表中添加新地区。在这里,我将选择美国东部(北弗吉尼亚州)。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
选择支持的区域后,Amazon Bedrock 的控制台将打开。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI

这是 Amazon Bedrock 的仪表板,可让您使用模型或控制其他用户对模型的访问。由于我使用 root 用户帐户登录,仪表板向我显示了作为管理员 root 用户的所有功能和控件。右侧面板显示了许多知名的 LLM 或 FM 供应商,例如 AI21 Amazon 或 Anthropic。右侧面板显示了各种游乐场(playgrounds),人们可以通过注入提示来试验模型及其行为。

其中重要的环节之一是“模型访问(Model Access)”,它提供了控制模型访问的能力。您可以单击链接访问模型访问库。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI

模型访问仪表板显示供应商 Amazon Bedrock 目前已配置的所有模型。其中一些模型,例如 Anthropic 的 Claude 模型,如果您想访问它们,则需要填写一份很长的表格。其余的都非常简单。您需要单击按钮来管理模型访问,该按钮会显示一个可编辑的清单来控制访问。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
提交“保存更改”按钮后,访问状态将更改为“进行中(In Progress)”。有时,您需要等待一个多小时或一天以上,具体取决于您请求访问的模型类型和您的帐户类型。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
AWS 授予对您请求的模型的访问权限后,状态将更改为“已授予访问权限(Access Granted)”。现在,您可以使用 API 将模型集成到您自己的应用程序中。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
我们可以返回原始仪表板并单击“文本(Text)”链接来调用文本生成游乐场,在这里我们可以通过从下拉列表中选择供应商和相应的模型来使用一些提示工程来评估模型。还可以通过更改右侧面板中显示的配置来自定义模型的响应。“温度(temperature)”元素决定模型的输出。温度值越高,模型的响应就越有创意或动态。如果该值为零,则您可以期望模型对特定提示或问题或 NLP 任务产生相同的静态响应。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
现在,在游乐场上,我们将探索使用相同的文本提示工程来玩不同的模型。首先,我们将探索供应商 AI21 Labs 的 Jurassic 模型的输出。我们在MQTT(物联网设备中使用的通信模式)上输入文本,然后要求模型向 12 岁的人解释 MQTT。绿色文本输出是模型 Jurrasic -2 Ultra 生成的文本,温度为 0.7
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI
如果单击底部的“查看 API 请求(View API request)”按钮,它将显示 Playground 控制台发送到基础模型的 API 请求。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI

Cohere 命令模型的响应:
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI

Context: MQTT, or Message Queuing Telemetry Transport, is a messaging protocol for the Internet of Things (IoT). It's a set of rules that defines how IoT devices can publish and subscribe to data over the internet. MQTT is used for machine-to-machine communication. It's lightweight and can be used in cases where clients need a small code footprint and are connected to unreliable networks or networks with limited bandwidth resources. 
Explain MQTT to a 12-year-old person.

MQTT is like a secret club for machines where they can all talk to each other and share cool stuff. You know how people use social media to post pictures and updates, and others can follow or see those posts if they're interested? MQTT is like that, but for machines.
Imagine you have a cool new gadget, like a smart watch or a smart home device. These gadgets can do amazing things, like track your steps, control your lights, or even order you a pizza! But for them to do those things, they need to talk to other machines. That's where MQTT comes in.
MQTT is like a special set of rules that these machines use to talk to each other over the internet. They can send messages to each other, kind of like sending emails or texts, but these messages are super fast and efficient. And just like you might subscribe to a celebrity's social media account to see all their posts, these machines can subscribe to messages that are important to them.
The best part is that MQTT is really lightweight, which means it doesn't use a lot of computer power or take up a lot of space. This is important because sometimes these machines don't have a lot of power or they're in places where the internet connection isn't very good. MQTT is designed to work even in these tough conditions.
So, think of MQTT as a secret club where machines can talk, share messages, and work together to make our lives easier and more fun. It's like a behind-the-scenes hero that helps all our cool gadgets work together!

我尝试使用 Meta 中的 LLama2 模型,但不断收到错误。看来亚马逊仍在努力稳定局面。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI

我们将探索 Sytable Diffusion 模型,它使用基于文本的提示来生成图像。
model as a service(模型即服务)的amazon bedrock,大模型&AIGC,人工智能,LLM,AIGC,生成式AI,GEN AI

API请求是:

aws bedrock-runtime invoke-model \
--model-id stability.stable-diffusion-xl-v0 \
--body "{\"text_prompts\":[{\"text\":\"highly detailed Albert Einstein with bubble tea in hands epic laboratory office, shelves with detailed items in background\"}],\"cfg_scale\":10,\"seed\":0,\"steps\":50}" \
--cli-binary-format raw-in-base64-out \
--region us-east-1 \
invoke-model-output.txt

由于 Amazon Bedrock 作为无服务器组件运行,因此与该平台的集成是真正的无服务器。基础模型可通过 REST API 访问以供下游使用,并且 AWS 提供 Bedrock SDK 客户端,任何应用程序都可以利用该客户端连接到 Amazon Bedrock。文章来源地址https://www.toymoban.com/news/detail-767909.html

到了这里,关于基于Amazon Bedrock的企业级生成式AI平台的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • WorkPlus AI助理,基于ChatGPT的企业级知识问答机器人

    随着人工智能技术的发展,WorkPlus AI助理以ChatGPT对话能力为基础,将企业数据与人工智能相结合,推出了面向企业的知识问答机器人。这一创新性的解决方案帮助企业高效管理和利用自身的知识资产,助力企业级人工智能的构建。与传统的基于文本数据的ChatGPT不同,WorkPlus

    2024年02月09日
    浏览(55)
  • 借助 Amazon Bedrock 构建 AI 漫画视频生成器

    : [Amazon Web Services re:Invent 2023, Amazon Polly, Comic Video Generator, Story Script Generator, Image Generator, Character Inconsistency, Out Of Focus Images, Fine Tuning Stable Diffusion] 本文字数: 1800, 阅读完需: 9 分钟 如视频不能正常播放,请前往bilibili观看本视频。 https://www.bilibili.com/video/BV1mc411m7nB 了解

    2024年02月04日
    浏览(50)
  • AI大模型探索之路-实战篇3:基于私有模型GLM-企业级知识库开发实战

    在当今信息时代,数据已经成为企业的核心资产之一。对于许多企业而言,信息安全和私密性是至关重要的,因此对外部服务提供的数据接口存在天然的警惕性。因此常规的基于在线大模型接口落地企业知识库项目,很难满足这些企业的安全需求。面对这样的挑战,只有私有

    2024年04月23日
    浏览(53)
  • 什么是Amazon Bedrock (亚马逊云的生成式 AI产品)

    在百模大战中,AI行业的发展正在经历前所未有的变革。这场竞争不仅推动了AI技术的快速发展,也揭示了AI行业的新趋势。这些趋势不仅影响着我们如何看待和使用AI,也预示着AI未来的发展方向。在这个快速发展的领域,了解这些新趋势对于理解AI行业的未来走向至关重要。

    2024年02月04日
    浏览(49)
  • ELK企业级日志分析平台(一)

    主机部署应用: 主机 ip 角色 k8s1 192.168.56.171 cerebro server1 192.168.56.11 elasticsearch server2 192.168.56.12 elasticsearch server3 192.168.56.13 elasticsearch server4 192.168.56.14 logstash server5 192.168.56.15 kibana elasticsearch简介: Elasticsearch 是一个开源的分布式搜索分析引擎,建立在一个全文搜索引擎库Apac

    2024年02月07日
    浏览(84)
  • 阿里云大数据——搭建企业级数据分析平台

    目录 1、数据分析介绍 1.1数据分析基本介绍 1.2数据分析目的 1.3数据分析平台组成部分 1.4数据分析平台对应的场景 2、阿里云数加介绍 2.1数加是什么? 2.2“数加”是阿里云大数据的核心能力 2.3数加平台发展历程 3、常用的数加产品 3.1数加产品框架图 3.2数据分析平台常用的数

    2023年04月11日
    浏览(92)
  • 开源数据平台构建:从0到1搭建企业级数据平台系统

    作者:禅与计算机程序设计艺术 数据平台作为业务数据的重要基础设施,其提供的数据服务和分析能力已成为公司各部门协同工作、高效沟通、提升工作效率的关键。然而,由于不同行业领域需求的差异性、不同数据规模和复杂度等多种因素的影响,制造出具有高质量、低延

    2024年02月09日
    浏览(44)
  • 企业级 Selenium 刷 其他平台 博客访问(学习使用 )

    今天我们来学习一下 Selenium , 来统计 博客的访问量 Selenium 介绍 Selenium是一个用于Web应用程序测试的工具。Selenium测试直接运行在浏览器中,就像真正的用户在操作一样。支持的浏览器包括IE(7, 8, 9, 10, 11),Mozilla Firefox,Safari,Google Chrome,Opera,Edge等。这个工具的主要功能包

    2023年04月24日
    浏览(39)
  • 文心千帆大模型平台,一站式企业级大模型平台

    随着人工智能技术的不断发展,尤其是深度学习技术的广泛应用,大模型训练已成为当下研究的热点之一,随着计算能力的不断提升和数据规模的不断增加,大模型展现出了惊人的能力,能够处理更加复杂和庞大的任务。从计算机视觉到自然语言处理,从语音识别到推荐系统

    2024年02月16日
    浏览(46)
  • DaoCloud 结合 Karmada 打造新一代企业级多云平台

      上周 Cloud Native Days China 南京站  Meetup 顺利举行, 「DaoCloud 道客」大容器团队技术负责人-张潇 在会上 以《DaoCloud 结合 Karmada 打造新一代企业级多云平台》为主题,与 Karmada 社区及其合作伙伴一起,共同交流云原生多云多集群生产实践经验 。现将演讲内容整理如下,以供

    2024年01月17日
    浏览(42)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包