【技术分享】使用适用于企业的 Amazon Bedrock 释放生成式人工智能的力量!

2023-10-23 16:00

Amazon Bedrock 是一项完全托管的服务,可从 Amazon 和 可通过 API 访问的第三方模型提供程序.目前支持以下基础模型,通过Bedrock我们可以很轻松只通过几次点击就可以实现复杂的文本,图片,对话聊天等生成式的任务。

本文将会介绍一下怎么开始使用Amazon Bedrock以及Bedrock的基础演示。


模型申请和使用

1.首先在使用Bedrock之前要首先申请模型的访问权限,目前只在us-east-1,us-west-2,ap-southeast-1,ap-northeast-1中可用,需要先申请模型的访问权限,对于所有模型,默认都是没有开放的,在model access界面首先选择请求访问,会让您这边填写一下公司名称,网址,用途,然后请求访问权限就好,这边公司网址如果有海外的尽量选择海外的,目前中国这边还不行,另外这个账号的付款公司也是需要选择海外的,之后选择自己所需模型。


2.登录Bedrock控制台之后,首先到model access界面,点击Edit,勾选需要的模型,如不需要的模型只要勾选留空会自动删除,然后选择保存,保存之后就可以使用所提供的模型了,比如Claude和Stable Diffusion XL等


3.创建完成之后,通过控制台左侧可以看到很多的功能,我们可以选择我们的base model,在 Amazon Bedrock 控制台中,您可以查看可用的模型并按各种模型对其进行分组 属性。您还可以筛选模型视图、搜索模型和查看信息 关于模型提供程序。


4.选择模型之后您可以选择,在playground中打开,就可以使用模型的各个功能了


功能说明

功能1:text playground

此处的话我们就以Claude Instant v1.2作为演示,从而来让大家更清楚的了解Bedrock的各项基础功能,首先我们尝试使用text playgroud,此处我们输入一段文本提示来让claude instanct来给我们做推理,可以选择streaming的方式或者非streaming的方式,另外我们可以调解temperature,Top P,Top K以及maximum length等来调节我们模型回答问题的精准度和长度,同时我们也不需要自己写api,在右下角也可以直接看到view api request的选项方便我们直接API调用

功能2:chat playground

同text一样,Bedrock同样提供了在线实时聊天的方式,我们可以选择Bedrock的一些基础模型或者是我们自己微调过的模型来进行在线聊天,此处还是使用claude instant做一下聊天的展示,claude对中文理解还行,比llama2稍好一点

功能3:Image playground

同样可以生成一些图片,这个的话目前只能选择stability AI模型,同样可以根据提示词生成我们所需的图片

另外,在Bedrock控制台还开放了微调模型的功能,目前只支持Titan Text G1 - Express 模型的微调,此处就不做更多的演示了,后续还会将更多的模型微调直接加入到控制台来,我们可以直接将数据上传到S3,然后通过自定义的模型进行微调。


云代理伙伴
扫描关注微信公众号
获取更多云端资讯
联系我们
——

模板表单-2(1)

  • 姓名*

  • 电话*

  • 邮箱*

  • 职称*

  • 公司*

  • 地址*

  • 需求*

  • * 点击提交,即表示您同意我们存储和处理您提交的个人信息,以向您提供所请求的内容,该信息仅供公司提供服务使用。您的信息受到相关法律的安全保护。