Amazon Bedrock新增的“专有模型导入功能”意义何在?怎么玩转?

4月25日消息,亚马逊云科技全球同步发布Amazon Bedrock重磅更新,新的功能包括专有模型导入功能,为特定应用场景选择最佳模型的模型评估功能,为生成式AI应用程序提供易于实施的保护措施的Guardrails功能,以及新增了更多可选择的新模型,包括Amazon Titan Image Generator、Meta Llama 3基础模型已正式可用。

更多信息请见(Amazon Bedrock上新专有模型导入、模型评估等功能https://www.techweb.com.cn/internet/2024-04-24/2943938.shtml)

Amazon Bedrock是亚马逊云科在去年4月份推出的一项全新的全托管服务,它允许用户通过API访问亚马逊云科技和第三方基础模型提供商的预训练基础模型。

此次重磅功能更新恰逢Amazon Bedrock推出一周年。

亚马逊云科技AI和数据副总裁Swami Sivasubramanian介绍道:“企业应用Amazon Bedrock正呈现出爆炸式的增长。成千上万不同规模,来自不同行业的企业选择Amazon Bedrock作为他们生成式AI战略的核心基础,它极大加速并简化了企业从试验阶段到实际生产的转变。”

专有模型导入功能意义重大

借助全新的Amazon Bedrock专有模型导入功能,只需点击几下,企业用户即可将他们使用Amazon SageMaker或其他工具开发的模型集成到Amazon Bedrock平台上,以完全托管的API形式进行访问。

Amazon Bedrock专有模型导入功能现已推出预览版并支持三种开放模型架构:Flan-T5、Llama和Mistral,并计划未来支持更多模型。

此次推出的全新专有模型导入功能可谓意义重大。

这意味着通过该服务,企业客户能够在Amazon Bedrock上接入其定制模型,从而能够利用Amazon Bedrock内置的一系列功能。这将有利于客户降低模型成本,同时享受Serverless提供的易用性,全面加速应用开发。

对亚马逊云科技来说,专有模型导入功能的推出,打通了Amazon Bedrock和Amazon SageMaker的工具链连接,让二者的能力发挥出1+1>2的效果。

为何如此说呢。在此之前,Amazon Bedrock和Amazon Sagemaker可以说是两个独立的服务。

Amazon SageMaker是亚马逊云科技在2017年推出的端到端的机器学习平台,它的功能包括从数据标注到数据训练、再到部署、上线以后的持续监控以及基于原始数据的再迭代等端到端的能力。

Amazon SageMaker提供的模型训练功能,可以从头开始训练模型或对现有的公开模型如Llama、Mistral和Flan-T5进行高级定制。

当亚马逊云科技的客户需要用自有数据构建这些模型时,他们通常是依赖Amazon SageMaker来训练定制自己的专有模型。

而Amazon Bedrock内置了众多第三方基础大模型和高级生成式AI工具供用户通过API访问使用。

现在,随着Amazon Bedrock专有模型导入功能的推出,企业客户能够将他们自己的定制模型与Amazon Bedrock内置的高级生成式AI工具相结合,如知识库、Guardrails、代理(Agents)和模型评估等,而无需自行开发这些功能。

这一新功能让企业能够轻松地通过同一API访问Amazon Bedrock的模型与自己的定制模型组合,这给企业在选择和使用模型的灵活性方面带来进一步跃升。

10分钟完成模型导入

亚马逊云科技还同步发布了“在Amazon Bedrock中导入自定义模型”的教程。

演示教程中,在向Amazon Bedrock导入一个微调的Mistral-7 B-v0.1语言模型,只用了10分钟就完成。

步骤:

在Amazon Bedrock控制台中,从导航窗格的Foundation models部分选择Imported models。


选择要导入的模型MistralLite,是一个微调的Mistral-7 B-v0.1语言模型,具有处理32K tokens的能力。

在模型导入设置中选择模型权重,然后选择上传模型的位置。

大约10分钟就完成了导入。

在控制台中就能看到导入的模型MistralLite。


企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-04-25
Amazon Bedrock新增的“专有模型导入功能”意义何在?怎么玩转?
4月25日消息,亚马逊云科技全球同步发布Amazon Bedrock重磅更新,新的功能包括专有模型导入功能,为特定应用场景选择最佳模型的模型评估功能,为生成式AI应用程序提供易于实施的保护措施的Guardrails功能,以

长按扫码 阅读全文

Baidu
map