Amazon Bedrock上新自定義模型導(dǎo)入功能

在到處都是大模型的今天，如果這些大模型不能根據(jù)企業(yè)的具體需求進(jìn)行定制化調(diào)整，它們的優(yōu)勢可能就要大打折扣，甚至在特定的業(yè)務(wù)場景中顯得“食之無味棄之可惜”。因此，如何將這些大模型靈活地融入到實(shí)際業(yè)務(wù)中，通過定制化的模型和數(shù)據(jù)驅(qū)動的策略來推動業(yè)務(wù)的持續(xù)增長和創(chuàng)新，已經(jīng)成為每位業(yè)務(wù)決策者必須深思熟慮并積極解決的關(guān)鍵問題。這不僅關(guān)乎技術(shù)的運(yùn)用，更涉及到戰(zhàn)略的布局和創(chuàng)新的實(shí)踐。

亞馬遜云科技宣布Amazon Bedrock自定義模型導(dǎo)入新功能正式可用。通過該項新功能，客戶可以使用統(tǒng)一API導(dǎo)入企業(yè)的自定義模型，并與現(xiàn)有基礎(chǔ)模型一起使用，從部署和擴(kuò)展模型的復(fù)雜性中真正解放，降低基礎(chǔ)架構(gòu)或模型生命周期的管理成本。

Amazon Bedrock是亞馬遜云科技一項完全托管的服務(wù)，通過單一API提供來自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亞馬遜等領(lǐng)先人工智能公司的高性能基礎(chǔ)模型，用于構(gòu)建具有安全性、隱私性和負(fù)責(zé)任的人工智能應(yīng)用程序。通過Amazon Bedrock支持的Meta Llama、Mistral Mixtral、IBM Granite等微調(diào)模型和基于開源架構(gòu)開發(fā)的專有模型，搭配無服務(wù)器按需訪問模式，客戶可以快速上手，使用企業(yè)數(shù)據(jù)高效定制模型，并將Amazon Bedrock的服務(wù)和功能集成，加速生成式AI應(yīng)用開發(fā)，實(shí)現(xiàn)統(tǒng)一且連貫的開發(fā)體驗。

新功能的優(yōu)勢

-更靈活地使用現(xiàn)有微調(diào)模型

無需重新創(chuàng)建或訓(xùn)練模型，避免浪費(fèi)前期投入，有效加快開發(fā)進(jìn)程。

-與Amazon Bedrock功能的一體化集成

導(dǎo)入的自定義模型可集成Amazon Bedrock的內(nèi)置服務(wù)和功能（如知識庫、Guardrails、Agent、模型評估等），實(shí)現(xiàn)基礎(chǔ)模型與自定義模型間的無縫切換。

-基于無服務(wù)器的按需訪問

無需花費(fèi)精力在基礎(chǔ)設(shè)施管理或擴(kuò)展問題，幫助客戶專注生成式AI應(yīng)用開發(fā)。

-廣泛的兼容性，提供更多模型選擇

不止于Meta Llama（v.2、3、3.1和3.2）、Mistral 7B、Mixtral 8x7B、Flan和IBM Granite模型（如Granite 3B-Code、8B-Code、20B-Code和34B-Code），Amazon Bedrock支持導(dǎo)入流行的模型架構(gòu)，客戶可以根據(jù)特定需求和用例，從Amazon SageMaker和Amazon S3中導(dǎo)入Hugging Face Safetensors等格式的自定義權(quán)重文件。

-通過API簡化訪問方式

將企業(yè)的微調(diào)模型與Amazon Bedrock Converse API結(jié)合使用，簡化并統(tǒng)一模型的訪問方式。

立即體驗新功能

亞馬遜云科技深知客戶的關(guān)鍵需求是使用自己的數(shù)據(jù)定制模型，并保留微調(diào)模型及其部署過程的所有權(quán)和使用權(quán)。即使客戶能通過多種高效、低成本的方式微調(diào)模型，但托管模型階段會有一系列挑戰(zhàn)，客戶非常關(guān)注以下五個方面。

-利用現(xiàn)有定制模型的投資，精細(xì)化把控定制過程；

-通過Amazon Bedrock的API訪問自定義模型或基本模型時，獲得一致的開發(fā)體驗；

-通過全托管的無服務(wù)器服務(wù)實(shí)現(xiàn)輕松部署；

-使用按需推理，盡可能降低生成式AI工作負(fù)載的成本；

-獲得企業(yè)級安全和隱私工具的支持。

Amazon Bedrock自定義模型導(dǎo)入功能就是為了解決這些問題。

現(xiàn)已正式可用

Amazon Bedrock自定義模型導(dǎo)入功能現(xiàn)已在US-East-1（弗吉尼亞北部）和US-West-2（俄勒岡）亞馬遜云科技區(qū)域的Amazon Bedrock中正式推出。請參閱完整區(qū)域列表獲取最新動態(tài)。