Amazon Bedrock提供模型定制化服務(wù)

AWS昨（23）日發(fā)布AI平臺(tái)Amazon Bedrock最新服務(wù)Custom Model Import預(yù)覽版，可讓企業(yè)用戶將模型上傳Bedrock微調(diào)并為特定應(yīng)用定制化。

Amazon Bedrock提供如Mistral或Llama等基礎(chǔ)模型，供企業(yè)選擇以打造生成式AI應(yīng)用，有些用戶會(huì)為特定使用場(chǎng)景微調(diào)或定制化模型。另一些企業(yè)則是自建基礎(chǔ)架構(gòu)，使用Mistral或Llama等模型定制化并開發(fā)AI應(yīng)用。之前，企業(yè)用戶必須在Bedrock以外的其他環(huán)境上進(jìn)行定制化。問(wèn)題是，這類環(huán)境的部署需要一定能力，而對(duì)Bedrock用戶而言，這還會(huì)使開發(fā)人員必須在不同模型環(huán)境間切換，造成經(jīng)驗(yàn)的不連續(xù)。

最新公布工具可解決定制化環(huán)境的部署問(wèn)題。首先是Custom Model Import，訴求讓用戶將定制化模型導(dǎo)入Bedrock，一方面保留定制化成果，另一方面又能在安全的云計(jì)算平臺(tái)上使用模型。導(dǎo)入Bedrock后，用戶就能通過(guò)Bedrock的API調(diào)用，以隨需（on-demand）方式訪問(wèn)模型，并為基礎(chǔ)、定制化及導(dǎo)入的模型創(chuàng)建一致化經(jīng)驗(yàn)。最新工具支持Mistral、Llama及Flan T5等。

另一方面，針對(duì)Bedrock上想定制化模型的用戶，AWS昨日也宣布預(yù)覽一項(xiàng)新功能。新功能讓用戶從Amazon SageMaker機(jī)器學(xué)習(xí)平臺(tái)及Amazon S3以Hugging Face safetensors格式導(dǎo)入自訂權(quán)重以定制化模型，之后就能以隨需方式訪問(wèn)模型。本功能支持Meta Llama 2、Llama 3及Mistral。

這樣一來(lái)用戶可以使用Bedrock上為寫程序特化的Code Llama模型，或是以自有數(shù)據(jù)微調(diào)模型后，再將模型導(dǎo)入Bedrock。二項(xiàng)新功能目前都僅在美國(guó)測(cè)試。美國(guó)用戶可通過(guò)Bedrock控制臺(tái)主頁(yè)開始導(dǎo)入模型或權(quán)重。