應(yīng)用核心和基礎(chǔ)設(shè)施軟件，盡在亞馬遜云科技Marketplace生成式AI合作伙伴產(chǎn)品

亞馬遜云科技Marketplace可以幫助您利用領(lǐng)先的技術(shù)進(jìn)行創(chuàng)新，其中包括來(lái)自70余個(gè)類(lèi)別、超過(guò)4,000家賣(mài)家的15,000余種產(chǎn)品，當(dāng)然，也包括生成式AI相關(guān)產(chǎn)品。本篇內(nèi)容將探討亞馬遜云科技Marketplace上可用的核心和基礎(chǔ)設(shè)施軟件產(chǎn)品。

您能夠多快開(kāi)始使用生成式AI？

毫無(wú)疑問(wèn)，2023年是生成式AI的轉(zhuǎn)折點(diǎn)。廣泛適用的用例與用戶需求相結(jié)合，為各種類(lèi)型和規(guī)模的組織采用這項(xiàng)改變游戲規(guī)則的技術(shù)帶來(lái)了緊迫性。亞馬遜云科技合作伙伴網(wǎng)絡(luò)已準(zhǔn)備就緒，通過(guò)產(chǎn)品和解決方案幫助您快速高效地部署生成式AI工作負(fù)載，從而更快地實(shí)現(xiàn)生成式AI的全部潛力。

自2023年4月亞馬遜云科技推出生成式AI服務(wù)以來(lái)，亞馬遜云科技Marketplace上的生成式AI合作伙伴產(chǎn)品列表一直在快速發(fā)展。這些產(chǎn)品讓您可以訪問(wèn)整個(gè)技術(shù)棧的各個(gè)層面（見(jiàn)下圖1所示的亞馬遜云科技生成式AI技術(shù)棧的三個(gè)層面）的正確工具和資源，以推動(dòng)成功的生成式AI解決方案并使其具備擴(kuò)展能力。

圖1：亞馬遜云科技生成式AI技術(shù)棧

為了幫助您廣泛了解合作伙伴解決方案，我將分享亞馬遜云科技Marketplace合作伙伴產(chǎn)品的分類(lèi)框架。我將它們分為核心（生成式AI的核心產(chǎn)品，如基礎(chǔ)模型和向量數(shù)據(jù)庫(kù)）和基礎(chǔ)設(shè)施軟件產(chǎn)品、特定用例的軟件和咨詢產(chǎn)品，以及按客戶階段分類(lèi)的生成式AI專(zhuān)業(yè)服務(wù)產(chǎn)品。在本文中，我將重點(diǎn)介紹核心和基礎(chǔ)設(shè)施軟件產(chǎn)品（如下圖2所示）。

圖2：亞馬遜云科技Marketplace上的

核心和基礎(chǔ)設(shè)施合作伙伴產(chǎn)品

核心和基礎(chǔ)設(shè)施軟件產(chǎn)品

可分為三大類(lèi)：

1、基礎(chǔ)模型（FMs）和向量數(shù)據(jù)庫(kù)

2、大型語(yǔ)言模型運(yùn)營(yíng)（LLMOps）、可觀測(cè)性以及安全和隱私工具

3、計(jì)算服務(wù)、推理端點(diǎn)和預(yù)置產(chǎn)品

基礎(chǔ)模型（FMs）和向量數(shù)據(jù)庫(kù)

基礎(chǔ)模型和向量數(shù)據(jù)庫(kù)是生成式AI系統(tǒng)的核心組件?；A(chǔ)模型賦予系統(tǒng)理解和響應(yīng)提示的能力，而向量數(shù)據(jù)庫(kù)用于存儲(chǔ)和檢索各種數(shù)據(jù)點(diǎn)，基礎(chǔ)模型利用這些數(shù)據(jù)點(diǎn)來(lái)提高響應(yīng)的準(zhǔn)確性和可靠性。利用亞馬遜云科技Marketplace中的基礎(chǔ)模型和向量數(shù)據(jù)庫(kù)合作伙伴產(chǎn)品，可幫助您快速啟動(dòng)項(xiàng)目，并確信您獲得了經(jīng)過(guò)專(zhuān)家開(kāi)發(fā)和支持的技術(shù)，這些技術(shù)與亞馬遜云科技無(wú)縫集成，簡(jiǎn)化了部署和管理，優(yōu)化了性能和可擴(kuò)展性。

基礎(chǔ)模型是在廣泛的通用數(shù)據(jù)上訓(xùn)練的復(fù)雜機(jī)器學(xué)習(xí)模型，能夠生成原創(chuàng)內(nèi)容并以自然語(yǔ)言進(jìn)行對(duì)話。您可以從Amazon SageMaker和Amazon Bedrock上提供的數(shù)十種前沿基礎(chǔ)模型中進(jìn)行選擇。除此之外，亞馬遜云科技Marketplace還提供來(lái)自A121 Labs、Cohere、Stability.ai、LightOn、Jina AI、Voyage AI、Upstage、Alt Inc、Nomic、Maritaca AI、NCSOFT和Twelve Labs等合作伙伴的基礎(chǔ)模型。

Amazon Bedrock是一項(xiàng)全托管服務(wù)，通過(guò)單一API提供來(lái)自AI21 Labs、Cohere、Meta、Mistral AI、Stability.ai和Amazon等領(lǐng)先生成式AI公司的基礎(chǔ)模型選擇。

Amazon SageMaker JumpStart是一個(gè)機(jī)器學(xué)習(xí)中心，提供對(duì)基礎(chǔ)模型、內(nèi)置算法和預(yù)構(gòu)建的機(jī)器學(xué)習(xí)解決方案的訪問(wèn)，您可以在幾個(gè)步驟內(nèi)部署它們。它提供了對(duì)來(lái)自AI21 Labs、Amazon、Cohere、Hugging Face、Stability.ai、Meta AI、LightOn等知名模型提供商的基礎(chǔ)模型的訪問(wèn)。

合作伙伴故事：Cohere

Cohere全球合作伙伴關(guān)系負(fù)責(zé)人Vinod Devan表示，很自豪能夠成為亞馬遜云科技合作伙伴網(wǎng)絡(luò)的一部分，企業(yè)客戶可以在亞馬遜云科技Marketplace上訪問(wèn)我們領(lǐng)先的大型語(yǔ)言模型。我們相信生成式AI對(duì)企業(yè)具有巨大潛力，我們致力于與亞馬遜云科技合作，幫助公司從概念驗(yàn)證階段進(jìn)入生產(chǎn)階段。Cohere的Command和Embed模型具有高度可擴(kuò)展性，并針對(duì)高級(jí)RAG功能進(jìn)行了優(yōu)化，可提供準(zhǔn)確的信息和引用，從而減少幻覺(jué)。我們找到了一個(gè)與我們同樣重視數(shù)據(jù)隱私和客戶安全的合作伙伴，通過(guò)與亞馬遜云科技合作，我們能夠向大量企業(yè)提供我們最先進(jìn)的大型語(yǔ)言模型，企業(yè)可以利用生成式AI的力量來(lái)簡(jiǎn)化工作流程、個(gè)性化客戶體驗(yàn)并創(chuàng)造真正的業(yè)務(wù)價(jià)值。我們期待繼續(xù)幫助企業(yè)客戶發(fā)揮生成式AI的全部潛力，提高生產(chǎn)力和效率。

向量數(shù)據(jù)庫(kù)可讓您存儲(chǔ)和檢索作為高維點(diǎn)的向量。它們通常用于支持視覺(jué)、語(yǔ)義和多模態(tài)搜索。它們還可以與生成式AI文本模型配對(duì)，創(chuàng)建提供對(duì)話式搜索體驗(yàn)的智能代理。向量數(shù)據(jù)庫(kù)在生成式AI的最常見(jiàn)實(shí)現(xiàn)模式之一——檢索增強(qiáng)生成（RAG）中扮演著關(guān)鍵角色，并非常適合實(shí)現(xiàn)推薦和個(gè)性化用例。

一些向量數(shù)據(jù)庫(kù)在亞馬遜云科技Marketplace上以軟件即服務(wù)（SaaS）的形式提供。其中包括DataStax Astra DB、Elastic Cloud的Elasticsearch Service、Weaviate、Pinecone、MongoDB Atlas、Zilliz、Qdrant、Redis、Neo4j Aura、SingleStore、Kx Kdb Insights、CrateDB和Couchbase Capella。Franz Inc AllegroGraph和Unum UniStore CE則以Amazon機(jī)器映像（AMI）的形式提供。

合作伙伴故事：MongoDB

Scalestack聯(lián)合創(chuàng)始人和CEO Elio Narciso表示，通過(guò)選擇亞馬遜云科技作為其云提供商，Scalestack能夠保持較低的云成本并實(shí)現(xiàn)數(shù)據(jù)使用的彈性。Scalestack還使用MongoDB Atlas Vector Search進(jìn)行RAG，以便對(duì)大型數(shù)據(jù)集執(zhí)行快速搜索并利用向量相似性。Scalestack的使命是幫助組織釋放銷(xiāo)售生產(chǎn)力，我們與MongoDB和亞馬遜云科技的關(guān)系對(duì)此至關(guān)重要。使用Scalestack的生成式AI，客戶顯著減少了研究時(shí)間并大幅提高了生產(chǎn)力?？蛻舻匿N(xiāo)售代表生產(chǎn)力提高了40%，GTM團(tuán)隊(duì)平均在Scalestack上獲得了53倍的投資回報(bào)率，這是由Scalestack影響的收入增量衡量的。

LLMOps、可觀測(cè)性以及安全和隱私工具

這些工具用于優(yōu)化生成式AI系統(tǒng)的可靠性、性能和安全性。LLMOps從降低部署和運(yùn)行大型語(yǔ)言模型的復(fù)雜性開(kāi)始，而可觀測(cè)性工具則在模型運(yùn)行后提供其行為見(jiàn)解。高級(jí)安全和隱私工具對(duì)于緩解處理敏感或私人數(shù)據(jù)所固有的風(fēng)險(xiǎn)至關(guān)重要。亞馬遜云科技Marketplace可讓您快速輕松地查找、購(gòu)買(mǎi)和開(kāi)始使用這些工具。更好的是，您可以從受信任的合作伙伴那里獲得精心策劃的選擇，幫助您加速云創(chuàng)新。

LLMOps和可觀測(cè)性工具對(duì)于加快生成式AI項(xiàng)目的價(jià)值實(shí)現(xiàn)時(shí)間并降低運(yùn)營(yíng)管理復(fù)雜性至關(guān)重要。它們還可以為高度監(jiān)管行業(yè)的企業(yè)提供可解釋性。亞馬遜云科技Marketplace上的SaaS產(chǎn)品包括CraftAI MLOps平臺(tái)、Comet MLOps、Arthur、Abacus.AI平臺(tái)、Weights&Biases AI開(kāi)發(fā)平臺(tái)和Union Cloud。還有一個(gè)AMI選項(xiàng)LangGenius Dify，以及一個(gè)在Amazon SageMaker上的選項(xiàng)Mphasis Factual Consistency Metric-LLMOps。

安全和隱私工具有助于保護(hù)生成式AI應(yīng)用程序并維護(hù)隱私。亞馬遜云科技Marketplace上的SaaS解決方案包括Bosch的AIShield GuArdIan、Add Value Machine的企業(yè)生成式AI安全中心、Portal26的AI TRiSM、MixMode實(shí)時(shí)威脅檢測(cè)和響應(yīng)、Compliance.sh基于生成式AI的安全合規(guī)性自動(dòng)化，以及Blink Ops Blink安全自動(dòng)化協(xié)作助手。

合作伙伴故事：AIShield

一家大型跨國(guó)工程和科技公司希望利用大型語(yǔ)言模型和生成式AI驅(qū)動(dòng)的內(nèi)部聊天機(jī)器人。他們意識(shí)到，在構(gòu)建、解釋和審查代碼時(shí)，借助生成式AI聊天機(jī)器人可以顯著提高軟件工程師的生產(chǎn)力，因此他們開(kāi)始評(píng)估實(shí)施和使用挑戰(zhàn)。為了負(fù)責(zé)任和謹(jǐn)慎地實(shí)施，在軟件工程師編碼過(guò)程中使用的聊天機(jī)器人內(nèi)部，有必要實(shí)施嚴(yán)格的控制措施，以防止知識(shí)產(chǎn)權(quán)流失、數(shù)據(jù)泄露、越獄嘗試、侵犯版權(quán)以及引入代碼漏洞，從而確保合規(guī)的編碼環(huán)境并遵守安全代碼實(shí)踐。

AIShield CEO&CTO Manojkumar Parmar表示，利用亞馬遜云科技基礎(chǔ)設(shè)施和我們創(chuàng)新的方法，我們構(gòu)建了一個(gè)系統(tǒng)，能夠熟練地吸收組織的編碼標(biāo)準(zhǔn)并在生成的代碼中執(zhí)行合規(guī)性檢查——無(wú)論是作為大型語(yǔ)言模型的輸入還是輸出。作為結(jié)果，該公司現(xiàn)在能夠?qū)⒅R(shí)產(chǎn)權(quán)和數(shù)據(jù)泄露風(fēng)險(xiǎn)降低90%，同時(shí)將越獄嘗試的有效性提高近400%，并保持使用生成式AI帶來(lái)的開(kāi)發(fā)人員生產(chǎn)力提升。IT開(kāi)發(fā)團(tuán)隊(duì)中的聊天機(jī)器人開(kāi)發(fā)人員只需五行代碼更改就能集成GuArdIan中間件，并在不到2小時(shí)內(nèi)部署GuArdIan功能。此外，GuArdIan的交互式響應(yīng)可作為一種重要的學(xué)習(xí)工具，通過(guò)區(qū)分適當(dāng)和不當(dāng)?shù)牟樵儊?lái)增強(qiáng)開(kāi)發(fā)人員與大型語(yǔ)言模型交互時(shí)的行為。實(shí)時(shí)監(jiān)控允許立即采取行動(dòng)應(yīng)對(duì)潛在的安全和安全風(fēng)險(xiǎn)。推理和可觀察性功能為查詢決策提供了詳細(xì)的解釋?zhuān)兄诤弦?guī)審計(jì)并加強(qiáng)了負(fù)責(zé)任的生成式AI使用。

亞馬遜云科技Marketplace還提供了不同的部署選項(xiàng)，可根據(jù)特定需求和偏好進(jìn)行定制，例如使用AMI啟動(dòng)預(yù)配置了軟件堆棧的虛擬機(jī)（VM）、在Amazon Elastic Container Service（Amazon ECS）的托管環(huán)境中運(yùn)行容器化應(yīng)用程序，或通過(guò)Amazon Elastic Kubernetes Services（Amazon EKS）使用Kubernetes編排功能。這些選項(xiàng)來(lái)自諸如Philterd Airlock、SpinSys MDACA PrivateGPT with Keycloak、Private AI:Detect、Redact and Anonymize PII以及Tonic等合作伙伴。

合作伙伴故事：Elastic

Randstad Group Netherlands全球安全運(yùn)維負(fù)責(zé)人Stijn Holzhauer表示，多年來(lái)，Randstad一直在使用Elastic Security運(yùn)行其安全運(yùn)營(yíng)中心（SOC）、進(jìn)行深入可見(jiàn)性監(jiān)控并響應(yīng)云工作負(fù)載中的威脅?，F(xiàn)在，我們正在尋求安全地在生產(chǎn)環(huán)境中利用生成式AI進(jìn)行檢測(cè)工程，尤其是對(duì)于我們規(guī)模雖小但實(shí)力強(qiáng)勁的安全團(tuán)隊(duì)。我們期待實(shí)施Elastic的AI Assistant，以縮短調(diào)查時(shí)間、減少技能短缺的影響并提高我們的檢測(cè)能力。

平臺(tái)、計(jì)算服務(wù)、推理端點(diǎn)和預(yù)置產(chǎn)品

這一類(lèi)別的產(chǎn)品有助于開(kāi)發(fā)、部署和管理生成式AI模型。它們提供了創(chuàng)建、訓(xùn)練、部署和使用生成式AI所需的工具、基礎(chǔ)設(shè)施和解決方案。由于使用了云計(jì)算，它們?yōu)槟峁┝藬U(kuò)展性、靈活性和可訪問(wèn)性，讓您能夠利用生成式AI的強(qiáng)大功能，而無(wú)需大量硬件資源或?qū)ｉT(mén)的內(nèi)部專(zhuān)業(yè)知識(shí)。

生成式AI平臺(tái)產(chǎn)品提供了應(yīng)用程序、庫(kù)或框架以及用于開(kāi)發(fā)、部署和管理生成式AI模型的基礎(chǔ)設(shè)施。它們的范圍從端到端平臺(tái)到低代碼和無(wú)代碼開(kāi)發(fā)平臺(tái)。SaaS解決方案包括Fireworks AI、Stratio Generative AI Data Fabric、Arcee.ai SLM Adaptation System、IBM watsonx Orchestrate、FriendliAI Friendli Dedicated Endpoints、Reconify、Vectara GenAI Platform、Saturn Cloud、TrustPortal for Amazon Web Services Generative AI和Articul8 AI。

還有通過(guò)AMI、Amazon CloudFormation模板、Amazon Elastic Compute Cloud（Amazon EC2）和Amazon EKS提供的解決方案，包括NVIDIA AI Enterprise、Intel Distribution of OpenVINO Toolkit、Ai Bloks llmware for Enterprise-Grade LLM Applications、ZS Max.AI Platform、Datasaur.ai LLM Labs和ecosystem.Ai platform。計(jì)算服務(wù)、推理端點(diǎn)和預(yù)置產(chǎn)品提供了各種履行選項(xiàng)，例如SaaS模式下的OctoAI和Amazon SageMaker中的MK1 Flywheel?；贏MI和Amazon CloudFormation模板的解決方案包括Meetrix.io和Apps4Rent產(chǎn)品。

一站式滿足您的生成式AI需要

在亞馬遜云科技，我們很高興能與您合作，利用生成式AI來(lái)幫助您重塑客戶體驗(yàn)、創(chuàng)建新應(yīng)用程序并提高生產(chǎn)力。我們最近推出了亞馬遜云科技Marketplace生成式AI合作伙伴解決方案頁(yè)面，幫助您快速輕松地找到值得信賴(lài)和安全的生成式AI解決方案。該頁(yè)面展示了生成式AI模型、工具、應(yīng)用程序和專(zhuān)業(yè)服務(wù)的列表，旨在加速創(chuàng)新。您可以將其作為起點(diǎn)，尋找一家生成式AI解決方案提供商，幫助您啟動(dòng)轉(zhuǎn)型之旅。