Google針對生成式人工智能應用程序開發(fā),發(fā)布諸多新工具與功能,而這包含新的企業(yè)版Colab,并在全托管機器學習工具Vertex AI支持分布式運算框架Ray,同時還推出一系列MLOps功能,簡化模型調(diào)校、評估與使用。
Google新推出企業(yè)版Colab公共預覽版,企業(yè)版Colab是一個全托管服務,除了原先Google Colab筆記本的功能之外,還添加企業(yè)級安全性和法遵支持。Google Colab是由Google研究院開發(fā)的熱門云計算Jupyter筆記本,每月活躍用戶達700萬人,Colab讓用戶可以在瀏覽器中執(zhí)行Python程序代碼,支持圖表、圖像、HTML與LaTeX等多樣內(nèi)容,并且能夠方便地在團隊中共享項目。
企業(yè)版Colab加入Vertex AI支持,可以訪問Vertex AI ePlatform上各式模型、調(diào)校工具、計算資源和機器類型,還有各種數(shù)據(jù)科學和MLOps工具。特別的是,企業(yè)版Colab有一個新的協(xié)作工作區(qū),能夠探索、分享和預測BigQuery中的數(shù)據(jù),官方提到,企業(yè)版Colab可以供用戶在BigQuery中啟動筆記本,以探索和準備數(shù)據(jù),并且在Vertex AI打開同一筆記本,繼續(xù)使用專門的人工智能基礎設施和工具工作,團隊間可通過企業(yè)版Colab高度協(xié)作,消除數(shù)據(jù)和人工智能工作負載間的界限。
已經(jīng)支持TensorFlow、PyTorch、scikit-learn和XGBoost等諸多框架的Vertex AI,現(xiàn)在進一步添加Ray框架。Ray是一個開源分布式運算框架,主要用來構(gòu)建、執(zhí)行大規(guī)模分布式人工智能與Python應用程序。由于Vertex AI上包括企業(yè)版Colab、訓練、預測和MLOps功能等跨工具集成,用戶可以在現(xiàn)有Vertex AI工作流程應用Ray框架。
數(shù)據(jù)科學家的工作流程,可從Vertex AI目錄中選擇模型開始,選用像是Llama 2、Dolly、Falcon、Stable Diffusion等模型,并在企業(yè)版Colab中打開,進行實驗、調(diào)整和原型設計,接著Ray框架便可充分運用計算資源,訓練生成式人工智能模型。
除此之外,Google也針對生成式人工智能推出新的MLOps功能,提供跨模式調(diào)校功能,PaLM 2 Text現(xiàn)在能以監(jiān)督式調(diào)校之外,可根據(jù)人類反饋進行增強學習的RLHF(Reinforcement Learning from Human Feedback)功能也在預覽階段。還在文生圖模型Imagen加入Style Tuning調(diào)校方法,用戶只要提供10個參照圖像,Imagen就能創(chuàng)建符合品牌形象的圖像。
另外,用戶也可以通過自訂義指標,來評估模型的品質(zhì),以便后續(xù)迭代與改進,而Automatic Side by Side功能,則是運用大型模型評估正在測試的模型輸出,以擴大人類評估的規(guī)模。Google更在多個存儲服務中添加矢量支持,使開發(fā)者可以更簡單地操作嵌入,強化人工智能應用。