NVIDIA、微軟聯(lián)手打造巨型云計算超級計算機，加速生成式AI進展

NVIDIA今日宣布與微軟展開多年合作計劃，將共同打造全球最強大人工智能（AI）超級計算機之一，結合Microsoft Azure先進超級運算基礎設施，以及NVIDIA的GPU、網絡技術和完整的AI軟件堆棧支持這臺AI超級計算機，協(xié)助企業(yè)訓練、部署和擴展AI，包括最先進大型模型。

NVIDIA表示，本次合作運用Azure具擴展性的虛擬機執(zhí)行實例，推動研究并進一步加快推動生成式AI（generative AI）進展。生成式AI是迅速崛起的AI領域，像是Megatron Turing NLG 530B這類基礎模型，是無監(jiān)督、自我學習算法的基礎，創(chuàng)造新文本、程序代碼、數(shù)字圖片、視頻或音頻。

Microsoft Azure針對AI優(yōu)化調整的虛擬機執(zhí)行實例構建于NVIDIA最先進的數(shù)據中心GPU，是第一個采用NVIDIA Quantum-2 400Gb/s InfiniBand網絡技術的公有云執(zhí)行實例?？蛻艨稍趩我患翰渴饠?shù)千個GPU，訓練最龐大的大型語言模型、大規(guī)模創(chuàng)建最復雜的推薦系統(tǒng)，以及大規(guī)模運用產生式AI。

不僅如此，雙方也合作將微軟的DeepSpeed深度學習優(yōu)化軟件調整到最佳狀態(tài)。微軟的DeepSpeed將利用NVIDIA H100 Transformer引擎加快執(zhí)行采用Transformer模型的速度，用于大型語言模型、生成式AI和計算機程序代碼編寫等廣泛應用。這項技術將8位元浮點精度功能用于DeepSpeed，以大幅加快采用Transformer模型的AI運算速度，傳輸量是16位元運算的兩倍。

NVIDIA企業(yè)運算部門副總裁Manuvir Das表示，AI技術進步加上產業(yè)采用腳步不斷加快，基礎模型的突破性發(fā)展促進研究潮、培育更多創(chuàng)業(yè)公司，并開發(fā)新企業(yè)應用。雙方合作將為研究人員及企業(yè)提供最先進AI基礎設施和軟件。

（首圖來源：NVIDIA）