NVIDIA、微軟聯(lián)手打造巨型云計算超級計算機，加速生成式AI進展

NVIDIA今日宣布與微軟展開多年合作計劃，將共同打造全球最強大人工智能（AI）超級計算機之一，結(jié)合Microsoft Azure先進超級運算基礎(chǔ)設(shè)施，以及NVIDIA的GPU、網(wǎng)絡(luò)技術(shù)和完整的AI軟件堆棧支持這臺AI超級計算機，協(xié)助企業(yè)訓(xùn)練、部署和擴展AI，包括最先進大型模型。

NVIDIA表示，本次合作運用Azure具擴展性的虛擬機執(zhí)行實例，推動研究并進一步加快推動生成式AI（generative AI）進展。生成式AI是迅速崛起的AI領(lǐng)域，像是Megatron Turing NLG 530B這類基礎(chǔ)模型，是無監(jiān)督、自我學(xué)習(xí)算法的基礎(chǔ)，創(chuàng)造新文本、程序代碼、數(shù)字圖片、視頻或音頻。

Microsoft Azure針對AI優(yōu)化調(diào)整的虛擬機執(zhí)行實例構(gòu)建于NVIDIA最先進的數(shù)據(jù)中心GPU，是第一個采用NVIDIA Quantum-2 400Gb/s InfiniBand網(wǎng)絡(luò)技術(shù)的公有云執(zhí)行實例?？蛻艨稍趩我患翰渴饠?shù)千個GPU，訓(xùn)練最龐大的大型語言模型、大規(guī)模創(chuàng)建最復(fù)雜的推薦系統(tǒng)，以及大規(guī)模運用產(chǎn)生式AI。

不僅如此，雙方也合作將微軟的DeepSpeed深度學(xué)習(xí)優(yōu)化軟件調(diào)整到最佳狀態(tài)。微軟的DeepSpeed將利用NVIDIA H100 Transformer引擎加快執(zhí)行采用Transformer模型的速度，用于大型語言模型、生成式AI和計算機程序代碼編寫等廣泛應(yīng)用。這項技術(shù)將8位元浮點精度功能用于DeepSpeed，以大幅加快采用Transformer模型的AI運算速度，傳輸量是16位元運算的兩倍。

NVIDIA企業(yè)運算部門副總裁Manuvir Das表示，AI技術(shù)進步加上產(chǎn)業(yè)采用腳步不斷加快，基礎(chǔ)模型的突破性發(fā)展促進研究潮、培育更多創(chuàng)業(yè)公司，并開發(fā)新企業(yè)應(yīng)用。雙方合作將為研究人員及企業(yè)提供最先進AI基礎(chǔ)設(shè)施和軟件。

（首圖來源：NVIDIA）