AWS發(fā)布搭載A10G GPU的EC2執(zhí)行實例G5，機器學(xué)習(xí)性能是前一代3倍以上

AWS更新其G系列EC2執(zhí)行實例，發(fā)布最新搭載Nvidia A10G張量核心GPU的G5執(zhí)行實例，能夠更好地支持多媒體和機器學(xué)習(xí)等使用案例。AWS在兩年前發(fā)布配備可多達8個Nvidia T4張量核心GPU的G4執(zhí)行實例，主要針對機器學(xué)習(xí)推理和圖形密集的應(yīng)用程序，提供高性能GPU運算能力。

而現(xiàn)在新的G5執(zhí)行實例，則是搭載多達8個A10G張量核心GPU，CPU則是使用第二代AMD EPYC處理器，整體來說，推理和圖形運算的性價比前一代提高了40%。

A10G GPU與T4相比，A10G GPU機器學(xué)習(xí)訓(xùn)練的性能達3.3倍，推理能力和圖形性能也有3倍，每個A10G GPU具有24 GB內(nèi)存、80個光線關(guān)注核心、320個第三代Nvidia張量核心，可以提供250 TOPS運算能力。

隨著GPU的升級，G5執(zhí)行實例的光線關(guān)注也獲得提升，因此能更好地支持游戲開發(fā)工具，而且每個執(zhí)行實例也擁有大量EBS帶寬，甚至能夠支持即時播放用例。在機器學(xué)習(xí)支持上，G5在訓(xùn)練和推理的速度更快了，用戶也能使用Nvidia CuDNN、TensorRT和各種針對GPU優(yōu)化的軟件，加快機器學(xué)習(xí)運算。

G5執(zhí)行實例同時支持Linux和Windows操作系統(tǒng)，并兼容各種圖形和機器學(xué)習(xí)函數(shù)庫，包括CUDA、OpenCL、DirectX、Vulkan和OpenGL等。目前G5已經(jīng)上市，用戶可以在美東、美西和歐洲地區(qū)使用，同時用戶也能夠在Amazon ECS和EKS集群中，激活G5執(zhí)行實例。