AWS推出基于機器學習的EC2容量區(qū)塊，多種預訂方式便利企業(yè)AI開發(fā)

過去數(shù)年GPU資源一直被企業(yè)熱搶作AI開發(fā)。但購買GPU卡預算高昂，實際所需算能也難以憑空估算。AWS為此推出適用于機器學習（ML）的EC2容量區(qū)塊，讓客戶能夠租用GPU算力，以運行其短期ML workload。借助EC2容量塊，可以使用二代UltraCluster 3,200G網(wǎng)絡，結合EFA技術，以獲得最佳網(wǎng)絡性能，更可預留高達512個NVIDIA GPU。

AWS的GPU實例預訂方式讓用戶可以選定未來日子所需保留的實例數(shù)。EC2容量區(qū)塊目前最新可用到NVIDIA H200 Tensor Core GPU提供支持的Amazon EC2 P5e實例，最多可提早8星期預留或預留28天使用時長。以下將介紹以不同方法預訂容量區(qū)塊。

在Amazon EC2 Console上選擇Capacity Reservation，可以看到兩個容量預留選項。選擇Purchase Capacity Block for ML，然后選擇Get started以開始尋找EC2容量區(qū)塊。

其次，選擇總容量并指定所需要EC2容量塊的時間?？梢灶A留以下大小的EC2容量塊：1、2、4、8、16、32或64個實例?？深A留EC2容量區(qū)塊的總天數(shù)為1到28天。EC2容量塊最多可提前8星期預訂。以下例子為p5.48xlarge。

EC2容量區(qū)塊的價格取決于購買EC2容量區(qū)塊時的總可用供需量，和預訂酒店邏輯相似。用戶可以調整大小、持續(xù)時間或日期范圍，以搜索其他EC2容量區(qū)塊選項。當選擇Find Capacity blocks時，AWS將提供指定的日期范圍內符合規(guī)范的最低價格產品以供選訂。

查看EC2容量區(qū)塊詳細資訊、標簽和總價格資訊后，選擇Purchase。有關總價格是預先收取的，購買后價格不會改變。用戶需在確認購買EC2容量區(qū)塊的12小時內完成付款。

所有EC2容量區(qū)塊預留均從（UTC+8）19:30開始。EC2容量塊在購買后無法修改或取消。

AWS也提供API形式尋找可供預訂的容量區(qū)塊并進行預訂。使用API提供集群要求并發(fā)現(xiàn)可供購買的EC2容量塊。首先，使用describe-capacity-block-offerings API提供集群要求并發(fā)現(xiàn)可供購買的EC2容量區(qū)塊。

使用上述指令找到可用的EC2容量區(qū)塊后，就可以使用以下API購買：CapacityBlockOfferingIdpurchase-capacity-block-reservation

最后，會看見EC2容量區(qū)塊現(xiàn)已成功預留。在到達擬訂的開始日期，EC2容量區(qū)塊將態(tài)將變成Active。要使用Active的EC2容量塊，可點擊EC2容量區(qū)塊的ID。

選擇Launch instances，便可以啟動EC2實例，并開始運行ML workload。

請注意，當EC2容量區(qū)塊臨近結束，EC2將通過Amazon EventBridge發(fā)出預留即將結束的通知，以便對工作負載進行檢查點操作。在EC2容量區(qū)塊中運行的任何實例都會在預留結束前30分鐘關閉。用戶不會為此時段支付金額。當EC2容量區(qū)塊過期，任何仍在運行的實例都將被終止。