IBM上周宣布一款用于AI模型訓練的單系統(tǒng)(SoC)芯片,名為AIU(Artificial Intelligence Unit)。
IBM研究AI硬件中心研究人員說,AI大約在10年剛開始發(fā)展史,研究人員的任務(wù)很單純,只是訓練能識別動物的模型,這只要數(shù)百萬張照片,以及運算硬件跑上一長段時間就能訓練出一個深度學習模型。但今天深度學習模型的工作已經(jīng)從識別貓狗變成翻譯語言、從醫(yī)療圖片偵測出腫瘤,以及其他高深的任務(wù)。
除了任務(wù)變得困難,研究人員也面臨計算資源不足的挑戰(zhàn)?,F(xiàn)在執(zhí)行AI建模的服務(wù)器都搬上了云計算或邊緣設(shè)備,像是手機及物聯(lián)網(wǎng)傳感器等速度不那么快的硬件。這也促使IBM開發(fā)AI專用芯片。
IBM的AI硬件中心2019年成立,預(yù)計每年要將AI硬件效率提升2.5倍。計劃到2029年,要訓練出比三年前速度快1,000倍的AI模型。AIU則是該中心公布第一款A(yù)I專用芯片。
AIU是IBM第一款作為深度學習專用、可程序化的ASIC(application-specific integrated circuit,特定應(yīng)用集成電路)。AIU的核心其實和IBM最新大型主機z16 Telum芯片AI加速技術(shù)類似。AIU具備32運算核心,以及230億顆晶體管,幾乎等同Telum芯片(具225億顆晶體管),更厲害的是Telum的晶體管為7納米大小,AIU則用上了更高端、小至5納米的晶體管。
IBM強調(diào)其AI專用芯片有兩大特點,一是使用IBM近似運算(approximate computing)的技術(shù),將32位元浮點運算降到1位元,通過降低精度達到提升資料運算速度。其AIU在浮點計算及整數(shù)表示(integer representation),使AI模型執(zhí)行更快、不耗內(nèi)存。其次,這款A(yù)I芯片版圖(layout)是為簡化AI工作流程而設(shè)計,且可直接將資料由一個運算引擎送到另一個,節(jié)省大量能耗。
另一方面,AIU也設(shè)計成像顯卡一樣容易使用,可輕易從PCIe插槽插入任何計算機或服務(wù)器。
IBM未說明AIU推出進程,只表示希望很快能公布。