云端彈性計算的下一步是什么？

彈性計算能力多年以來都是云計算發(fā)展的核心基礎(chǔ)。因為企業(yè)可以借助云擴展的計算資源，按需、即時、彈性的獲取，從而加速業(yè)務(wù)創(chuàng)新，將產(chǎn)品更快的投入市場。經(jīng)過10多年的發(fā)展，云計算的增長毫無放緩的跡象，今天云端的計算能力在滿足各種工作負載的同時，也在不斷向邊緣端延伸，無處不在。所以，云端彈性計算的不斷創(chuàng)新和突破直接決定了云供應(yīng)商的競爭能力。

2021年初，亞馬遜云科技正式在中國市場落地了基于自研的云原生處理器Amazon Graviton2三類計算實例，這些實例的落地進一步為中國用戶提供了更加多樣的計算實例選擇，同時也將更具性能和價格優(yōu)勢的計算資源帶到了中國市場。

引領(lǐng)云原生處理器潮流底氣何在？

作為云計算市場的領(lǐng)導(dǎo)者，亞馬遜云科技目前在云端提供近400種計算實例類型，在業(yè)務(wù)構(gòu)成上相當(dāng)于傳統(tǒng)上一家提供400種服務(wù)器型號的中大型服務(wù)器廠商。

一方面基于跟英特爾、AMD、英偉達、賽靈思等領(lǐng)先芯片供應(yīng)商的深入、廣泛的合作，不斷將最新的芯片技術(shù)應(yīng)用在云端，從而為企業(yè)提供多元化的實例選項；

一方面，通過在云端軟硬件架構(gòu)的創(chuàng)新，引領(lǐng)云原生處理器的潮流，為用戶提供更具性價比計算實例的同時，繼續(xù)夯實在云端彈性計算的領(lǐng)先優(yōu)勢。

根據(jù)Gartner的預(yù)測，到2022年將有75%的傳統(tǒng)老舊應(yīng)用被以云原生化的方式改造，將有75%的全球化企業(yè)將在生產(chǎn)中使用云原生的容器化應(yīng)用。也就是說在企業(yè)通過云計算驅(qū)動數(shù)字化轉(zhuǎn)型的進程中，邁向云原生是必然的舉措，而這勢必全面釋放基于云原生處理器的彈性計算實例的技術(shù)紅利。

亞馬遜云科技作為云供應(yīng)商，引領(lǐng)云原生潮流無可厚非，那么要引領(lǐng)云原生處理器的潮流，底氣源自哪里？

就不得不提Amazon Nitro系統(tǒng)，該系統(tǒng)是滿足云服務(wù)器虛擬化的引擎，它包括了亞馬遜云科技在硬件和軟件方面的創(chuàng)新。硬件方面，亞馬遜云科技設(shè)計了一個Nitro卡，提供網(wǎng)絡(luò)、存儲、管理、安全和監(jiān)控的功能，實現(xiàn)多租戶隔離、私有網(wǎng)絡(luò)和快速本地存儲，從而便于打造高效、靈活、安全的云實例交付；軟件方面，亞馬遜云科技設(shè)計了一個非常輕量級的虛擬化管理程序。由于Nitro卡分擔(dān)了相當(dāng)大部分的虛擬化管理工作，Amazon Nitro虛擬化管理程序占用物理服務(wù)器系統(tǒng)資源非常小，這在很大程度上講物理服務(wù)器性能交付給了工作負載，據(jù)了解Amazon Nitro虛擬化管理程序占用的系統(tǒng)資源通常不到1%。

此外，Amazon Nitro系統(tǒng)提供了獨立的網(wǎng)絡(luò)和存儲卡來保證I/O性能，從而讓其能夠不斷推出具備更高存儲帶寬和網(wǎng)絡(luò)帶寬的計算實例。

Amazon Nitro系統(tǒng)的另一個優(yōu)勢是讓Amazon的計算實例在安全性方面更高。Nitro系統(tǒng)設(shè)計了一個專門的安全區(qū)域，用于臨時存儲實例中的個人身份信息、醫(yī)療保健、金融和知識產(chǎn)權(quán)數(shù)據(jù)等敏感數(shù)據(jù)。安全區(qū)域只提供與EC2計算實例的本地連接，沒有持久性存儲，沒有管理員和操作員訪問權(quán)限，只能被EC2實例本地訪問，禁止包括亞馬遜員工在內(nèi)的所有管理員訪問，從而消除人為錯誤和篡改的可能性，攻擊面最小化，減少了漏洞風(fēng)險。

基于以上軟硬件的創(chuàng)新優(yōu)勢，亞馬遜云科技從2013年開始定制Amazon Nitro芯片，并應(yīng)用于云端的彈性計算實例中。2020年，亞馬遜云科技已經(jīng)在使用第四代的Nitro芯片和系統(tǒng)，作為所有計算實例的基礎(chǔ)，這大大推動了其自研處理器的快速發(fā)展。

亞馬遜云科技大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡

“Amazon Graviton系列芯片，是云平臺里面第一款基于ARM處理器的實例，也是一個為云原生的應(yīng)用而定制的處理器，Nitro系統(tǒng)起到了非常重要的關(guān)鍵作用”，亞馬遜云科技大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡說。

為云上現(xiàn)代化應(yīng)用設(shè)計最優(yōu)性能

為云上現(xiàn)代化應(yīng)用設(shè)計最優(yōu)的性能是亞馬遜云科技不斷演進和升級Amazon Nitro系統(tǒng)打造云原生處理器技術(shù)創(chuàng)新的核心。

Amazon Graviton作為業(yè)界第一款面向云原生去設(shè)計，適合運營現(xiàn)代化應(yīng)用負載的處理器，已經(jīng)被越來越多的云原生企業(yè)所青睞。

隨著Amazon Graviton2的面世，很快吸引了許多客戶和合作伙伴進行測試?！癆mazon Graviton2比上一代的Graviton芯片，性能提升了幾倍，基本上客戶會看到47%-63%的性能提升”，亞馬遜云科技大中華區(qū)產(chǎn)品部計算與存儲總監(jiān)周舸說。

回顧芯片多年來的發(fā)展，隨著摩爾定律遇到瓶頸，頻率的提升逐漸放緩，通過更多增加內(nèi)核數(shù)量，來對多線程、多進程應(yīng)用進行支持，這種變化也導(dǎo)致操作系統(tǒng)、軟件的設(shè)計和應(yīng)用架構(gòu)也去適應(yīng)芯片發(fā)展的特點，使得應(yīng)用和編程工具等都更適合平行擴展的架構(gòu)來匹配芯片并行處理的特點。隨著微服務(wù)化應(yīng)用的崛起，應(yīng)用會將傳統(tǒng)的單體應(yīng)用拆分，分布在更好的微服務(wù)架構(gòu)上，從而快速的平行擴展，這極大的利用了多核、多線程的芯片架構(gòu)處理能力。

“與傳統(tǒng)芯片考慮如何兼顧傳統(tǒng)數(shù)據(jù)中心中原有應(yīng)用架構(gòu)，通過大核心，跑多線程，調(diào)整緩存多少不同。陳亞焱嘗試將每個核的性能充分發(fā)揮出來，并在芯片中封裝更多的獨立核心，便于充分發(fā)揮平行擴展的能力”，周舸說。

如圖，以基于英特爾X86架構(gòu)的C5.large實例與基于Amazon Graviton2的C6g.large相比，任務(wù)在Amazon Graviton2中，有獨立的物理內(nèi)核，獨享L1和L2緩存，這就能夠大大提升實例的性能，從而最大程度的去適應(yīng)現(xiàn)在云原生上可以平行擴展微服務(wù)化應(yīng)用的需要。

Amazon Graviton2云原生處理器落地中國區(qū)域，帶來了三個類別的實例，包括通用型M6g、計算密集型C6g、和內(nèi)存密集型R6g，每個類別分別有8種資源大小可供選擇，最大支持64個vCPU，累計24種實例。

Amazon Graviton2實例的應(yīng)用范圍也非常廣泛，除了適用于基于ARM應(yīng)用的游戲開發(fā)、Web應(yīng)用前端等之外，因為對緩存設(shè)計的改變，大大擴寬了其應(yīng)用領(lǐng)域，比如滿足開源數(shù)據(jù)庫、數(shù)據(jù)分析、高性能計算、流計算等應(yīng)用上。更為重要的是，Graviton2在云原生，如微服務(wù)、容器應(yīng)用方面具有天然的優(yōu)勢。

涂鴉智能是一家全球化的AI+IoT領(lǐng)軍企業(yè)，主要為開發(fā)者提供一站式人工智能物聯(lián)網(wǎng)PaaS平臺，每天處理的設(shè)備請求次數(shù)在840億次，請求高峰更是高達150萬次每秒，云端服務(wù)器的響應(yīng)時間小于10毫秒。

伴隨全球化的步伐和業(yè)務(wù)增長，涂鴉智能一方面通過云來保證全球業(yè)務(wù)擴張應(yīng)用的高可靠性和創(chuàng)新速度，一方面選擇最優(yōu)的云端彈性計算性能來滿足業(yè)務(wù)的快速增長。

如圖，涂鴉智能的每個IoT設(shè)備都首先通過MQTT協(xié)議連接到云端。底層同時支持了TLS和QUIC。涂鴉智能是業(yè)界最先將QUIC用于MQTT協(xié)議的，它為其帶來了更高性能的網(wǎng)絡(luò)傳輸以及在入網(wǎng)環(huán)境下更好的表現(xiàn)。通過亞馬遜云科技的Network Load Balancer負載均衡，將請求轉(zhuǎn)發(fā)到后端具體的實例上。首先是Levimqm2m層用來保持一個TCP的長鏈接，做協(xié)議解析；然后將解析后的MQTT協(xié)議，交給后邊的Levimqcore，做請求的處理以及轉(zhuǎn)發(fā)、連接的認證健全等等。peadb是涂鴉智能自研的內(nèi)存數(shù)據(jù)庫，作用是存儲每一個設(shè)備的連接狀態(tài)、權(quán)限信息等等。目前三層應(yīng)用已經(jīng)全部切換到了Amazon Graviton2，上面第一層m2m是基于M6g的機器來構(gòu)建，中間層是邏輯處理層，基于C6g，因為這一層需要更高的計算性能。

“Amazon Graviton2的架構(gòu)非常符合涂鴉智能連接層的架構(gòu)，因為我們的連接層本身就有輕量級的進程，Amazon Graviton2每個CPU核心的設(shè)計，每個進程都是隔離運行的，并且Amazon Graviton2也為我們提供了更大的緩存，整個CPU獲得了非常好的提升”，涂鴉云端開發(fā)部首席架構(gòu)師陳亞焱說。

在談及遷移到Amazon Graviton2之后的效果時，陳亞焱表示，“根據(jù)測試數(shù)據(jù)，從原來基于x86架構(gòu)的M5g實例遷移到Amazon Graviton2，CPU的性能提升了100%，服務(wù)器單價降低了20%，使得涂鴉智能的整體性價比提升了2.5倍。”