云端彈性計(jì)算的下一步是什么？

彈性計(jì)算能力多年以來(lái)都是云計(jì)算發(fā)展的核心基礎(chǔ)。因?yàn)槠髽I(yè)可以借助云擴(kuò)展的計(jì)算資源，按需、即時(shí)、彈性的獲取，從而加速業(yè)務(wù)創(chuàng)新，將產(chǎn)品更快的投入市場(chǎng)。經(jīng)過(guò)10多年的發(fā)展，云計(jì)算的增長(zhǎng)毫無(wú)放緩的跡象，今天云端的計(jì)算能力在滿足各種工作負(fù)載的同時(shí)，也在不斷向邊緣端延伸，無(wú)處不在。所以，云端彈性計(jì)算的不斷創(chuàng)新和突破直接決定了云供應(yīng)商的競(jìng)爭(zhēng)能力。

2021年初，亞馬遜云科技正式在中國(guó)市場(chǎng)落地了基于自研的云原生處理器Amazon Graviton2三類計(jì)算實(shí)例，這些實(shí)例的落地進(jìn)一步為中國(guó)用戶提供了更加多樣的計(jì)算實(shí)例選擇，同時(shí)也將更具性能和價(jià)格優(yōu)勢(shì)的計(jì)算資源帶到了中國(guó)市場(chǎng)。

引領(lǐng)云原生處理器潮流底氣何在？

作為云計(jì)算市場(chǎng)的領(lǐng)導(dǎo)者，亞馬遜云科技目前在云端提供近400種計(jì)算實(shí)例類型，在業(yè)務(wù)構(gòu)成上相當(dāng)于傳統(tǒng)上一家提供400種服務(wù)器型號(hào)的中大型服務(wù)器廠商。

一方面基于跟英特爾、AMD、英偉達(dá)、賽靈思等領(lǐng)先芯片供應(yīng)商的深入、廣泛的合作，不斷將最新的芯片技術(shù)應(yīng)用在云端，從而為企業(yè)提供多元化的實(shí)例選項(xiàng)；

一方面，通過(guò)在云端軟硬件架構(gòu)的創(chuàng)新，引領(lǐng)云原生處理器的潮流，為用戶提供更具性價(jià)比計(jì)算實(shí)例的同時(shí)，繼續(xù)夯實(shí)在云端彈性計(jì)算的領(lǐng)先優(yōu)勢(shì)。

根據(jù)Gartner的預(yù)測(cè)，到2022年將有75%的傳統(tǒng)老舊應(yīng)用被以云原生化的方式改造，將有75%的全球化企業(yè)將在生產(chǎn)中使用云原生的容器化應(yīng)用。也就是說(shuō)在企業(yè)通過(guò)云計(jì)算驅(qū)動(dòng)數(shù)字化轉(zhuǎn)型的進(jìn)程中，邁向云原生是必然的舉措，而這勢(shì)必全面釋放基于云原生處理器的彈性計(jì)算實(shí)例的技術(shù)紅利。

亞馬遜云科技作為云供應(yīng)商，引領(lǐng)云原生潮流無(wú)可厚非，那么要引領(lǐng)云原生處理器的潮流，底氣源自哪里？

就不得不提Amazon Nitro系統(tǒng)，該系統(tǒng)是滿足云服務(wù)器虛擬化的引擎，它包括了亞馬遜云科技在硬件和軟件方面的創(chuàng)新。硬件方面，亞馬遜云科技設(shè)計(jì)了一個(gè)Nitro卡，提供網(wǎng)絡(luò)、存儲(chǔ)、管理、安全和監(jiān)控的功能，實(shí)現(xiàn)多租戶隔離、私有網(wǎng)絡(luò)和快速本地存儲(chǔ)，從而便于打造高效、靈活、安全的云實(shí)例交付；軟件方面，亞馬遜云科技設(shè)計(jì)了一個(gè)非常輕量級(jí)的虛擬化管理程序。由于Nitro卡分擔(dān)了相當(dāng)大部分的虛擬化管理工作，Amazon Nitro虛擬化管理程序占用物理服務(wù)器系統(tǒng)資源非常小，這在很大程度上講物理服務(wù)器性能交付給了工作負(fù)載，據(jù)了解Amazon Nitro虛擬化管理程序占用的系統(tǒng)資源通常不到1%。

此外，Amazon Nitro系統(tǒng)提供了獨(dú)立的網(wǎng)絡(luò)和存儲(chǔ)卡來(lái)保證I/O性能，從而讓其能夠不斷推出具備更高存儲(chǔ)帶寬和網(wǎng)絡(luò)帶寬的計(jì)算實(shí)例。

Amazon Nitro系統(tǒng)的另一個(gè)優(yōu)勢(shì)是讓Amazon的計(jì)算實(shí)例在安全性方面更高。Nitro系統(tǒng)設(shè)計(jì)了一個(gè)專門的安全區(qū)域，用于臨時(shí)存儲(chǔ)實(shí)例中的個(gè)人身份信息、醫(yī)療保健、金融和知識(shí)產(chǎn)權(quán)數(shù)據(jù)等敏感數(shù)據(jù)。安全區(qū)域只提供與EC2計(jì)算實(shí)例的本地連接，沒(méi)有持久性存儲(chǔ)，沒(méi)有管理員和操作員訪問(wèn)權(quán)限，只能被EC2實(shí)例本地訪問(wèn)，禁止包括亞馬遜員工在內(nèi)的所有管理員訪問(wèn)，從而消除人為錯(cuò)誤和篡改的可能性，攻擊面最小化，減少了漏洞風(fēng)險(xiǎn)。

基于以上軟硬件的創(chuàng)新優(yōu)勢(shì)，亞馬遜云科技從2013年開(kāi)始定制Amazon Nitro芯片，并應(yīng)用于云端的彈性計(jì)算實(shí)例中。2020年，亞馬遜云科技已經(jīng)在使用第四代的Nitro芯片和系統(tǒng)，作為所有計(jì)算實(shí)例的基礎(chǔ)，這大大推動(dòng)了其自研處理器的快速發(fā)展。

亞馬遜云科技大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡

“Amazon Graviton系列芯片，是云平臺(tái)里面第一款基于ARM處理器的實(shí)例，也是一個(gè)為云原生的應(yīng)用而定制的處理器，Nitro系統(tǒng)起到了非常重要的關(guān)鍵作用”，亞馬遜云科技大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡說(shuō)。

為云上現(xiàn)代化應(yīng)用設(shè)計(jì)最優(yōu)性能

為云上現(xiàn)代化應(yīng)用設(shè)計(jì)最優(yōu)的性能是亞馬遜云科技不斷演進(jìn)和升級(jí)Amazon Nitro系統(tǒng)打造云原生處理器技術(shù)創(chuàng)新的核心。

Amazon Graviton作為業(yè)界第一款面向云原生去設(shè)計(jì)，適合運(yùn)營(yíng)現(xiàn)代化應(yīng)用負(fù)載的處理器，已經(jīng)被越來(lái)越多的云原生企業(yè)所青睞。

隨著Amazon Graviton2的面世，很快吸引了許多客戶和合作伙伴進(jìn)行測(cè)試?！癆mazon Graviton2比上一代的Graviton芯片，性能提升了幾倍，基本上客戶會(huì)看到47%-63%的性能提升”，亞馬遜云科技大中華區(qū)產(chǎn)品部計(jì)算與存儲(chǔ)總監(jiān)周舸說(shuō)。

回顧芯片多年來(lái)的發(fā)展，隨著摩爾定律遇到瓶頸，頻率的提升逐漸放緩，通過(guò)更多增加內(nèi)核數(shù)量，來(lái)對(duì)多線程、多進(jìn)程應(yīng)用進(jìn)行支持，這種變化也導(dǎo)致操作系統(tǒng)、軟件的設(shè)計(jì)和應(yīng)用架構(gòu)也去適應(yīng)芯片發(fā)展的特點(diǎn)，使得應(yīng)用和編程工具等都更適合平行擴(kuò)展的架構(gòu)來(lái)匹配芯片并行處理的特點(diǎn)。隨著微服務(wù)化應(yīng)用的崛起，應(yīng)用會(huì)將傳統(tǒng)的單體應(yīng)用拆分，分布在更好的微服務(wù)架構(gòu)上，從而快速的平行擴(kuò)展，這極大的利用了多核、多線程的芯片架構(gòu)處理能力。

“與傳統(tǒng)芯片考慮如何兼顧傳統(tǒng)數(shù)據(jù)中心中原有應(yīng)用架構(gòu)，通過(guò)大核心，跑多線程，調(diào)整緩存多少不同。陳亞焱嘗試將每個(gè)核的性能充分發(fā)揮出來(lái)，并在芯片中封裝更多的獨(dú)立核心，便于充分發(fā)揮平行擴(kuò)展的能力”，周舸說(shuō)。

如圖，以基于英特爾X86架構(gòu)的C5.large實(shí)例與基于Amazon Graviton2的C6g.large相比，任務(wù)在Amazon Graviton2中，有獨(dú)立的物理內(nèi)核，獨(dú)享L1和L2緩存，這就能夠大大提升實(shí)例的性能，從而最大程度的去適應(yīng)現(xiàn)在云原生上可以平行擴(kuò)展微服務(wù)化應(yīng)用的需要。

Amazon Graviton2云原生處理器落地中國(guó)區(qū)域，帶來(lái)了三個(gè)類別的實(shí)例，包括通用型M6g、計(jì)算密集型C6g、和內(nèi)存密集型R6g，每個(gè)類別分別有8種資源大小可供選擇，最大支持64個(gè)vCPU，累計(jì)24種實(shí)例。

Amazon Graviton2實(shí)例的應(yīng)用范圍也非常廣泛，除了適用于基于ARM應(yīng)用的游戲開(kāi)發(fā)、Web應(yīng)用前端等之外，因?yàn)閷?duì)緩存設(shè)計(jì)的改變，大大擴(kuò)寬了其應(yīng)用領(lǐng)域，比如滿足開(kāi)源數(shù)據(jù)庫(kù)、數(shù)據(jù)分析、高性能計(jì)算、流計(jì)算等應(yīng)用上。更為重要的是，Graviton2在云原生，如微服務(wù)、容器應(yīng)用方面具有天然的優(yōu)勢(shì)。

涂鴉智能是一家全球化的AI+IoT領(lǐng)軍企業(yè)，主要為開(kāi)發(fā)者提供一站式人工智能物聯(lián)網(wǎng)PaaS平臺(tái)，每天處理的設(shè)備請(qǐng)求次數(shù)在840億次，請(qǐng)求高峰更是高達(dá)150萬(wàn)次每秒，云端服務(wù)器的響應(yīng)時(shí)間小于10毫秒。

伴隨全球化的步伐和業(yè)務(wù)增長(zhǎng)，涂鴉智能一方面通過(guò)云來(lái)保證全球業(yè)務(wù)擴(kuò)張應(yīng)用的高可靠性和創(chuàng)新速度，一方面選擇最優(yōu)的云端彈性計(jì)算性能來(lái)滿足業(yè)務(wù)的快速增長(zhǎng)。

如圖，涂鴉智能的每個(gè)IoT設(shè)備都首先通過(guò)MQTT協(xié)議連接到云端。底層同時(shí)支持了TLS和QUIC。涂鴉智能是業(yè)界最先將QUIC用于MQTT協(xié)議的，它為其帶來(lái)了更高性能的網(wǎng)絡(luò)傳輸以及在入網(wǎng)環(huán)境下更好的表現(xiàn)。通過(guò)亞馬遜云科技的Network Load Balancer負(fù)載均衡，將請(qǐng)求轉(zhuǎn)發(fā)到后端具體的實(shí)例上。首先是Levimqm2m層用來(lái)保持一個(gè)TCP的長(zhǎng)鏈接，做協(xié)議解析；然后將解析后的MQTT協(xié)議，交給后邊的Levimqcore，做請(qǐng)求的處理以及轉(zhuǎn)發(fā)、連接的認(rèn)證健全等等。peadb是涂鴉智能自研的內(nèi)存數(shù)據(jù)庫(kù)，作用是存儲(chǔ)每一個(gè)設(shè)備的連接狀態(tài)、權(quán)限信息等等。目前三層應(yīng)用已經(jīng)全部切換到了Amazon Graviton2，上面第一層m2m是基于M6g的機(jī)器來(lái)構(gòu)建，中間層是邏輯處理層，基于C6g，因?yàn)檫@一層需要更高的計(jì)算性能。

“Amazon Graviton2的架構(gòu)非常符合涂鴉智能連接層的架構(gòu)，因?yàn)槲覀兊倪B接層本身就有輕量級(jí)的進(jìn)程，Amazon Graviton2每個(gè)CPU核心的設(shè)計(jì)，每個(gè)進(jìn)程都是隔離運(yùn)行的，并且Amazon Graviton2也為我們提供了更大的緩存，整個(gè)CPU獲得了非常好的提升”，涂鴉云端開(kāi)發(fā)部首席架構(gòu)師陳亞焱說(shuō)。

在談及遷移到Amazon Graviton2之后的效果時(shí)，陳亞焱表示，“根據(jù)測(cè)試數(shù)據(jù)，從原來(lái)基于x86架構(gòu)的M5g實(shí)例遷移到Amazon Graviton2，CPU的性能提升了100%，服務(wù)器單價(jià)降低了20%，使得涂鴉智能的整體性價(jià)比提升了2.5倍?！?/span>