先行一步,7大技術(shù)創(chuàng)新和突破,阿里云把 Serverless 領(lǐng)域的這些難題都給解了

來(lái)源: 阿里云
作者:阿里巴巴云原生小助手
時(shí)間:2021-10-28
16428
函數(shù)計(jì)算 FC 首創(chuàng) GPU 實(shí)例、業(yè)內(nèi)首發(fā)實(shí)例級(jí)別可觀測(cè)和調(diào)試、率先提供端云聯(lián)調(diào)和多環(huán)境部署能力、GB 級(jí)別鏡像啟動(dòng)時(shí)間優(yōu)化至秒級(jí)、VPC 網(wǎng)絡(luò)建連優(yōu)化至200ms,Serverless 應(yīng)用引擎 SAE 支持微服務(wù)框架無(wú)縫遷移、無(wú)需容器化改造、業(yè)內(nèi)首創(chuàng)混合彈性策略,這些創(chuàng)新和突破,將 Serverless 領(lǐng)域的技術(shù)難題給解了,徹底跨越了影響 Serverless 進(jìn)一步落地企業(yè)核心生產(chǎn)場(chǎng)景的絆腳石。

函數(shù)計(jì)算 FC 首創(chuàng) GPU 實(shí)例、業(yè)內(nèi)首發(fā)實(shí)例級(jí)別可觀測(cè)和調(diào)試、率先提供端云聯(lián)調(diào)和多環(huán)境部署能力、GB 級(jí)別鏡像啟動(dòng)時(shí)間優(yōu)化至秒級(jí)、VPC 網(wǎng)絡(luò)建連優(yōu)化至200ms,Serverless 應(yīng)用引擎 SAE 支持微服務(wù)框架無(wú)縫遷移、無(wú)需容器化改造、業(yè)內(nèi)首創(chuàng)混合彈性策略,這些創(chuàng)新和突破,將 Serverless 領(lǐng)域的技術(shù)難題給解了,徹底跨越了影響 Serverless 進(jìn)一步落地企業(yè)核心生產(chǎn)場(chǎng)景的絆腳石。

“即使云計(jì)算已經(jīng)興起,但是大家的工作仍然是圍繞服務(wù)器,不過(guò),這個(gè)不會(huì)持續(xù)太久,云應(yīng)用正在朝著無(wú)服務(wù)器的方向發(fā)展?!?/p>

這是 Ken Form 在2012年的一篇《Why The Future of Software and Apps is Serverless》文章中提出的關(guān)于未來(lái)云計(jì)算的觀點(diǎn)。

Serverless First:從云廠商主張到客戶主見(jiàn)

Serverless 與身俱來(lái)的彈性能力和容錯(cuò)能力,很好的契合了企業(yè)在線業(yè)務(wù)的彈性和穩(wěn)定性的雙重訴求,成為企業(yè)云上架構(gòu)演進(jìn)的新方向。

時(shí)至今日,隨著越來(lái)越多的大中型企業(yè)將傳統(tǒng)后端領(lǐng)域?qū)U(kuò)容有靈活需求的執(zhí)行單元?jiǎng)冸x出來(lái),運(yùn)行在 Serverless 架構(gòu)上,以及更注重研發(fā)和交付效率的創(chuàng)業(yè)團(tuán)隊(duì)將業(yè)務(wù)全部 Serverless 化,Serverless First 的理念更加深入人心,使得越來(lái)越多的云上工作負(fù)載運(yùn)行在無(wú)服務(wù)器上。

數(shù)字上的變化代表了技術(shù)的市場(chǎng)成熟度。

根據(jù) Datadog 今年的一份報(bào)告,Datadog 上一半的 AWS 客戶使用了 Lambda,80% 的 AWS 容器客戶使用了 Lambda,而且這些用戶每天調(diào)用函數(shù)的次數(shù)是兩年前的 3.5 倍,運(yùn)行時(shí)長(zhǎng)達(dá)900 小時(shí)/天。再看看國(guó)內(nèi)的市場(chǎng),根據(jù) CNCF 今年發(fā)布的《2020中國(guó)云原生調(diào)查報(bào)告》,31% 的企業(yè)正在生產(chǎn)中使用 Serverless 技術(shù),41% 正在評(píng)估選型,12% 計(jì)劃在未來(lái) 12 個(gè)月內(nèi)使用。

10 月 21 日,云棲大會(huì)云原生峰會(huì)現(xiàn)場(chǎng),阿里云 Serverless 重磅發(fā)布了一系列技術(shù)突破,集中解決了行業(yè)面臨的難點(diǎn)和痛點(diǎn)。隨之而來(lái)的是各大企業(yè)在 Serverless 上的大規(guī)模實(shí)踐,例如網(wǎng)易云音樂(lè)使用 Serverless 技術(shù)構(gòu)建離線音視頻處理平臺(tái)、南瓜電影7天全面 Serverless 化,并基于此,建立了業(yè)務(wù)的監(jiān)控、發(fā)布和彈性系統(tǒng)。

從 First 到 Faster,F(xiàn)C 7大技術(shù)突破,跨越影響 Serverless 發(fā)展的絆腳石

Serverless 的本質(zhì)是通過(guò)屏蔽底層的計(jì)算資源,來(lái)實(shí)現(xiàn)業(yè)務(wù)層開(kāi)發(fā)的專(zhuān)注度和自由度。但越是往上抽象,云廠商在底層的實(shí)現(xiàn)就越是復(fù)雜。函數(shù)計(jì)算將服務(wù)進(jìn)一步拆分到函數(shù)的顆粒度,這勢(shì)必會(huì)給開(kāi)發(fā)、運(yùn)維、交付等帶來(lái)新的挑戰(zhàn),例如如何對(duì)函數(shù)進(jìn)行端云聯(lián)調(diào)、如何對(duì)函數(shù)進(jìn)行可觀測(cè)和調(diào)試、如何優(yōu)化 GB 級(jí)別的鏡像冷啟動(dòng)?這些以往在服務(wù)的顆粒度時(shí),都不是問(wèn)題的事情,成了 Serverless 大規(guī)模落地企業(yè)核心生產(chǎn)業(yè)務(wù)的絆腳石。

阿里云函數(shù)計(jì)算團(tuán)隊(duì)自去年進(jìn)入 Forrester 領(lǐng)導(dǎo)者象限后,繼續(xù)攻克業(yè)內(nèi)的這些技術(shù)難題,并在此次云棲大會(huì)重磅發(fā)布了 7 大技術(shù)創(chuàng)新和突破。

image.gif1.jpg

Serverless Devs 2.0:業(yè)內(nèi)首發(fā) Desktop,支持端云聯(lián)調(diào)、多環(huán)境部署

開(kāi)源近一年, Serverless 開(kāi)發(fā)者平臺(tái) Serverless Devs 2.0 版本正式發(fā)布。相比 1.0 ,2.0 在性能、使用體驗(yàn)實(shí)現(xiàn)全方位提升,業(yè)內(nèi)首發(fā)桌面客戶端 Serverless Desktop,對(duì)桌面客戶端進(jìn)行了精細(xì)設(shè)計(jì)兼具美感和實(shí)用主義,具備更強(qiáng)的企業(yè)級(jí)服務(wù)能力。

作為業(yè)內(nèi)首個(gè)支持主流 Serverless 服務(wù)/框架的云原生全生命周期管理的平臺(tái),Serverless Devs 致力于為開(kāi)發(fā)者打造 Serverless 應(yīng)用開(kāi)發(fā)一站式服務(wù),Serverless Devs 2.0 提出多模式調(diào)試方案,包括打通線上線下環(huán)境;本地對(duì)接線上環(huán)境并進(jìn)行調(diào)試的端云聯(lián)調(diào)方案、本地直接進(jìn)行開(kāi)發(fā)態(tài)調(diào)試的本地調(diào)試方案、以及云端運(yùn)維態(tài)調(diào)試的在線調(diào)試/遠(yuǎn)程調(diào)試方案等。新版本增加多環(huán)境部署部署能力,Serverless Devs 2.0 已支持一鍵部署框架 30 余種,包括 Django,Express,Koa,Egg,F(xiàn)lask,Zblog,Wordpress 等。

業(yè)內(nèi)首發(fā)實(shí)例級(jí)別可觀測(cè)和調(diào)試

實(shí)例是函數(shù)資源最小的可被調(diào)度的原子單位,類(lèi)比容器的 Pod。Serverless 將異構(gòu)基礎(chǔ)資源高度抽象,因此“黑盒問(wèn)題”是 Serverless 大規(guī)模普及的核心落地之痛。業(yè)內(nèi)同類(lèi)產(chǎn)品均沒(méi)有透出“實(shí)例”概念,也從未在可觀測(cè)功能中將 CPU、內(nèi)存等指標(biāo)透出,但可觀測(cè)就是開(kāi)發(fā)者的眼睛,沒(méi)有可觀測(cè),何談高可用呢?

函數(shù)計(jì)算重磅發(fā)布實(shí)例級(jí)別可觀測(cè)能力,對(duì)函數(shù)實(shí)例進(jìn)行實(shí)時(shí)監(jiān)控和性能數(shù)據(jù)采集,并進(jìn)行可視化展示,為開(kāi)發(fā)者提供函數(shù)實(shí)例端到端的監(jiān)控排查路徑。通過(guò)實(shí)例級(jí)別指標(biāo),您可以查看 CPU 和內(nèi)存使用情況、實(shí)例網(wǎng)絡(luò)情況和實(shí)例內(nèi)請(qǐng)求數(shù)等核心指標(biāo)信息,讓“黑盒”不黑。同時(shí),函數(shù)計(jì)算將通過(guò)開(kāi)放部分實(shí)例登錄權(quán)限,做到既能觀測(cè),還能調(diào)試。

業(yè)內(nèi)首發(fā)固定數(shù)量、定時(shí)、水位自動(dòng)伸縮的實(shí)例預(yù)留策略

函數(shù)計(jì)算冷啟動(dòng)受到多個(gè)因素影響:代碼和鏡像大小、啟動(dòng)容器、語(yǔ)言運(yùn)行時(shí)初始化、進(jìn)程初始化、執(zhí)行邏輯等,這依賴(lài)用戶和云廠商的雙向優(yōu)化。云廠商會(huì)自動(dòng)為每個(gè)函數(shù)分配最合適的實(shí)例數(shù)量,并進(jìn)行平臺(tái)側(cè)的冷啟動(dòng)優(yōu)化。但對(duì)于某些在線業(yè)務(wù)時(shí)延非常敏感,云廠商無(wú)法代替用戶進(jìn)行更深層的業(yè)務(wù)優(yōu)化,如對(duì)代碼或依賴(lài)進(jìn)行精簡(jiǎn)、編程語(yǔ)言的選擇、進(jìn)程的初始化、算法優(yōu)化等。

業(yè)內(nèi)同類(lèi)產(chǎn)品普遍是采用預(yù)留固定實(shí)例數(shù)量的策略,即讓用戶配置 N 個(gè)并發(fā)值,除非手動(dòng)調(diào)整,否則在分配了 N 個(gè)實(shí)例后不會(huì)再伸或者縮。這種方案只解決了部分業(yè)務(wù)高峰期的冷啟動(dòng)延時(shí),但大大增加了運(yùn)維成本和資源成本,對(duì)紅包大促等帶有不定期峰谷的業(yè)務(wù),其實(shí)并不友好。

因此,函數(shù)計(jì)算率先將部分實(shí)例資源的調(diào)度權(quán)限授予用戶,允許用戶通過(guò)固定數(shù)量、定時(shí)伸縮、按水位伸縮、混合伸縮等多維度的實(shí)例預(yù)留策略,來(lái)預(yù)留適量函數(shù)實(shí)例,分別滿足業(yè)務(wù)曲線相對(duì)平穩(wěn)(如 AI/ML 場(chǎng)景)、峰谷時(shí)間段明確(如游戲互娛、在線教育、新零售等場(chǎng)景)、突發(fā)流量無(wú)法預(yù)估(如電商大促、廣告等場(chǎng)景)、業(yè)務(wù)混雜(如Web后臺(tái)、數(shù)據(jù)處理等場(chǎng)景)等不同場(chǎng)景的訴求,從而降低冷啟動(dòng)對(duì)時(shí)延敏感型業(yè)務(wù)的影響,真正實(shí)現(xiàn)彈性和性能兼顧的終極目標(biāo)。

業(yè)內(nèi)率先推出 GPU 實(shí)例

函數(shù)計(jì)算提供彈性實(shí)例和性能實(shí)例兩種實(shí)例類(lèi)型,彈性實(shí)例規(guī)格從 128 MB 到 3 GB,隔離粒度做到了整個(gè)云生態(tài)最細(xì),能真正實(shí)現(xiàn)普適場(chǎng)景下資源利用率 100%;性能實(shí)例規(guī)格區(qū)間范圍包含4 GB、8 GB、16 GB和32 GB。資源上限更高,主要適用于計(jì)算密集型場(chǎng)景,如音視頻處理、AI建模和企業(yè)級(jí)Java應(yīng)用等場(chǎng)景。

隨著專(zhuān)用領(lǐng)域硬件加速的蓬勃發(fā)展,各 GPU 廠商均推出了視頻編解碼專(zhuān)用 ASIC,比如:英偉達(dá)從 Kepler 架構(gòu)集成視頻編碼專(zhuān)用電路、從 Fermi 架構(gòu)集成視頻解碼專(zhuān)用電路。

函數(shù)計(jì)算正式推出了基于 Turning 架構(gòu)的 GPU 實(shí)例,使得 Serverless 開(kāi)發(fā)者可以將視頻編解碼的 workload,下沉到 GPU 硬件加速,從而大大加快了視頻生產(chǎn)、視頻轉(zhuǎn)碼的效率。

最高可交付 2w 實(shí)例/分鐘

所謂“無(wú)服務(wù)器”,并不是說(shuō)軟件應(yīng)用不需要服務(wù)器就可以運(yùn)行了,而是指用戶無(wú)須關(guān)心軟件應(yīng)用運(yùn)行時(shí),涉及的底層服務(wù)器的狀態(tài)、資源(比如 CPU、內(nèi)存、磁盤(pán)及網(wǎng)絡(luò))和數(shù)量。軟件應(yīng)用正常運(yùn)行所需要的計(jì)算資源由云計(jì)算廠商動(dòng)態(tài)提供,但實(shí)際上,用戶還是會(huì)關(guān)心云廠商的資源交付能力,以及應(yīng)對(duì)突發(fā)流量場(chǎng)景下資源不足導(dǎo)致的訪問(wèn)波動(dòng)。

函數(shù)計(jì)算依托于阿里云強(qiáng)大的云基礎(chǔ)設(shè)施服務(wù)能力,通過(guò)神龍裸金屬資源池和 ECS 資源池雙池互備,在業(yè)務(wù)高峰期,實(shí)現(xiàn)最大交付達(dá) 2w 實(shí)例/分鐘,這近一步提升了函數(shù)計(jì)算在客戶核心業(yè)務(wù)上的交付能力。

VPC 網(wǎng)絡(luò)建連優(yōu)化:從10s 優(yōu)化至 200ms

當(dāng)用戶需要在函數(shù)中訪問(wèn)用戶 VPC 中的資源,例如 RDS/NAS 時(shí),需要打通 VPC 網(wǎng)絡(luò)。業(yè)內(nèi) FaaS 產(chǎn)品普遍采用動(dòng)態(tài)掛載 ENI 的方式來(lái)實(shí)現(xiàn) VPC 打通,即在 VPC 創(chuàng)建一個(gè) ENI,掛載到 VPC 中執(zhí)行函數(shù)的機(jī)器上。該方案讓用戶能非常簡(jiǎn)單地聯(lián)動(dòng)后端云服務(wù),但 ENI 掛載的速度一般需要10秒以上,在延時(shí)敏感業(yè)務(wù)場(chǎng)景下帶來(lái)極大的性能開(kāi)銷(xiāo)。

函數(shù)計(jì)算通過(guò)將 VPC 網(wǎng)關(guān)服務(wù)化,實(shí)現(xiàn)計(jì)算和網(wǎng)絡(luò)解耦,計(jì)算節(jié)點(diǎn)的伸縮不再受限于 ENI 掛載的能力。該方案由網(wǎng)關(guān)服務(wù)負(fù)責(zé) ENI 的掛載、網(wǎng)關(guān)節(jié)點(diǎn)的高可用和自動(dòng)伸縮,而函數(shù)計(jì)算專(zhuān)注于計(jì)算節(jié)點(diǎn)的調(diào)度,最終實(shí)現(xiàn) VPC 網(wǎng)絡(luò)建連時(shí),函數(shù)冷啟動(dòng)時(shí)間降至 200 ms。

GB 級(jí)別鏡像啟動(dòng):從分鐘級(jí)優(yōu)化至秒級(jí)

函數(shù)計(jì)算在2020年8月率先發(fā)布了容器鏡像的函數(shù)部署方式,AWS Lambda 在2020年12月Re-Invent,國(guó)內(nèi)友商在2021年6月也相繼宣布了 FaaS 支持容器的重磅功能。冷啟動(dòng)一直都是 FaaS 的痛點(diǎn),引入比代碼壓縮包大幾十倍的容器鏡像后,加重了冷啟動(dòng)過(guò)程帶來(lái)的時(shí)延。

函數(shù)計(jì)算創(chuàng)新性的發(fā)明了 Serverless Caching,根據(jù)不同的存儲(chǔ)服務(wù)特點(diǎn),構(gòu)建數(shù)據(jù)驅(qū)動(dòng)、智能高效的緩存體系,實(shí)現(xiàn)軟硬件協(xié)同優(yōu)化,將 Custom Container 體驗(yàn)進(jìn)一步提升。到目前為止,函數(shù)計(jì)算已經(jīng)將鏡像加速優(yōu)化到了較高的水準(zhǔn)。我們?cè)诤瘮?shù)計(jì)算的公開(kāi)用例(https://github.com/awesome-fc)里面,挑選了4個(gè)典型的鏡像,并將它們適配至國(guó)內(nèi)外幾個(gè)大型云廠商進(jìn)行橫向?qū)Ρ?,每間隔3小時(shí)調(diào)用上述鏡像,重復(fù)數(shù)次。

實(shí)驗(yàn)證明,在 GB 級(jí)別鏡像冷啟動(dòng)的場(chǎng)景下,函數(shù)計(jì)算已經(jīng)實(shí)現(xiàn)了分鐘級(jí)到秒級(jí)的跨越。

從專(zhuān)用到通用,從復(fù)雜到簡(jiǎn)單,SAE 讓 All on Serverless 成為可能

如果說(shuō) FaaS 大規(guī)模落地企業(yè)核心生產(chǎn)業(yè)務(wù)的難題需要通過(guò)技術(shù)攻堅(jiān)來(lái)解決,以 SAE 為代表 Serverless PaaS 則將更多的突破放在產(chǎn)品易用性和場(chǎng)景覆蓋度上。

2.jpgimage.gif

從專(zhuān)用到通用,SAE 天然適合企業(yè)核心業(yè)務(wù)的大規(guī)模落地

不同于 FaaS 形態(tài)的 Serverless,SAE 以“應(yīng)用為中心”,提供了面向應(yīng)用的 UI 和 API,保持了服務(wù)器和經(jīng)典 PaaS 形態(tài)下的使用體驗(yàn),即應(yīng)用看得見(jiàn)、也摸得著,避免了 FaaS 對(duì)應(yīng)用的改造和可觀測(cè)、可調(diào)式相對(duì)較弱的體驗(yàn),可以做到在線應(yīng)用的零代碼改造和平滑遷移。

SAE 打破了 Serverless 的落地實(shí)施邊界,使得 Serverless 不再是前端全棧、小程序的專(zhuān)寵,后臺(tái)微服務(wù)、SaaS服務(wù)、物聯(lián)網(wǎng)應(yīng)用等一樣也可以構(gòu)建在 Serverless 之上,天然適合企業(yè)核心業(yè)務(wù)的大規(guī)模落地。此外,SAE 支持 PHP 、Python 等多語(yǔ)言源碼包的部署,支持多運(yùn)行時(shí)環(huán)境和自定義擴(kuò)展,真正讓 Serverless 實(shí)現(xiàn)專(zhuān)用到通用。

從復(fù)雜到簡(jiǎn)單,SAE 天然適合企業(yè)應(yīng)用快速容器化

傳統(tǒng)的 PaaS 被詬以使用復(fù)雜、遷移難、擴(kuò)展麻煩,SAE 底層將虛擬化技術(shù)改造成容器技術(shù),充分利用了容器的隔離技術(shù),來(lái)提升啟動(dòng)時(shí)間和資源利用率,實(shí)現(xiàn)應(yīng)用等快速容器化,而在應(yīng)用管理層,則保留了原有的 Spring Cloud/Dubbo 等微服務(wù)應(yīng)用的管理范式,不必動(dòng)用龐大而復(fù)雜的 K8s 來(lái)管理應(yīng)用。

此外,底層計(jì)算資源池化后,其天然的 Serverless 屬性使得用戶不必再單獨(dú)購(gòu)買(mǎi)和持續(xù)保有服務(wù)器,而是按 CPU 和內(nèi)存資源量來(lái)配置所需的計(jì)算資源,再加上經(jīng)過(guò)多年雙11考驗(yàn)的高級(jí)微服務(wù)治理能力,讓容器 + Serverless + PaaS 得以合三為一,使得技術(shù)先進(jìn)性、資源利用率優(yōu)化、高效的開(kāi)發(fā)運(yùn)維體驗(yàn)可以融合在一起。因此,讓新技術(shù)落地更加簡(jiǎn)單、平穩(wěn)。

可以說(shuō),SAE 幾乎全覆蓋了應(yīng)用上云的所有場(chǎng)景,既是應(yīng)用上云的最佳選擇,也是 All on Serverless 的典范。

4大變化,Serverless 加速企業(yè)現(xiàn)代應(yīng)用架構(gòu)革新

單是技術(shù)的領(lǐng)先性,并無(wú)法推動(dòng)行業(yè)的發(fā)展,Serverless 給企業(yè)客戶和開(kāi)發(fā)者帶來(lái)的切身變化,這兩者組成了市場(chǎng)成熟度的雙輪驅(qū)動(dòng),技術(shù)在自我演進(jìn),客戶在落地反哺,這是任何一項(xiàng)新技術(shù)得以持續(xù)發(fā)展的正確姿勢(shì)。

變化一:服務(wù)器 vs 代碼

創(chuàng)業(yè)公司的全棧工程師:“我的工作不再是圍繞冰冷枯燥的服務(wù)器,告別了服務(wù)器的處理時(shí)間比我寫(xiě)代碼的時(shí)間還長(zhǎng)的窘境,可以讓我把更多的時(shí)間放在業(yè)務(wù)上,并且用最熟悉的代碼來(lái)保障應(yīng)用的穩(wěn)定運(yùn)行。”

一個(gè)主攻前端方向的全棧工程師的日??赡苁沁@樣的:掌握至少一門(mén)前端語(yǔ)言例如 Node.js 或者 Puppeteer,會(huì)寫(xiě)一些 API 接口,再修改一些后端的 bug,還要花費(fèi)大量的精力在服務(wù)器的運(yùn)維上,公司的業(yè)務(wù)量越大,花在運(yùn)維上的時(shí)間越多。

函數(shù)計(jì)算降低 Node.js 等前端語(yǔ)言的服務(wù)器維護(hù)門(mén)檻,只要會(huì)寫(xiě) JS 代碼就可以維護(hù) Node 服務(wù),而無(wú)需學(xué)習(xí) DevOps 相關(guān)知識(shí)。

變化二:計(jì)算集群 vs 計(jì)算資源池

算法領(lǐng)域的 Java 工程師:“我不再擔(dān)心算法的增多和復(fù)雜度的增高導(dǎo)致的服務(wù)器規(guī)格多、采購(gòu)煩雜、運(yùn)維難,而是通過(guò)無(wú)限的資源池、快速的冷啟動(dòng)以及預(yù)留實(shí)例,來(lái)提升彈性能力和自由度?!?/p>

3.pngimage.gif

網(wǎng)易云音樂(lè)已經(jīng)落地了60+的音視頻算法,100+的業(yè)務(wù)場(chǎng)景,用到了1000+臺(tái)不同規(guī)格的云主機(jī)和物理機(jī)。雖然通過(guò)了很多方式去簡(jiǎn)化了內(nèi)部業(yè)務(wù)場(chǎng)景、算法等的對(duì)接,但越來(lái)越多夾雜存量、增量處理的算法,不同流量的業(yè)務(wù)場(chǎng)景規(guī)模,以及不同業(yè)務(wù)場(chǎng)景可能會(huì)復(fù)用同一類(lèi)算法的,導(dǎo)致在業(yè)務(wù)上的時(shí)間越來(lái)越少。

網(wǎng)易云音樂(lè)基于函數(shù)計(jì)算升級(jí)離線音視頻處理平臺(tái),應(yīng)用于聽(tīng)歌、K歌、識(shí)曲等業(yè)務(wù)場(chǎng)景,實(shí)現(xiàn) 10 倍速的業(yè)務(wù)落地,并大幅降低了稀疏算法的計(jì)算成本和運(yùn)維成本。

變化三:負(fù)載 vs 調(diào)度

游戲主程:“我不再擔(dān)心 SLB 的輪詢機(jī)制導(dǎo)致無(wú)法感知 Pod 的實(shí)際負(fù)載,由此引起的負(fù)載不均,函數(shù)計(jì)算的調(diào)度系統(tǒng)會(huì)合理安排每個(gè)請(qǐng)求,來(lái)保證戰(zhàn)斗校驗(yàn)場(chǎng)景下的高 CPU 消耗和高彈性處理請(qǐng)求?!?/p>

戰(zhàn)斗校驗(yàn)是莉莉絲眾多戰(zhàn)斗類(lèi)游戲的必備業(yè)務(wù)場(chǎng)景,用來(lái)驗(yàn)證玩家客戶端上傳的戰(zhàn)斗是否有作弊的情況。戰(zhàn)斗校驗(yàn)一般需要逐幀計(jì)算,CPU 消耗會(huì)非常高,通常 1 隊(duì) v 1 隊(duì)的戰(zhàn)斗需要 n 毫秒,而 5 隊(duì) v 5 隊(duì)的戰(zhàn)斗則需要相應(yīng) 5n 毫秒,對(duì)彈性要求很高。此外,容器架構(gòu)下掛載的 SLB,會(huì)因?yàn)檩喸儥C(jī)制導(dǎo)致無(wú)法感知 Pod 的實(shí)際負(fù)載,由此引起的負(fù)載不均,產(chǎn)生死循環(huán)和穩(wěn)定性風(fēng)險(xiǎn)。

函數(shù)計(jì)算的調(diào)度系統(tǒng)幫助莉莉絲合理安排每個(gè)請(qǐng)求,對(duì)于死循環(huán)問(wèn)題,也貼心的提供了超時(shí)殺進(jìn)程機(jī)制。函數(shù)計(jì)算將調(diào)度系統(tǒng)的復(fù)雜性下沉到了基礎(chǔ)設(shè)施,廠商深度優(yōu)化后的冷啟動(dòng)時(shí)延大幅下降,從調(diào)度、到獲取計(jì)算資源、再到服務(wù)啟動(dòng),基本在 1 秒+左右。

變化四:腳本 vs 自動(dòng)化

互娛行業(yè)運(yùn)維工程師:我不再擔(dān)心傳統(tǒng)服務(wù)器模式下,發(fā)版慢和易出錯(cuò)、環(huán)境一致性難保證、權(quán)限分配繁瑣和回滾麻煩的問(wèn)題,SAE 的全套服務(wù)治理能力提升開(kāi)發(fā)運(yùn)維效率 70%,而彈性資源池則將業(yè)務(wù)端的擴(kuò)容時(shí)間縮短 70%。

4.png

一場(chǎng)熱映,南瓜電影日注冊(cè)用戶突破 80w,導(dǎo)致流量入口 API 網(wǎng)關(guān)撐不住,緊接著后端的所有服務(wù)都面臨了極大的穩(wěn)定性挑戰(zhàn),隨后開(kāi)始緊急擴(kuò)容,買(mǎi) ECS,上傳腳本到服務(wù)器,運(yùn)行腳本,擴(kuò)容數(shù)據(jù)庫(kù),整個(gè)過(guò)程耗時(shí) 4 小時(shí)。然而,因?yàn)檫@樣的熱映帶來(lái)的自然爆點(diǎn)并不少見(jiàn),這加速了南瓜電影的技術(shù)升級(jí)思考。

南瓜電影借助 Serverless 應(yīng)用引擎 SAE 7天內(nèi)全面 Severless 化,零門(mén)檻擁抱 K8s,輕松應(yīng)對(duì)熱映電影的突發(fā)流量,相比傳統(tǒng)服務(wù)器運(yùn)維模式,開(kāi)發(fā)運(yùn)維效率提升 70%,成本下降 40%,擴(kuò)容效率提升 10 倍以上。

先行一步,志在千里

2009 年,伯克利就當(dāng)時(shí)興起的云計(jì)算提出 6 點(diǎn)預(yù)測(cè),包括服務(wù)的按需付費(fèi)成為可能、物理硬件的利用率將大大提高等,在過(guò)去的 12 年間,這些都已成為事實(shí)。2019 年,伯克利再次預(yù)測(cè) Serverless 計(jì)算將會(huì)成為云時(shí)代默認(rèn)的計(jì)算范式,并取代 Serverful (傳統(tǒng)云)計(jì)算模式。

參照云計(jì)算這 12 年的發(fā)展歷程,Serverless 正處于驗(yàn)證伯克利預(yù)測(cè)的第 3 年,剛過(guò)四分之一。這 3 年間,從云的未來(lái)的美好暢想,到云廠商倡導(dǎo)的 Serverless First 和大規(guī)模投入,再到企業(yè)用戶充分利用 Serverless 的優(yōu)勢(shì)來(lái)優(yōu)化現(xiàn)有架構(gòu),并客觀的面對(duì)影響 Serverless 大規(guī)模落地企業(yè)核心業(yè)務(wù)的絆腳石,再到今天,通過(guò)技術(shù)創(chuàng)新和突破來(lái)化解行業(yè)共同的痛點(diǎn)。這不僅需要先行一步的勇氣和魄力,更需要志在千里的使命和責(zé)任。

立即登錄,閱讀全文
版權(quán)說(shuō)明:
本文內(nèi)容來(lái)自于阿里云,本站不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。文章內(nèi)容系作者個(gè)人觀點(diǎn),不代表快出海對(duì)觀點(diǎn)贊同或支持。如有侵權(quán),請(qǐng)聯(lián)系管理員(zzx@kchuhai.com)刪除!
相關(guān)文章
一文詳解阿里云AI大基建
一文詳解阿里云AI大基建
面向AI時(shí)代,阿里云基礎(chǔ)設(shè)施是如何創(chuàng)新與發(fā)展的?計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)、服務(wù)器、集群、可觀測(cè)等,阿里云全新升級(jí)的AI Infra到底有哪些重磅更新?
阿里云
云服務(wù)
2024-11-022024-11-02
AI時(shí)代云安全新范式,阿里云安全能力全線升級(jí)!
AI時(shí)代云安全新范式,阿里云安全能力全線升級(jí)!
AI時(shí)代,云安全面臨著新的挑戰(zhàn),不僅要持續(xù)面對(duì)以往的傳統(tǒng)問(wèn)題,更需要全新理念落地于產(chǎn)品設(shè)計(jì)、技術(shù)演進(jìn)、架構(gòu)設(shè)計(jì),才能實(shí)現(xiàn)效果、性能、和成本的最優(yōu)解。
AI
阿里云
云服務(wù)
2024-09-272024-09-27
連續(xù)四年!阿里云領(lǐng)跑中國(guó)公有云大數(shù)據(jù)平臺(tái)
連續(xù)四年!阿里云領(lǐng)跑中國(guó)公有云大數(shù)據(jù)平臺(tái)
近日,國(guó)際數(shù)據(jù)公司(IDC)發(fā)布《中國(guó)大數(shù)據(jù)平臺(tái)市場(chǎng)份額,2023:數(shù)智融合時(shí)代的真正到來(lái)》報(bào)告——2023年中國(guó)大數(shù)據(jù)平臺(tái)公有云服務(wù)市場(chǎng)規(guī)模達(dá)72.2億元人民幣,其中阿里巴巴市場(chǎng)份額保持領(lǐng)先,占比達(dá)40.2%,連續(xù)四年排名第一。
阿里云
云服務(wù)
2024-09-182024-09-18
直降算力成本!阿里云容器計(jì)算服務(wù)ACS正式商業(yè)化
直降算力成本!阿里云容器計(jì)算服務(wù)ACS正式商業(yè)化
今日,阿里云容器計(jì)算服務(wù)ACS正式商業(yè)化,綜合算力成本最高可降55%。
阿里云
云服務(wù)
2024-08-242024-08-24
優(yōu)質(zhì)服務(wù)商推薦
更多
掃碼登錄
打開(kāi)掃一掃, 關(guān)注公眾號(hào)后即可登錄/注冊(cè)
加載中
二維碼已失效 請(qǐng)重試
刷新
賬號(hào)登錄/注冊(cè)
個(gè)人VIP
小程序
快出海小程序
公眾號(hào)
快出海公眾號(hào)
商務(wù)合作
商務(wù)合作
投稿采訪
投稿采訪
出海管家
出海管家