Google無服務(wù)器流媒體分析服務(wù)Dataflow Prime現(xiàn)可自動(dòng)垂直縮放

來源:十輪網(wǎng)
作者:十輪網(wǎng)
時(shí)間:2022-09-01
2316
Google云計(jì)算在無服務(wù)器流媒體分析服務(wù)Dataflow Prime,添加垂直自動(dòng)縮放功能,通過自動(dòng)擴(kuò)展運(yùn)算單元(Worker)內(nèi)存,來提高Dataflow Prime的性能,由于是垂直擴(kuò)展,因此用戶也就不需要手動(dòng)調(diào)整運(yùn)算單元的配置。

1303_dataflow_vertical_autoscaling_google_cloud_blog.jpg

Google云計(jì)算在無服務(wù)器流媒體分析服務(wù)Dataflow Prime,添加垂直自動(dòng)縮放功能,通過自動(dòng)擴(kuò)展運(yùn)算單元(Worker)內(nèi)存,來提高Dataflow Prime的性能,由于是垂直擴(kuò)展,因此用戶也就不需要手動(dòng)調(diào)整運(yùn)算單元的配置。

Dataflow Prime供用戶使用Apache Beam SDK或是Dataflow模板,編寫資料處理邏輯,并由Dataflow處理工作管線的優(yōu)化、執(zhí)行和可擴(kuò)展性,Google提到,在部分情況下,用戶需要手動(dòng)選擇內(nèi)存等資源,如此系統(tǒng)才能獲得更佳的性能和降低成本。

調(diào)整資源是一個(gè)耗時(shí)的試錯(cuò)過程,且同時(shí)可能需要調(diào)整多個(gè)運(yùn)算單元,才可能達(dá)到工作管線最佳配置,此外,當(dāng)資料處理需求發(fā)生變化時(shí),靜態(tài)配置可能就不適用。Google云計(jì)算現(xiàn)在于Dataflow Prime提供垂直自動(dòng)縮放功能,滿足這些配置調(diào)整需求。

垂直自動(dòng)縮放功能會(huì)持續(xù)觀察流媒體傳輸工作管線中,內(nèi)存不足(OOM)事件和內(nèi)存使用的狀況,并依此觸發(fā)內(nèi)存縮放,當(dāng)內(nèi)存利用率很高,垂直自動(dòng)縮放功能便會(huì)替換更大內(nèi)存容量的運(yùn)算單元,Google提到,這個(gè)過程是迭代的,因此可能需要數(shù)分鐘的時(shí)間。

反之,當(dāng)內(nèi)存使用率較低,便會(huì)縮減使用較少內(nèi)存容量的運(yùn)算單元。系統(tǒng)會(huì)觀察工作管線的歷史資料,來考量縮減規(guī)模的方式,以確保工作管線的穩(wěn)定性,垂直自動(dòng)縮放會(huì)采用較保守的方式進(jìn)行縮減,盡可能減少工作管線中斷。

立即登錄,閱讀全文
原文鏈接:點(diǎn)擊前往 >
版權(quán)說明:本文內(nèi)容來自于十輪網(wǎng),本站不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。文章內(nèi)容系作者個(gè)人觀點(diǎn),不代表快出海對觀點(diǎn)贊同或支持。如有侵權(quán),請聯(lián)系管理員(zzx@kchuhai.com)刪除!
優(yōu)質(zhì)服務(wù)商推薦
更多
掃碼登錄
打開掃一掃, 關(guān)注公眾號后即可登錄/注冊
加載中
二維碼已失效 請重試
刷新
賬號登錄/注冊
個(gè)人VIP
小程序
快出海小程序
公眾號
快出海公眾號
商務(wù)合作
商務(wù)合作
投稿采訪
投稿采訪
出海管家
出海管家