Google云計算在無服務器流媒體分析服務Dataflow Prime,添加垂直自動縮放功能,通過自動擴展運算單元(Worker)內(nèi)存,來提高Dataflow Prime的性能,由于是垂直擴展,因此用戶也就不需要手動調(diào)整運算單元的配置。
Dataflow Prime供用戶使用Apache Beam SDK或是Dataflow模板,編寫資料處理邏輯,并由Dataflow處理工作管線的優(yōu)化、執(zhí)行和可擴展性,Google提到,在部分情況下,用戶需要手動選擇內(nèi)存等資源,如此系統(tǒng)才能獲得更佳的性能和降低成本。
調(diào)整資源是一個耗時的試錯過程,且同時可能需要調(diào)整多個運算單元,才可能達到工作管線最佳配置,此外,當資料處理需求發(fā)生變化時,靜態(tài)配置可能就不適用。Google云計算現(xiàn)在于Dataflow Prime提供垂直自動縮放功能,滿足這些配置調(diào)整需求。
垂直自動縮放功能會持續(xù)觀察流媒體傳輸工作管線中,內(nèi)存不足(OOM)事件和內(nèi)存使用的狀況,并依此觸發(fā)內(nèi)存縮放,當內(nèi)存利用率很高,垂直自動縮放功能便會替換更大內(nèi)存容量的運算單元,Google提到,這個過程是迭代的,因此可能需要數(shù)分鐘的時間。
反之,當內(nèi)存使用率較低,便會縮減使用較少內(nèi)存容量的運算單元。系統(tǒng)會觀察工作管線的歷史資料,來考量縮減規(guī)模的方式,以確保工作管線的穩(wěn)定性,垂直自動縮放會采用較保守的方式進行縮減,盡可能減少工作管線中斷。