Google無服務器流媒體分析服務Dataflow Prime現(xiàn)可自動垂直縮放

來源:十輪網(wǎng)
作者:十輪網(wǎng)
時間:2022-09-01
2309
Google云計算在無服務器流媒體分析服務Dataflow Prime,添加垂直自動縮放功能,通過自動擴展運算單元(Worker)內(nèi)存,來提高Dataflow Prime的性能,由于是垂直擴展,因此用戶也就不需要手動調(diào)整運算單元的配置。

1303_dataflow_vertical_autoscaling_google_cloud_blog.jpg

Google云計算在無服務器流媒體分析服務Dataflow Prime,添加垂直自動縮放功能,通過自動擴展運算單元(Worker)內(nèi)存,來提高Dataflow Prime的性能,由于是垂直擴展,因此用戶也就不需要手動調(diào)整運算單元的配置。

Dataflow Prime供用戶使用Apache Beam SDK或是Dataflow模板,編寫資料處理邏輯,并由Dataflow處理工作管線的優(yōu)化、執(zhí)行和可擴展性,Google提到,在部分情況下,用戶需要手動選擇內(nèi)存等資源,如此系統(tǒng)才能獲得更佳的性能和降低成本。

調(diào)整資源是一個耗時的試錯過程,且同時可能需要調(diào)整多個運算單元,才可能達到工作管線最佳配置,此外,當資料處理需求發(fā)生變化時,靜態(tài)配置可能就不適用。Google云計算現(xiàn)在于Dataflow Prime提供垂直自動縮放功能,滿足這些配置調(diào)整需求。

垂直自動縮放功能會持續(xù)觀察流媒體傳輸工作管線中,內(nèi)存不足(OOM)事件和內(nèi)存使用的狀況,并依此觸發(fā)內(nèi)存縮放,當內(nèi)存利用率很高,垂直自動縮放功能便會替換更大內(nèi)存容量的運算單元,Google提到,這個過程是迭代的,因此可能需要數(shù)分鐘的時間。

反之,當內(nèi)存使用率較低,便會縮減使用較少內(nèi)存容量的運算單元。系統(tǒng)會觀察工作管線的歷史資料,來考量縮減規(guī)模的方式,以確保工作管線的穩(wěn)定性,垂直自動縮放會采用較保守的方式進行縮減,盡可能減少工作管線中斷。

立即登錄,閱讀全文
原文鏈接:點擊前往 >
文章來源:十輪網(wǎng)
版權(quán)說明:本文內(nèi)容來自于十輪網(wǎng),本站不擁有所有權(quán),不承擔相關法律責任。文章內(nèi)容系作者個人觀點,不代表快出海對觀點贊同或支持。如有侵權(quán),請聯(lián)系管理員(zzx@kchuhai.com)刪除!
相關文章
新版GKE可管理最多6.5萬集群節(jié)點,超越AWS、Azure 10倍
新版GKE可管理最多6.5萬集群節(jié)點,超越AWS、Azure 10倍
Google Cloud公布最新Google Kubernetes Engine版本,號稱可支持最高達65,000個節(jié)點的服務器集群,以執(zhí)行超大型AI模型。
Google Cloud
云服務
云計算
2024-11-15
Google Cloud細說AI變現(xiàn)途徑:用戶一年暴增10倍
Google Cloud細說AI變現(xiàn)途徑:用戶一年暴增10倍
Google云計算平臺(Google Cloud)首席執(zhí)行官Thomas Kurian在高盛舉行的會議上,說明了該公司究竟是通過哪些途徑將AI變現(xiàn)。
Google Cloud
谷歌云
云計算
2024-09-13
云計算平臺GCP的服務存在權(quán)限提升漏洞,未經(jīng)授權(quán)的攻擊者可借此訪問敏感數(shù)據(jù)
云計算平臺GCP的服務存在權(quán)限提升漏洞,未經(jīng)授權(quán)的攻擊者可借此訪問敏感數(shù)據(jù)
7月24日安全企業(yè)Tenable披露影響Google Cloud Platform(GCP)的權(quán)限提升漏洞ConfusedFunction,這項弱點發(fā)生在名為Cloud Functions的無服務器運算服務,以及稱作Cloud Build的CICD渠道服務。
Google Cloud
谷歌云
云計算
2024-07-27
Gemini為核心,Google云計算AI戰(zhàn)略聚焦云服務和生產(chǎn)力GAI
Gemini為核心,Google云計算AI戰(zhàn)略聚焦云服務和生產(chǎn)力GAI
過去一年,企業(yè)GAI應用的風潮席卷全球,成了三大公有云積極搶攻的新戰(zhàn)場,微軟靠著OpenAI助攻,去年在這場云計算GAI大戰(zhàn)中取得先機,而Google后來居上,靠著自家PaLM模型和GAI生產(chǎn)力工具來迎戰(zhàn),AWS則是到去年底年會上,對于企業(yè)GAI應用布局才有比較完整的布局與披露。
Google Cloud
谷歌云
云計算
2024-05-04
優(yōu)質(zhì)服務商推薦
更多