隨著5G、AI、IoT等技術(shù)的發(fā)展,社會(huì)每天產(chǎn)生的數(shù)據(jù)量都在極速增長(zhǎng)。據(jù)預(yù)測(cè),2025年移動(dòng)終端設(shè)備將達(dá)到400億部,IoT設(shè)備將達(dá)到25萬(wàn)億個(gè)。全球每天產(chǎn)生的數(shù)據(jù)量更將從2018年的33ZB快速增長(zhǎng)到2025年的180ZB。但是,產(chǎn)生的數(shù)據(jù)中僅有不到2%被保存,而被保存的數(shù)據(jù)中僅有不到10%被利用,如何有效釋放數(shù)據(jù)價(jià)值,使政企數(shù)據(jù)助力業(yè)務(wù)增長(zhǎng),已經(jīng)成為了當(dāng)前數(shù)據(jù)領(lǐng)域的重要課題。
當(dāng)前,在政企數(shù)字化轉(zhuǎn)型進(jìn)程中,經(jīng)常會(huì)有已下幾大痛點(diǎn):
痛點(diǎn)1:如何解決海量數(shù)據(jù)的取數(shù)難、找數(shù)難、用數(shù)難問(wèn)題?
大型政企客戶每天都會(huì)產(chǎn)生海量數(shù)據(jù),在數(shù)據(jù)使用過(guò)程中卻避不開以下幾點(diǎn):
取數(shù)難:跨源分析需要數(shù)據(jù)搬遷,效率不佳。
找數(shù)難:數(shù)據(jù)分散,管理復(fù)雜,流動(dòng)性差。
用數(shù)難:組件多,語(yǔ)言多,投入大,門檻高。
針對(duì)以上問(wèn)題,華為云EI智能數(shù)據(jù)湖FusionInsight通過(guò)CarbonData有效進(jìn)行數(shù)據(jù)組織,結(jié)合數(shù)據(jù)虛擬化技術(shù),實(shí)現(xiàn)多引擎、多數(shù)據(jù)源、多集群間的數(shù)據(jù)協(xié)同計(jì)算,在數(shù)據(jù)湖中實(shí)現(xiàn)統(tǒng)一入口使用,客戶輕松用數(shù);統(tǒng)一目錄查詢,全局?jǐn)?shù)據(jù)可視;全局一份數(shù)據(jù),減少數(shù)據(jù)搬遷冗余,分析效率提升10倍+。在政企客戶數(shù)據(jù)服務(wù)中更好的釋放數(shù)據(jù)價(jià)值,解決數(shù)據(jù)協(xié)同分析問(wèn)題。
例如在某銀行,其使用華為云EI智能數(shù)據(jù)湖FusionInsight提供的MRS+DWS云服務(wù),建立2000+節(jié)點(diǎn)的金融數(shù)據(jù)湖,匯集總行+各分行近30PB的數(shù)據(jù)量,實(shí)現(xiàn)了行內(nèi)的“一湖兩庫(kù)”。承載了行內(nèi)數(shù)據(jù)倉(cāng)庫(kù)、信息庫(kù)的集約化建設(shè),支撐日常行內(nèi)BI、AI、數(shù)據(jù)挖掘分析等業(yè)務(wù)。通過(guò)FusionInsight的MRS大數(shù)據(jù)服務(wù)和DWS數(shù)據(jù)倉(cāng)庫(kù)服務(wù),為數(shù)據(jù)湖提供主流的數(shù)據(jù)處理引擎;再將這些數(shù)據(jù)服務(wù)以租戶渠道的方式,作為接口開放,如“數(shù)據(jù)集市”;最后用戶通過(guò)自助或者固定的應(yīng)用服務(wù)渠道來(lái)獲得大數(shù)據(jù)服務(wù),如“分析師工作臺(tái)”。最終讓數(shù)據(jù)應(yīng)用更簡(jiǎn)單,讓業(yè)務(wù)更敏捷。
痛點(diǎn)2:業(yè)務(wù)急速增長(zhǎng),數(shù)據(jù)成倍增加,如何解決存數(shù)的性價(jià)比問(wèn)題?
5G應(yīng)用快速落地,促使數(shù)據(jù)增長(zhǎng)更為迅猛。政企客戶若使用Hadoop原生架構(gòu)存儲(chǔ)數(shù)據(jù),其計(jì)算和存儲(chǔ)資源是耦合關(guān)系,需同步一體化擴(kuò)容,存在存儲(chǔ)利用率或CPU利用率不高現(xiàn)象,使得存數(shù)成本居高不下。
華為云EI智能數(shù)據(jù)湖FusionInsight采用華為自研存算分離方案,替代Hadoop的本地HDFS,軟硬解耦擴(kuò)容,讓數(shù)據(jù)每bit成本更優(yōu)。具體優(yōu)勢(shì)如下:
1.計(jì)算和存儲(chǔ)資源按需獨(dú)立擴(kuò)展,計(jì)算不足擴(kuò)計(jì)算,存儲(chǔ)不足擴(kuò)存儲(chǔ),避免一體化擴(kuò)展帶來(lái)的資源浪費(fèi),資源利用率提高100%。
2.通過(guò)華為獨(dú)有的彈性EC替代傳統(tǒng)HDFS的三副本,數(shù)據(jù)存儲(chǔ)周期提高2倍。
3.各系統(tǒng)統(tǒng)一存儲(chǔ)資源池存儲(chǔ),避免重復(fù)建設(shè),消除數(shù)據(jù)孤島,降低數(shù)據(jù)共享難度,減少數(shù)據(jù)冗余。
例如在某政府單位,數(shù)據(jù)量每年增長(zhǎng)40%,傳統(tǒng)大數(shù)據(jù)方案采用一體化擴(kuò)容,三副本存儲(chǔ),成本高,往往100PB的存儲(chǔ),有效容量?jī)H僅30PB;同時(shí),整個(gè)數(shù)據(jù)湖中的存儲(chǔ)、計(jì)算資源使用不均衡,往往存儲(chǔ)利用率達(dá)到80%,但CPU利用率僅30%,資源嚴(yán)重浪費(fèi)。為應(yīng)對(duì)新數(shù)據(jù)的存儲(chǔ)需求,如果使用傳統(tǒng)的擴(kuò)容方案,會(huì)導(dǎo)致CPU利用率進(jìn)一步降低。采用存算分離方案后,新增的存儲(chǔ)節(jié)點(diǎn),能夠使總體CPU利用率提高到40%,存儲(chǔ)使用率降至51%,提高整體集群資源利用率;原先只能存儲(chǔ)1年的歷史數(shù)據(jù),現(xiàn)在通過(guò)企業(yè)級(jí)EC技術(shù),成功將數(shù)據(jù)湖有效容量擴(kuò)大兩倍。
痛點(diǎn)3:大數(shù)據(jù)上云已是業(yè)界趨勢(shì),如何解決資源成本問(wèn)題
近幾年來(lái),大數(shù)據(jù)、云計(jì)算、AI、5G、物聯(lián)網(wǎng)等技術(shù)飛速發(fā)展,在企業(yè)數(shù)據(jù)中心基礎(chǔ)設(shè)施上已屢見不鮮。業(yè)界主流云廠家利用大數(shù)據(jù)提高客戶粘性,而大數(shù)據(jù)廠家也在積極使用云技術(shù)打造云化大數(shù)據(jù)、數(shù)據(jù)湖。但在數(shù)據(jù)量激增的當(dāng)下,資源利用率低、大數(shù)據(jù)交付周期長(zhǎng)、本地運(yùn)維排障慢、版本升級(jí)不及時(shí)等問(wèn)題依然未能有效解決,造成運(yùn)維成本的居高不下。而云能提供源源不斷的新動(dòng)能,為大數(shù)據(jù)高效運(yùn)轉(zhuǎn)提供基礎(chǔ)設(shè)施。
針對(duì)以上問(wèn)題和趨勢(shì),華為云EI智能數(shù)據(jù)湖FusionInsight提供企業(yè)數(shù)據(jù)集約云化建設(shè),提供全面云化的數(shù)據(jù)服務(wù),支持大數(shù)據(jù)所需資源的彈性伸縮,集約共建,降低運(yùn)維成本,幫助企業(yè)節(jié)約寶貴的資源和人力成本,同時(shí)帶來(lái)以下好處:
1.資源共享,彈性發(fā)放。資源池化,彈性伸縮,資源申請(qǐng)周期從30天>1小時(shí)。
2.集約建設(shè),性價(jià)比更優(yōu)。傳統(tǒng)孤島式建設(shè)系統(tǒng),數(shù)據(jù)冗余,成本居高不下;集約建設(shè),全局可共享。
3.提升運(yùn)維效率。傳統(tǒng)部署更新不及時(shí),被動(dòng)運(yùn)維,問(wèn)題驅(qū)動(dòng);現(xiàn)在可以主動(dòng)運(yùn)維,5分鐘內(nèi)及時(shí)響應(yīng)排障。
例如在交通系統(tǒng),數(shù)據(jù)湖數(shù)據(jù)分析的任務(wù)量隨著人的活動(dòng)而變化,在平時(shí)行人及車輛相對(duì)較少,分析任務(wù)的資源利用率為90%,而早晚高峰期時(shí)刻,人流量及車流量極速增高,需額外配置發(fā)放資源來(lái)應(yīng)對(duì)更大數(shù)據(jù)量的分析,資源彈性發(fā)放無(wú)需全天部署上線,可實(shí)現(xiàn)按需伸縮為數(shù)據(jù)分析計(jì)算提供CPU、內(nèi)存等資源,有效節(jié)約資源,輕松應(yīng)對(duì)業(yè)務(wù)高峰。
隨著大數(shù)據(jù)和AI技術(shù)的深度融合使用,在人臉識(shí)別、智能問(wèn)答、機(jī)器人、文字識(shí)別、天氣預(yù)測(cè)等場(chǎng)景中,華為云EI智能數(shù)據(jù)湖FusionInsight提供一站式智能數(shù)據(jù)平臺(tái),可無(wú)縫對(duì)接ModelArts,為人工智能平臺(tái)提供高質(zhì)量的數(shù)據(jù)樣本,加速政企智能化升級(jí)。
綜上所述,華為云EI智能數(shù)據(jù)湖FusionInsight聚勢(shì)升級(jí),立足解決政企客戶用數(shù)痛點(diǎn),融合分析、存算分離、全面云化等新改變助力釋放數(shù)據(jù)價(jià)值,加速政企數(shù)字化轉(zhuǎn)型和智能化升級(jí)。
十多年來(lái)FusionInsight致力于讓全球60+國(guó)家地區(qū)、3000+政企客戶構(gòu)建企業(yè)級(jí)智能數(shù)據(jù)湖,結(jié)合平臺(tái)+生態(tài)戰(zhàn)略,與800+商業(yè)合作伙伴,廣泛應(yīng)用于金融、運(yùn)營(yíng)商、政府、能源、醫(yī)療、制造、交通等多個(gè)行業(yè),在政企數(shù)字化轉(zhuǎn)型中,釋放數(shù)據(jù)價(jià)值,助力政企客戶業(yè)務(wù)高速增長(zhǎng)!