高速增長的數(shù)據(jù)量和日益增加的競爭壓力,讓越來越多的企業(yè)開始思考如何挖掘這些數(shù)據(jù)的價值。傳統(tǒng)的BI系統(tǒng)、數(shù)據(jù)倉庫和數(shù)據(jù)庫系統(tǒng)都不能很好地處理這些數(shù)據(jù)。原因包括:
1.數(shù)據(jù)量太大,傳統(tǒng)數(shù)據(jù)庫不能有效存儲并維持可以接受的性能;
2.新產(chǎn)生的數(shù)據(jù)往往是非結(jié)構(gòu)化的,而傳統(tǒng)方式都是為處理結(jié)構(gòu)化數(shù)據(jù)而設(shè)計的;
3.傳統(tǒng)數(shù)據(jù)處理所需的硬件往往相對昂貴,隨著數(shù)據(jù)量增加而繼續(xù)用傳統(tǒng)方式處理的成本讓很多企業(yè)不能承受。為此,倍受互聯(lián)網(wǎng)界推崇的Apache Hadoop這朵奇葩日益吸引了企業(yè)界的目光,大量企業(yè)都在思考如何把Hadoop這個美麗的新娘娶回自己的數(shù)據(jù)中心。
不過,傳統(tǒng)的企業(yè)數(shù)據(jù)中心要想娶回這個妖艷新娘可不是那么簡單。Hadoop的部署、運維都需要很多極客才能完全掌控,完全超出了傳統(tǒng)企業(yè)數(shù)據(jù)中心的技術(shù)能力;另外,Hadoop不僅需要專門硬件,而且安全和服務(wù)等級確保也是挑戰(zhàn)。如何能享受美麗新娘的溫柔夢鄉(xiāng)而不帶來其他的后患成為企業(yè)選擇Hadoop的現(xiàn)實挑戰(zhàn)。
從服務(wù)器虛擬化到整個數(shù)據(jù)中心虛擬化,今天我們已經(jīng)充分感受到了虛擬化這個小子的力量!如果虛擬化能和Hadoop來場戀愛,企業(yè)數(shù)據(jù)中心選擇Hadoop的羈絆是不是都會一掃而光呢?答案是肯定的。虛擬化能讓Hadoop和底層物理硬件分離,真正步入云端翩躚起舞,Hadoop從而輕松步入快速部署、高可用、資源彈性調(diào)度和安全多租戶的云端殿堂,企業(yè)數(shù)據(jù)中心大數(shù)據(jù)分析和利用的美夢才能真正成為現(xiàn)實。
讓我們一起來揭開虛擬化這小子的戀愛秘籍吧,以便更好地利用Hadoop來應對大數(shù)據(jù)的挑戰(zhàn)。
1.快速部署Hadoop:我們已經(jīng)熟悉虛擬化的密碼,包括虛擬機、快照、模板、資源動態(tài)分配等,這些特性能很好地降服了大量應用部署的難題,Hadoop當然也不在話下,可以大幅度提高Hadoop節(jié)點的部署速度。同時,可以按需快速啟動和關(guān)閉Hadoop節(jié)點,從而實現(xiàn)資源的高效利用,比如VMware發(fā)布的Serengeti開源項目,助推了虛擬化和Hadoop之戀的進程;
2.為Hadoop提供高可用和容錯能力:盡管Hadoop通過數(shù)據(jù)分布復制提高了系統(tǒng)可靠性,但仍然有很多部件存在單點故障,這種結(jié)構(gòu)在互聯(lián)網(wǎng)企業(yè)中可能不是問題,但對傳統(tǒng)數(shù)據(jù)中心來說絕對是個挑戰(zhàn)。比如:Namenode和jobtracker以及某些支持模塊都存在單點故障,通過虛擬小子的平臺高可用可以為這些模組輕松賦予高可靠的特性,讓Hadoop走進企業(yè)數(shù)據(jù)中心后,您仍然能高枕無憂;
3.擁抱Hadoop的高效數(shù)據(jù)中心:通過虛擬小子動態(tài)調(diào)度能力,可以將各種不同的負載混搭在企業(yè)數(shù)據(jù)中心云端平臺,Hadoop當然也可以與其他負載同床共枕,通過嚴格的安全隔離,確保不會發(fā)生任何沖突。甚至你可以在同一云平臺運行不同版本的Hadoop,相互之間和平共處,資源共享,在確??捎眯?、性能的前提下,降低了傳統(tǒng)部署Hadoop的總體成本,輕松實現(xiàn)了高效數(shù)據(jù)中心的目標;
4.大幅提升Hadoop環(huán)境資源利用率:將Hadoop和其他負載部署在同一主機上,通過資源控制策略來實現(xiàn)資源的高效分配和調(diào)度,實現(xiàn)Hadoop在云端的完美漫步,是虛擬化小子贏得這場戀愛的關(guān)鍵一環(huán);
5.Hadoop云端多租戶:通過虛擬化的隔離能力,Hadoop確保本身多租戶的完美體驗,不同的租戶可以將Hadoop和其他負載混合運行在云端資源池,多租戶順利部署實現(xiàn);
6.安全隔離:虛擬小子的安全隔離能力,讓不同組織、用戶的Hadoop可以無憂運行,輕松達成數(shù)據(jù)和環(huán)境完全隔離的目標,同時共享底層的物理資源;
7.易于維護和遷移:虛擬化讓Hadoop節(jié)點易于復制、遷移,方便了同數(shù)據(jù)中心不同集群之間、一個數(shù)據(jù)中心到另一個數(shù)據(jù)中心跨云遷移等瞬間實現(xiàn),Hadoop再也不是一個行動不便的媚娘。
虛擬小子通過7板斧順利贏得了Hadoop的芳心,不僅僅讓Hadoop沒給傳統(tǒng)的企業(yè)數(shù)據(jù)中心添亂, 而且Hadoop在虛擬平臺上的魅力未減,因為大量的事實已經(jīng)印證了虛擬化的Hadoop節(jié)點運行性能依然堪比物理環(huán)境,同時還帶來了大量的成本節(jié)約。Hadoop和虛擬化門當戶對,他們的戀愛之果值得我們共同期待和祝愿:祝Hadoop和虛擬化白頭偕老,永結(jié)同心,百年好合!