IT168 发表于:14年07月01日 10:20 [综述] DOIT.com.cn
高速增长的数据量和日益增加的竞争压力,让越来越多的企业开始思考如何挖掘这些数据的价值。传统的BI系统、数据仓库和数据库系统都不能很好地处理这些数据。原因包括:
1.数据量太大,传统数据库不能有效存储并维持可以接受的性能;
2.新产生的数据往往是非结构化的,而传统方式都是为处理结构化数据而设计的;
3.传统数据处理所需的硬件往往相对昂贵,随着数据量增加而继续用传统方式处理的成本让很多企业不能承受。为此,倍受互联网界推崇的Apache Hadoop这朵奇葩日益吸引了企业界的目光,大量企业都在思考如何把Hadoop这个美丽的新娘娶回自己的数据中心。
不过,传统的企业数据中心要想娶回这个妖艳新娘可不是那么简单。Hadoop的部署、运维都需要很多极客才能完全掌控,完全超出了传统企业数据中心的技术能力;另外,Hadoop不仅需要专门硬件,而且安全和服务等级确保也是挑战。如何能享受美丽新娘的温柔梦乡而不带来其他的后患成为企业选择Hadoop的现实挑战。
从服务器虚拟化到整个数据中心虚拟化,今天我们已经充分感受到了虚拟化这个小子的力量!如果虚拟化能和Hadoop来场恋爱,企业数据中心选择Hadoop的羁绊是不是都会一扫而光呢?答案是肯定的。虚拟化能让Hadoop和底层物理硬件分离,真正步入云端翩跹起舞,Hadoop从而轻松步入快速部署、高可用、资源弹性调度和安全多租户的云端殿堂,企业数据中心大数据分析和利用的美梦才能真正成为现实。
让我们一起来揭开虚拟化这小子的恋爱秘籍吧,以便更好地利用Hadoop来应对大数据的挑战。
1.快速部署Hadoop:我们已经熟悉虚拟化的密码,包括虚拟机、快照、模板、资源动态分配等,这些特性能很好地降服了大量应用部署的难题,Hadoop当然也不在话下,可以大幅度提高Hadoop节点的部署速度。同时,可以按需快速启动和关闭Hadoop节点,从而实现资源的高效利用,比如VMware发布的Serengeti开源项目,助推了虚拟化和Hadoop之恋的进程;
2.为Hadoop提供高可用和容错能力:尽管Hadoop通过数据分布复制提高了系统可靠性,但仍然有很多部件存在单点故障,这种结构在互联网企业中可能不是问题,但对传统数据中心来说绝对是个挑战。比如:Namenode和jobtracker以及某些支持模块都存在单点故障,通过虚拟小子的平台高可用可以为这些模组轻松赋予高可靠的特性,让Hadoop走进企业数据中心后,您仍然能高枕无忧;
3.拥抱Hadoop的高效数据中心:通过虚拟小子动态调度能力,可以将各种不同的负载混搭在企业数据中心云端平台,Hadoop当然也可以与其他负载同床共枕,通过严格的安全隔离,确保不会发生任何冲突。甚至你可以在同一云平台运行不同版本的Hadoop,相互之间和平共处,资源共享,在确保可用性、性能的前提下,降低了传统部署Hadoop的总体成本,轻松实现了高效数据中心的目标;
4.大幅提升Hadoop环境资源利用率:将Hadoop和其他负载部署在同一主机上,通过资源控制策略来实现资源的高效分配和调度,实现Hadoop在云端的完美漫步,是虚拟化小子赢得这场恋爱的关键一环;
5.Hadoop云端多租户:通过虚拟化的隔离能力,Hadoop确保本身多租户的完美体验,不同的租户可以将Hadoop和其他负载混合运行在云端资源池,多租户顺利部署实现;
6.安全隔离:虚拟小子的安全隔离能力,让不同组织、用户的Hadoop可以无忧运行,轻松达成数据和环境完全隔离的目标,同时共享底层的物理资源;
7.易于维护和迁移:虚拟化让Hadoop节点易于复制、迁移,方便了同数据中心不同集群之间、一个数据中心到另一个数据中心跨云迁移等瞬间实现,Hadoop再也不是一个行动不便的媚娘。
虚拟小子通过7板斧顺利赢得了Hadoop的芳心,不仅仅让Hadoop没给传统的企业数据中心添乱, 而且Hadoop在虚拟平台上的魅力未减,因为大量的事实已经印证了虚拟化的Hadoop节点运行性能依然堪比物理环境,同时还带来了大量的成本节约。Hadoop和虚拟化门当户对,他们的恋爱之果值得我们共同期待和祝愿:祝Hadoop和虚拟化白头偕老,永结同心,百年好合!