Hadoop的虚拟化之恋:应对大数据挑战

IT168 发表于:14年07月01日 10:20 [综述] DOIT.com.cn

  • 分享:
[导读]服务器附加存储相对传统共享存储更加易于使用和部署。理论上,其部署不再需要特殊的存储网络技术,也不存在需要特殊配置技术的共享存储设备。存储软件的部署可以作为管理程序的一部分随着管理程序的安装而自动部署,或者也可以简单的像搭建虚拟机一样完成部署。

 

高速增长的数据量和日益增加的竞争压力,让越来越多的企业开始思考如何挖掘这些数据的价值。传统的BI系统、数据仓库和数据库系统都不能很好地处理这些数据。原因包括:

1.数据量太大,传统数据库不能有效存储并维持可以接受的性能;

2.新产生的数据往往是非结构化的,而传统方式都是为处理结构化数据而设计的;

3.传统数据处理所需的硬件往往相对昂贵,随着数据量增加而继续用传统方式处理的成本让很多企业不能承受。为此,倍受互联网界推崇的Apache Hadoop这朵奇葩日益吸引了企业界的目光,大量企业都在思考如何把Hadoop这个美丽的新娘娶回自己的数据中心。

不过,传统的企业数据中心要想娶回这个妖艳新娘可不是那么简单。Hadoop的部署、运维都需要很多极客才能完全掌控,完全超出了传统企业数据中心的技术能力;另外,Hadoop不仅需要专门硬件,而且安全和服务等级确保也是挑战。如何能享受美丽新娘的温柔梦乡而不带来其他的后患成为企业选择Hadoop的现实挑战。

从服务器虚拟化到整个数据中心虚拟化,今天我们已经充分感受到了虚拟化这个小子的力量!如果虚拟化能和Hadoop来场恋爱,企业数据中心选择Hadoop的羁绊是不是都会一扫而光呢?答案是肯定的。虚拟化能让Hadoop和底层物理硬件分离,真正步入云端翩跹起舞,Hadoop从而轻松步入快速部署、高可用、资源弹性调度和安全多租户的云端殿堂,企业数据中心大数据分析和利用的美梦才能真正成为现实。

让我们一起来揭开虚拟化这小子的恋爱秘籍吧,以便更好地利用Hadoop来应对大数据的挑战。

1.快速部署Hadoop:我们已经熟悉虚拟化的密码,包括虚拟机、快照、模板、资源动态分配等,这些特性能很好地降服了大量应用部署的难题,Hadoop当然也不在话下,可以大幅度提高Hadoop节点的部署速度。同时,可以按需快速启动和关闭Hadoop节点,从而实现资源的高效利用,比如VMware发布的Serengeti开源项目,助推了虚拟化和Hadoop之恋的进程;

2.为Hadoop提供高可用和容错能力:尽管Hadoop通过数据分布复制提高了系统可靠性,但仍然有很多部件存在单点故障,这种结构在互联网企业中可能不是问题,但对传统数据中心来说绝对是个挑战。比如:Namenode和jobtracker以及某些支持模块都存在单点故障,通过虚拟小子的平台高可用可以为这些模组轻松赋予高可靠的特性,让Hadoop走进企业数据中心后,您仍然能高枕无忧;

3.拥抱Hadoop的高效数据中心:通过虚拟小子动态调度能力,可以将各种不同的负载混搭在企业数据中心云端平台,Hadoop当然也可以与其他负载同床共枕,通过严格的安全隔离,确保不会发生任何冲突。甚至你可以在同一云平台运行不同版本的Hadoop,相互之间和平共处,资源共享,在确保可用性、性能的前提下,降低了传统部署Hadoop的总体成本,轻松实现了高效数据中心的目标;

4.大幅提升Hadoop环境资源利用率:将Hadoop和其他负载部署在同一主机上,通过资源控制策略来实现资源的高效分配和调度,实现Hadoop在云端的完美漫步,是虚拟化小子赢得这场恋爱的关键一环;

5.Hadoop云端多租户:通过虚拟化的隔离能力,Hadoop确保本身多租户的完美体验,不同的租户可以将Hadoop和其他负载混合运行在云端资源池,多租户顺利部署实现;

6.安全隔离:虚拟小子的安全隔离能力,让不同组织、用户的Hadoop可以无忧运行,轻松达成数据和环境完全隔离的目标,同时共享底层的物理资源;

7.易于维护和迁移:虚拟化让Hadoop节点易于复制、迁移,方便了同数据中心不同集群之间、一个数据中心到另一个数据中心跨云迁移等瞬间实现,Hadoop再也不是一个行动不便的媚娘。

虚拟小子通过7板斧顺利赢得了Hadoop的芳心,不仅仅让Hadoop没给传统的企业数据中心添乱, 而且Hadoop在虚拟平台上的魅力未减,因为大量的事实已经印证了虚拟化的Hadoop节点运行性能依然堪比物理环境,同时还带来了大量的成本节约。Hadoop和虚拟化门当户对,他们的恋爱之果值得我们共同期待和祝愿:祝Hadoop和虚拟化白头偕老,永结同心,百年好合!

 

[责任编辑:李洪亮]
李洪亮
2014年6月24日,由中国软件评测中心、赛迪网主办的“《中国公有云平台白皮书》新闻发布会”在赛迪大厦举行。本次活动邀请了云计算领域的领导、专家,就中国公有云现状、关注热点以及发展趋势进行了深入交流,并针对中国公有云发展遇到的瓶颈及问题提出了合理化的建设和运维建议。
官方微信
weixin
精彩专题更多
存储风云榜”是由DOIT传媒主办的年度大型活动。回顾2014年,存储作为IT系统架构中最基础的元素,已经成为了推动信息产业发展的核心动力,存储产业的发展迈向成熟,数据经济的概念顺势而为的提出。
华为OceanStor V3系列存储系统是面向企业级应用的新一代统一存储产品。在功能、性能、效率、可靠性和易用性上都达到业界领先水平,很好的满足了大型数据库OLTP/OLAP、文件共享、云计算等各种应用下的数据存储需求。
联想携ThinkServer+System+七大行业解决方案惊艳第十六届高交会
 

公司简介 | 媒体优势 | 广告服务 | 客户寄语 | DOIT历程 | 诚聘英才 | 联系我们 | 会员注册 | 订阅中心

Copyright © 2013 DOIT Media, All rights Reserved. 北京楚科信息技术有限公司 版权所有.