大数据已来临 爆发前夜需度过两大瓶颈

今年早些时候《纽约时报》刊文称“大数据时代已来临”文章中说,大数据是一个带有文化基因和营销理念的词汇,但同时也反映了科技领域中正在发展中的趋势,这种趋势为理解这个世界和作出决策的新方法开启了一扇大门。根据科技研究公司IDC作出的估测,数据一直都在以每年50%的速度增长,换而言之,也就是每两年就增长一倍。这不是简单的数据增多的问题,而是全新的问题。

随着互联网技术日新月异,人类的线下行为逐渐迁移线上。过去人的沟通、社交、办公以及日常生活场景等其他物理行为在日益发展的强大技术背景下都将被全部数字化,现实场景数字化到线上,对个人意味着足不出户就能得到个性化、智慧化的服务,对企业意味着不在费尽周折了解一个客户过去交易记录,只需查看此客户过去的一些交易行为数据,立刻判断该客户值不值得合作。

这些个人日常行为以及企业交易行为通过日积月累而产生的大量数据,无论从容量、种类还是速度与过去已不可同日而语,甲骨文大中华区技术总经理喻思成表示:大数据时代的数据源不仅有传统的结构化数据,还有非结构化数据。大数据处理方式的要求也完全不一样了。我们并不是要完全颠覆数据管理和处理体系,而是要在原有基础上增加新的处理方式,形成更完善更完整的体系

大量数据产生的背后彰显出的是一个新产业变革的前夜,通过对大量数据的挖掘、整理、分析、利用并实现数据价值,是目前业界较关注的话题。

在记者采访多名企业CIO后,大多数企业CIO认为,国内能利用大数据背后产业价值的行业主要集中在金融、电信、能源、证券、物流行业,其他行业谈大数据价值为时尚早。虽然有反对的声音,但不得不承认在技术快速变革当今浪潮下,大量数据的产生已成必然趋势。

在科学和体育、广告和公共卫生等其他许多领域中,也有着类似的情况——就是朝着数据驱动型的发现和决策的方向发生转变。哈佛大学量化社会科学学院 (Institute for Quantitative Social Science)院长加里-金称:“这是一种革命,我们确实正在进行这场革命,庞大的新数据来源所带来的量化转变将在学术界、企业界和政界中迅速蔓延开来。没有哪个领域不会受到影响。”

市场分析公司Ventana Research的研究表明,最常见的企业大数据类型是客户数据和交易数据。被最常分析的非机构化数据源主要是应用系统日志和事件数据,比如RFID标签信息、网络流量和监控数据。但增长最快的非结构化数据还是各类社交媒体上的文本信息。

但如何利用这些数据背后所承载的价值是目前业界思考的热切话题以及接下来需要面对的大数据挑战。

首先大数据的出现催生出产业人才缺口瓶颈,在大数据项目的实施方面,被调查公司普遍缺乏相关的技术能力。75%以上的公司表示在人员和培训方面存在障碍,会开源大数据技术Hadoop的人才很热门,但是比较难找而且昂贵。其它技术方面的挑战还包括实时数据的处理、大数据与传统的BI和数据仓库工具的整合、数据的安全性等。

SAS软件总经理刘政认为:大数据严重人才短缺,欧美公司也在中国寻找人才,但他们不知道中国本身大数据人才更匮乏。将来一个国家的竞争力很大程度上决定于分析人员,要通过数据分析结果做决策。所以分析人员的水平对于国家和企业的竞争力来说都是非常重要的,其次是商业模式问题,一个产业获得良性发展,需要好的商业模式加以驱动才能持续发展,

有业内专家表示不同行业数据需用不同的商业模式加以驱动,落地之前还需要细化与深化,特别是具体的行业应用,也有人认为,想清楚商业模式,价值才有根基,有了商业模式,大数据模型、算法也有了方向。就如啤酒与尿布,发现这个规律,数据价值方向也就彰显端倪。