自动化ETL服务AWS Glue在AWS中国(宁夏)区域正式上线

2020年3月24日消息:AWS 今天宣布,AWS Glue在由西云数据运营的AWS中国(宁夏)区域正式上线。

AWS Glue是一种全托管的数据提取、转换和加载 (ETL) 服务及元数据目录。它让客户更容易准备数据,加载数据到数据库、数据仓库和数据湖,用于数据分析。使用AWS Glue,在几分钟之内便可以准备好数据用于分析。由于AWS Glue是无服务器服务,客户在执行ETL任务时,只需要为他们所消耗的计算资源付费。

客户在使用数据湖架构实现数据分析解决方案时,通常有75%的时间花在数据集成任务上,需要从各种数据源提取数据,对其进行规范化,并将其加载到数据存储中。AWS Glue消除了ETL作业基础设施方面的所有重复劳动,让Amazon S3数据湖中的数据集可以被发现、可用于查询和分析,极大地缩短分析项目中做ETL和数据编目阶段的时间,让ETL变得很容易。

AWS Glue在从客户选择的数据源把数据爬取出来之后,会自动识别数据格式和模式(schema),构建统一的数据目录,并为客户提供所选数据的中央视图。这使得客户很容易跨越各种数据存储,检索和管理所有数据,而不必手动搬运它们。当客户从数据目录中标识出数据源(例如一个数据库表) 和数据目标 (例如一个数据仓库) 时,AWS Glue将匹配相应的模式,生成可定制、可重用、可移植、可共享的数据转换代码。开发人员可以调度任意数量的ETL作业,AWS Glue则会管理其余的工作,根据客户ETL工作负载自动启用或关闭计算资源。通过简化创建ETL作业的过程,AWS Glue让客户可以构建可伸缩、可靠的数据准备平台。这些平台可以跨越数千个ETL作业,具有内置的依赖性解析、调度、资源管理和监控功能。

“AWS可扩展、可靠的云存储,加上我们广泛的分析服务,使客户比以往任何时候都更容易收集、存储、分析和共享数据,”AWS全球副总裁及大中华区执行董事张文翊表示,“随着AWS Glue在由西云数据运营的AWS中国(宁夏)区域正式上线,中国区域的客户可以轻松地从任意多的数据源传输和处理数据,整合数据到数据湖,并且可以选用多种AWS分析服务,迅速开始分析所有数据。”

当前,包括德比软件、嘉云数据、壳木软件和趣加等在内的诸多中国客户都在使用AWS Glue解决他们复杂的数据挑战。

德比软件为酒店和旅游行业提供在线销售和产品分销方面的技术和系统服务,并拥有全部产品和服务的自主知识产权。它拥有全球超过18万家酒店的数据,每月处理超过800万间夜的订单。德比软件大数据团队技术经理戴岳表示:“AWS Glue使得ETL和异构数据源的处理变得更加容易,大大降低了开发和运营成本。它非常适合于开发和启动敏捷数据项目。另外,AWS Glue的数据目录功能让我们可以轻松使用Amazon Elastic MapReduce (Amazon EMR) 来直接处理和查询Amazon S3上的数据,提高了我们的开发效率。”

北京壳木软件有限责任公司(Camel Games)是神州泰岳旗下的手机网游公司,2011 年获得了Google Play 官方颁发的 Top Developer(顶尖开发者)称号。Camel Games服务器主管张华表示:“AWS Glue帮助我们完成了复杂的ETL任务,可以从数百个Amazon Relational Database Service (Amazon RDS) 数据库中定时提取所需要的数据,供数据分析部门进行迅速而直观的全局统计,大大缩短了原本跨表查询的时间”。