11 月 5 日,在 Wave Summit+2019 深度学习开发者峰会上,飞桨全新发布和重要升级了最新的 21 项进展,在深度学习开发者社区引起了巨大的反响。
很多未到场的开发者觉得遗憾,希望可以了解飞桨发布会背后的更多技术细节,因此我们特别策划了一个系列稿件,分别从核心框架、基础模型库、端到端开发套件、工具组件和服务平台五个层面分别详细解读飞桨的核心技术与最新进展,敬请关注。
今天给大家带来的是系列文章之飞桨的服务平台解读。
飞桨服务平台,包含EasyDL定制化训练和服务平台、AI Studio开发实训平台、EasyEdge端计算模型生成平台三大平台,集成飞桨算法模型与工具组件,支持飞桨Master模式,为深度学习开发者提供完善的学习交流社区,为企业提供AI开发全流程支撑平台,为嵌入式应用开发者提供高效的端计算集成工具,加速AI产业化应用落地。核心内容3959字,预计阅读时间5分钟。
本次主要升级点(Release Note)
1.1.EasyDL定制化训练和服务平台
本次发布会全新发布了EasyDL专业版,EasyDL专业版是针对AI初学者及专业工程师推出的AI模型训练与服务平台,目前支持视觉及自然语言处理两大技术方向,支持飞桨Master模式,内置百度海量数据训练的预训练模型,可灵活脚本调参,只需少量数据可达到优模型效果。
视觉方向:支持图像分类及物体检测两类模型训练,预置主流的算法网络
自然语言处理:支持文本分类及短文本匹配两类模型训练,内置百度百亿级数据所训练出的预训练模型ERNIE。
ERNIE(艾尼)是百度自研持续学习语义理解框架,该框架可持续学习海量数据中的知识。基于该框架的ERNIE2.0预训练模型,已累计学习10亿多知识,中英文效果全面领先,适用于各类NLP应用场景。
具体的任务类型和预置网络如下:
1.2.AI Studio开发实训平台
AI Studio本次全新发布课程板块,为开发者带来了精心准备的深度学习系列课程,提供了从入门到进阶的深度学习课程,覆盖CV、NLP、推荐技术等多个技术方向,并提供免费算力支持计划,为开发者提供完整学习路径,助力开发者成长。
- 体系化课程内容:从零基础入门到企业实战,无论你是零基础小白,想转行的程序员,有经验的调参高手,还是AI创业公司的老板,都能找到适合你的内容!
- 侧重于动手实践:考虑到人工智能是个实践学科,为给大家方便的实践环境,AI Studio教程网站里的每个课程都有视频、文档、代码,赠送免费的GPU算力,直接使用AI Studio在线的环境就可以快速完成实践!
- 名师授课:网站授课教程包括百度深度学习认证布道师、百度架构师、百度高级研发工程师、高校专业教师等,他们毕业于国内外名校,有着丰富的工程经验。
同时AI Studio已经全新集成了飞桨PaddlePaddle 1.6,支持全新的动态图模式, 编程更简易轻松;支持Python 3.7.4, 内含多种语言新特性,更加高效;Notebook环境每日赠送12小时V100免费算力,可实现复杂模型的长时间训练。
02飞桨服务平台全新完整解读
2.1.EasyDL定制化训练和服务平台
EasyDL是基于飞桨的定制化AI训练和服务平台,面向各行业有定制AI需求的企业及开发者,提供从数据管理与标注、模型训练、服务部署的一站式AI开发全流程支持。通过原始图片、文本、音频、视频类数据经过EasyDL加工、学习、部署可发布为公有云API、设备端SDK、本地化部署及软硬一体产品。
EasyDL产品从目标客户及应用场景的角度分为经典版、专业版、零售版三个核心产品:
- EasyDL经典版面向零算法基础或者追求高效率开发AI的企业用户,现已支持图像分类、物体检测、图像分割、文本分类、视频分类、声音分类六类模型类型定制。EasyDL经典版具备可即用、高精度、更轻快的特性,通过自动化模型选择、可视化交互界面,基于平台底层强大的预置模型和AutoDL能力,即便完全不懂算法的用户也可以快速上手,获得高精度的模型效果。
- EasyDL专业版是面向AI初学者或AI专业工程师推出的AI模型训练与服务平台,目前支持视觉及自然语言处理两大技术方向,内置百度海量数据训练的预训练模型,支持飞桨Master模式,可灵活脚本调参,只需少量数据可达到优模型效果。相对经典版,专业版算法开发更灵活,并在NLP方向上首次面向业界开放百度预训练模型ERNIE,提供三个版本供开发者选择。
- EasyDL零售版专门面向零售场景的ISV、零售行业服务商等企业用户提供商品识别场景的AI服务获取方案,支持面向货架巡检、自助结算台、无人零售柜等商品检测场景提供定制商品检测训练平台及标准商品检测API两类服务。
值得一提的是,EasyDL预置丰富的预训练模型,并基于飞桨提供的自动化深度学习(AutoDL)和迁移学习(Transfer Learning)等技术,相比同类平台具备更快的训练速度、更小的数据样本要求、更优的模型效果。同时,EasyDL围绕AI模型开发,提供了完善的配套功能服务,特别是在数据标注和服务部署方面。EasyDL在业界率先推出了智能标注,仅需标注30%的数据,即可达到同等优质的模型效果,大大节约了数据标注的成本,提升AI模型开发效率。在服务部署方面,EasyDL支持云服务、私有化部署、端SDK、软硬一体四种服务形态,提供了业界最全的端边云全栈解决方案。据悉,在端SDK上, EasyDL基于Paddle Lite支持了十多种主流芯片的加速计算方案,同时支持直接部署至边缘计算设备EdgeBoard系列,大大提升了AI模型落地应用效率。
自EasyDL定制化训练和服务平台推出以来,已陆续在各行各业的应用场景中落地应用。EasyDL完善的服务工具和简单易用的低门槛特性,吸引了无数对AI 感兴趣的个人开发者和企业用户前来使用。无论在传统的工业、制造业、安防监控业中,或是新兴的互联网、新零售、智能硬件生产商中,甚至是对精确度要求极高的医疗健康、地质勘测、野生动物识别场景中,都能找到EasyDL定制化AI模型的赋能案例。
例如杭州气象局用EasyDL打造的智能“看云”气象观测系统,可以通过云量、云状、霜露的图像智能识别天气情况,帮助观测员大大提升了气象观测的效率,模型识别平均准确率达到85%以上;中科院动物研究所成立的生物记科学平台,筛选了12万幅野生鸟类图片,使用EasyDL训练出了可以精确判断700多种中国鸟类的AI模型,帮助生物爱好者和野生动物保护协会的科学家们更快更准得完成野外科学考察;北京新桥结合历史积累的道路及桥梁病害图像(塌陷、裂缝等),分别使用EasyDL图像分类、物体检测算法,训练出了道桥类型和道桥病害等多个图像识别模型,用于全国的日常道路桥梁维护,巡查员只需将巡查图像通过手机上传即可自动分析,快速提升3倍巡查效率;青岛的一家箱包质检公司爱包花饰利用EasyDL物体检测算法,训练出一个能自动识别针、剪刀等异物的质检模型,辅助人工质检员在箱包的X光图片中检测是否有不该遗落在包内的异物,让箱包生产流水线质检人员告别“放大镜”“老花眼”,安全护送每一个箱包出货…这样的案例在各行各业还有很多, EasyDL用科技一次又一次地帮助劳动者减轻工作的繁杂与沉重。
2.2.AI Studio开发实训平台
AI Studio 集开放数据、开源算法、免费算力于一体,为开发者提供高效易用的学习和开发环境、丰富的体系化课程、海量开源实践项目、以及高价值的竞赛;为高校和培训机构教师提供教育版,助力轻松实现AI教学与深度学习人才培养。目前,AI Studio 平台已开放数千项样例工程和数据集、数百节精品课程,并提供海量、免费GPU算力资源,帮助深度学习开发者训练实验项目。
依托于百度云的分布式存储技术, 基于Kafka的分布式消息机制,在其上搭建了基于Kubernates的容器自动化运维平台, 以及基于Jupyter Notebook开源方案深度定制的在线交互计算应用,从而为用户提供大规模在线编程环境及GPU训练集群环境.
AI Studio为开发者提供了流畅易用的交互体验,支持Notebook、脚本、图形化三种编程模式,其中图形化编程模式通过对底层框架、算法封装,提供拖拉拽的可视化操作环境,让模型训练、评估及预测过程像搭积木一样简单。提供上百种飞桨预训练模型库及示例项目代码,涵盖图像分类、目标检测、图像分割、图像生成、文字识别、语音识别、机器翻译、语义理解、推荐、强化学习等多种技术方向,并开放海量数据集,使得深度学习项目开发更加便捷。目前已经有超过15万开发者,在AI Studio平台上学习、分享和交流。
AI Studio教育版为高效和教育机构提供完整的教学资源和实验平台,结合师资培训,目前已经与国内400多所高校对接,帮助高校成功开设深度学习课程,并提供实验平台支持;已与十多家教育培训机构共建深度学习培训课程。
2.3.EasyEdge端计算模型生成平台
EasyEdge是基于Paddle Lite研发的端计算模型生成平台,能够帮助深度学习开发者将自建模型快速部署到设备端。
端计算具有可离线、强安全、低时延的特点,广泛适用于无网环境、对数据保密性及时延要求较高的业务场景中,如工厂流水线AI质检、野外检测等。然而,虽然设备端算力在快速发展,但当前框架未形成垄断、设备端多样性高、芯片接入标准不统一,开发者将训练好的模型转到设备端,仍需要较高的成本。
EasyEdge的推出正是为了帮开发者降低这个成本 。平台提供了可视化的操作界面,开发者只需上传自建的模型文件,选择终端设备的芯片和操作系统,即可零代码地获得高度适配的端计算模型SDK。同时,平台充分考虑从获得端计算模型SDK到最终部署过程中的安全性及便利性,提供了丰富的鉴权方案及完善的技术文档。通过EasyEdge生成端计算模型,可以减少约90%的开发时间,模型经过硬件适配与加速后,识别速度最高可提升近10倍。
- 上传模型框架支持:Caffe、PyTorch、TensorFlow、PaddlePaddle
- 上传模型网络支持:VGG16、InceptionV3/V4、MobilenetV1、MobilenetV1-SSD、RestnetV1、YoloV3等16种
- 设备端操作系统支持:Android、iOS、Linux、Windows
- 设备端AI芯片加速支持:通用ARM芯片、通用x86芯片、英伟达GPU、高通Snapdragon GPU/DSP、英特尔Movidius VPU、华为HiSilicon NPU、苹果A-Bionic
EasyEdge 系统架构图
EasyEdge平台特点
目前,EasyEdge已为众多企业用户和开发者提供服务,并在安防监控、工业质检等多个领域落地应用。