6月3日，北京智源大会期间，由北京瑞莱智慧科技有限公司与阿里安全联合举办的“AI安全与产业治理”论坛正式召开。本次论坛围绕人工智能创新发展与安全可控展开，瑞莱智慧科技有限公司CEO田天在主题演讲中表示，人工智能正进入高速增长向高质量发展的新阶段，需加快建设安全可控第三代人工智能。
人工智能正从高速增长进入高质量发展的新阶段
田天表示，人工智能正进入新的发展阶段，从技术发展的目标来看，人工智能开始接近一些核心的智能问题，突破传统的感知智能阶段，进入到更加高阶的认知决策阶段。他认为，如果将将人工智能与生物智能相类比，视觉、听觉等感知能力是所有生物普遍具备的基础智能能力，但一些更高级的生物，包括人类在内，与一般生物的区别其实是在于决策能力或者认知能力。
而认知智能如何体现？田天从三个方面进行了解释。一是复杂策略能力，能够完成多步骤的非常复杂的策略决策；二是语法理解能力，不仅能够理解概念，还能够理解语法层面，这是更高层次的认知智能的核心方面；三是理解不确定性，在面对更多复杂问题的时候会给出不确定性的判断，在理解的基础上进行反馈。
同时从产业的视角来看，田天表示，人工智能产业正从高速增长发展进入高质量发展的新阶段。一方面金融、工业等领域，AI的应用开始突破单一的感知决策，进入复杂决策、取代人工决策的多元认知阶段。另一方面，随着AI算法技术不断提升，安全可控性变得十分重要。特别像人脸识别领域，易攻击性等安全问题的不断出现，促使大众深层次关注AI技术发展过程中的社会影响以及技术本身的可靠性。
产业侧对人工智能的期待进一步提升，但第一二代人工智能都存在天然的算法漏洞和缺陷，难以支撑人工智能的长久高质量发展。为此田天提出，需加快发展第三代人工智能，从目前的产业阶段与技术需求来看，第三代人工智能需发展“安全、可控”两大核心能力。
发展安全可控第三代人工智能
田天介绍道，在实现路径上，第三代人工智能融合了第一代的知识驱动和第二代的数据驱动的人工智能，利用知识、数据、算法和算力四个要素，建立新的可解释和鲁棒的AI理论与方法，一方面可以提高AI的鲁棒性，实现像人一样的举一反三，以及动态变化环境下的深层次问题。
而如何定义“安全可控”？田天阐述道，“安全”是指打造数据安全与算法安全两大核心能力，解决数据强依赖带来的隐私泄漏与数据投毒等隐患，同时提升算法的鲁棒性与可靠性，“可控”既指应用层面的合规可控，更指核心技术的自主可控，以自主可控为根基，通过理论创新、技术突破形成核心竞争力。安全可控是发展第三代人工智能的核心基准，也是加快人工智能高质量发展的有力支撑，田天强调。
作为第三代人工智能的先行者，RealAI团队目前围绕打造安全可控人工智能基础设施已经进行了一系列布局，基于自主创新的核心技术，研发了围绕数据安全、算法可靠、应用可靠等一系列领先的人工智能算法和平台。包括在数据安全共享基础设施RealSecure，通过打通数据孤岛将数据计算环节移动到数据端，解决数据风险和隐私泄露的问题，提升人工智能本身效果；在算法的首个人工智能安全平台RealSafe，通过内置的攻防算法对各类的人工智能提供端到端的攻防解决方案，提高人工智能系统安全性。
安全可控人工智能重塑产业智能
如何看待安全可控人工智能的产业价值？田天认为，在安全可控的核心支撑下，可以更高效的贡献人工智能的技术优势，重塑产业智能，推动人工智能从“单点自动化”到“深度智能化”的价值提升。他以金融场景与人脸识别场景为例展开介绍。
在金融领域，基于安全可控的人工智能基础设施，打造兼具感官感知和决策分析的金融智慧大脑，左脑提供数据统计与决策分析，应用在包括智慧营销、智能风控、智能催收、智能营运等不同场景，右脑提供图像和语音等感知能力。基于安全可控的基础能力，在数据安全和隐私保护方面提供更加可信的AI数据保障，打通业务链条。在右脑方面基于算法安全能力，提供各类感知系统的安全监测业务，让感知应用更加安全可靠。
围绕人脸识别场景，RealAI也打造了完整的人脸识别治理的解决方案。具体分为三个层面，在数据层面，利用多方安全计算技术将人脸数据拆分到不同的数据源进行存储，使得任何一方无法单独查询，同时用深度合成技术生成不存在的合成人脸数据，在保护用户隐私的情况下支持各类的AI应用，同时通过结合了区块链的数字水印技术实现数据溯源；在算法层面，提供了一系列的检测功能，对于对抗样本攻击、算法公平性等进行检测；在合规层面，通过提供信息采集授权、信息管理权限控制、信息审计和溯源的完整合规咨询与实施服务，确保各类人脸识别系统的安全可控。
最后，田天强调，安全可控将助力未来人工智能在更广以及更深的领域有新发展和新表现，结合领域知识与算法开发能力，面向垂直领域的需求，挖掘深层次的需求。
