“2021世界人工智能大会-可信AI论坛”今日在上海召开，来自美、英、澳等多国院士、学者，共同探讨可信AI从认知演进，到理论研究，再到产业探索等多个的议题。蚂蚁集团副总裁、首席AI科学家漆远教授在会上透露，继“隐私计算”和“图学习”技术取得实践成果后，蚂蚁集团在可信AI技术体系中的又一项重要技术——“智能对抗”技术现已正式上线部署，支持反欺诈等多个风控场景。
漆远在会上分享了蚂蚁集团在可信AI技术领域的多项技术和应用成果。他表示，融入经济学“博弈理论”的“智能对抗”技术，能够借助“双手互博”的演习机制，让AI模拟黑产发起对自身的攻击演练，从而帮助AI在风险识别能力、抗打击能力上持续、自动进化升级。据悉，该技术应用于金融风控领域，在业内尚属首次。
做好未来5年的技术储备 “智能对抗”技术已上线
“未来的风控将不再是人和人的斗争，而是AI与AI的博弈，”漆远在演讲中表示，“在支付宝上，每天上亿笔交易背后，发起攻击的早已不是散户，而是专业的黑产团伙。”
为了应对复杂多变的黑产攻击，如何持续加强风控模型的抗打击能力，做到“魔高一尺，道高一丈”成为摆在蚂蚁集团技术团队面前的难题。
2018年，漆远带领着蚂蚁集团AI技术骨干，在人工智能模型算法中融入经济学“博弈理论”，开发了一项业界全新的技术——“智能对抗”，即通过结合AI和博弈对抗，让机器自动且实时、动态地对自身系统进行安全性攻击，从而提升模型能力，使模型更加鲁棒（robust），处理结果更加准确。
就像金庸小说里的“双手互博”，借助“智能对抗”技术，用更智能的 “攻”，实现更安全的“防”。 “智能对抗”技术在权威机构Gartner发表的白皮书中被列为2021年十大金融科技趋势之一。因该技术具有对风险知识形成感知、分析和预测的能力，未来将成为可信AI领域的核心安全技术。
记者了解到，自2018年起，蚂蚁集团“智能对抗”技术的相关研究成果已陆续在包括ICML、ICLR在内的全球技术顶会上发表，拥有全球专利8项。2020年，“智能对抗”技术正式应用于支付宝反欺诈，目前已覆盖支付宝风控的账户、欺诈、交易安全等多个场景，对AI模型的鲁棒性（robustness）有明显提升。
可信AI是数字时代“抵御风险”的关键能力
随着数字化进程的不断加速，AI在推进传统产业数字化升级的过程中作用显著。在借助AI防御数字经济风险的同时，如何确保AI的安全、可信和公平成为全行业关注的重要课题。
今年6月，蚂蚁集团首次向外界发布了蚂蚁可信AI技术架构体系，具体来看：拓展数据价值的隐私计算技术，实现「数据不动价值动」的重要命题；“博弈与鲁棒性”是保障AI可信及稳定运营的关键，“可解释性与因果分析”和“公平性”的研究能够帮助人类更好地信任及依赖AI做出正确决策。
全球专利权威机构IPR Daily在6月发布报告显示，蚂蚁集团目前拥有全球范围内数量最多的“AI安全可信关键技术”专利。
可信AI不再是理论和畅想，已全面应用实践
作为数字经济中“抵御风险”的关键，可信AI技术目前已在蚂蚁集团包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护在内的多个风控场景下落地，支撑着支付宝全风险域的防御需求，也是“蚂蚁反欺诈智能风险感知与响应系统”的核心技术。
除金融风控场景外，可信AI技术还被广泛应用于数据隐私保护、金融科技服务等多个领域。前不久，采用可信AI技术的网商银行“大山雀” 卫星遥感风控系统项目获评农业部农村部农村金融十佳创新实践。
同时，围绕AI公平性的建设和发展，蚂蚁先后启动了针对不发达地区的“AI豆计划”、针对视障碍人群的“空中手势”验证码方案等项目。通过可信AI技术的研究和投入，促进相对落后地区的经济发展，帮扶弱势群体，弥合数字鸿沟。
