这档硬核科技真人秀背后的AI技术,每天保护几亿人

国内首档原创代码竞技类节目《燃烧吧!天才程序员2》目前正在全网播出。和一般综艺不同,这档硬核科技真人秀节目,是基于‍第二届ATEC科技精英赛(ATEC2021)制作,由清华大学、浙江大学、上海交大、蚂蚁集团联合主办。

这一季的《天才程序员2》围绕“科技反诈”赛题,由24名全球顶尖的程序员组团展开多轮AI实战,60小时决出胜负。节目到目前已播出3集,除了能看到选手们不明觉厉、逼真模拟的黑产团伙技术攻击场景,由学者专家和脱口秀演员呼兰组成的科普天团也输出了不少有趣实用的反诈知识点。

那么到底支付宝的AI是怎么识别诈骗手法的?“杀猪盘”一类诈骗的防治难点在哪里?又是通过什么技术,让经常被质疑理解能力的AI机器人,能够打电话劝服潜在受骗者,“成功率超过人工客服”,让“超过9成老人听劝”?

据科普团成员蚂蚁集团大安全机器智能部总监负责人、天筭安全实验室主任王维强介绍,反诈技术属于风控领域。为了应对欺诈、赌博等一系列数字风险,保护支付宝用户的安全,蚂蚁基于可信AI技术,自主研发了一套智能风控系统,名字叫“IMAGE”。它解决了多个风控领域的世界难题,将支付宝资损率控制在了千万分之0.098。节目中提到的多项反诈技术成果,就是基于“IMAGE”实现的。

具体来说,“IMAGE”包含五大技术体系:

一, “I”,交互式主动风控。上面说到的AI机器人打电话“叫醒”用户,主要用的就是交互式风控技术。这是全球首个应用于反欺诈领域的交互式风控产品,它颠覆了传统的被动防御式风控,借助语义分析等技术提升AI的理解力,实现与用户更好的沟通,在损失发生之前中止诈骗。如今超9成电话由AI打出,可以加快叫醒深度被骗用户的速度。此外,为了在用户深度受骗、执意支付的情形下实行保护,技术人员还开发了“延迟到账”和“资金截留”的功能,让欺诈者没有办法支取赃款。通过这样的交互式技术,不仅保护了支付宝上的用户资金安全,还能够提升用户的安全意识,让大家在其他平台都具备更好的防骗反骗意识。

二,“M”,多方风控 。多方风控技术关系到大家都很关注的隐私安全。它采用了隐私计算技术,从而既能够联合不同企业发挥生态力量共同反诈,同时也减少隐私数据跨多方流动,保护各自的用户信息和商业秘密。

三,“A“,智能对抗。就像金庸小说里的 “双手互博”,博弈对抗技术能够借助 “双手互博” 的演习机制,让AI模拟黑产发起对自身的攻击,从而让自身AI在风险识别能力、抗打击能力上持续地自动进化。

四,“G”,全图风控。全图风控的背后是前沿技术“图计算”,这是一把识别诈骗等黑产团伙的利器。以恶意羊毛党为例,这些黑产团伙为了绕开风控,往往会在流程中刻意加入多个甚至几十个中间账户,大幅增加传统风控系统有效管控的成本。而全图风控技术能够借助风险关系网络,全面、快速、准确识别黑产团伙,有效地遏制风险。

五,“E”,端边云协同风控。端边云协同技术能够很好地保障数据的使用和保有权真正属于用户。通过将风控模型部署在智能终端比如手机上,可以实现“终端进行数据计算和决策、云端仅获取决策结果”的风控模式。这样不仅提升了隐私安全和风险控制,还节约了云端的计算资源,让用户体验更迅速。

王维强介绍,目前的电信欺诈隐蔽性很强,而部分骗局比如“杀猪盘”的受骗者,在被骗后不愿报警或报警时间较晚,也加大了防治难度。针对这种情况,平台必须加强技术,提升AI的感知能力和反应速度,主动保护用户。目前蚂蚁也在把自己的这套领先的技术能力对外输出。

《燃烧吧!天才程序员2》这样的赛事,让更多人关注安全科技,也让更多的科技人才通过赛事了解和提升解决工业界实际问题的能力。

正如本届大赛主席、清华大学计算机系副系主任徐恪教授所说:

“我们希望将ATEC办成更具实战性的比赛,既要考察选手的创新研究思路、扎实的科研功底,又要有结合实际的落地应用能力。中国科研的发展,需要鼓励青年科技人员既看得到远方,又不脱离实际。”