1月17日，中国信息通信研究院、内容科技产业推进方阵正式发布“2022内容审核服务系统评测”结果。由蚂蚁安全科技团队自研的天鉴内容风控体系在文本、图像两大核心内容测评场景中，获五星最高评级。
当前，网络内容生态建设已成为全社会重点关注的课题。层出不穷的互联网应用产品，不断降低互联网内容生产的门槛，释放了互联网内容生产力。但同时也带来了诸多侵害个人和公众利益的信息问题挑战。譬如，虚假信息、网络暴力、隐私泄露、盗版侵权以及低俗恶俗信息等。
中国信息通信研究院于2017年起开始内容审核技术方面的研究，依托中国通信标准化协会、国内头部互联网公司、重点行业企业共同研究制定了《网络治理能力评估规范：第2部分-有害信息内容识别服务系统》，从内容识别系统的图像、文本、音频、视频的智能识别基础功能、性能两个维度进行评测。2022年信通院针对当前内容测评技术发展情况，更新和丰富了测试数据集，该内容审核服务测评具有较高的行业认可度与标杆性质，在国内具有领先性和代表性。
蚂蚁天鉴内容风控体系依托亿级数据构建底层算法模型，告别传统的基于人工或静态识别技术的内容过滤方式，实现“图、文、音、视、行”综合感知融合互补，打造出智能高效的多模态内容风控引擎，满足平台对海量内容的实时风控需求，为网络空间安全保驾护航。
其中，文本算法依托领域知识沉淀和风险语料积累，通过自然语言理解、知识图谱、对抗鲁棒性增强等技术手段，准确识别非常规内容如机器合成、异体字、卡通异化、隐晦表达等；图像算法则采用强化混排、多模态预训练框架、多标签图像分类算法等技术，沉淀针对内容风险事实标签体系的通用事实类识别能力，可在应用端进行灵活组合适配不同场景的需求。
未来，天鉴内容风控体系将加强多模态内容理解能力的建设，研发面向安全多模异构数据理解的多模融合、跨模关联和可控生成等技术，创研易于扩展的算法框架，快速响应开放场景新内容和新风险的识别，打造适合不同行业场景的内容风控应用。从而为构建互利多赢、开放包容的内容生态贡献一份力量。
