近期,国家持续重拳出击,开展“清朗·‘饭圈’乱象整治”专项活动,而一些不法分子,为了蹭热点,博眼球,利用深度伪造技术,制作侵犯明星隐私的换脸视频。2021年8月底,演员刘昊然的工作室发布了一则报警声明引发网友关注,声明中表示有大量网友通过网络渠道、利用AI换脸技术,传播对刘昊然带有侮辱性的视频、截图,并被恶意传播,目前已做报警处理。
此消息一出,刘昊然AI换脸的新闻冲上热搜榜,引发公众对AI换脸技术的关注。其实,通过人工智能技术进行换脸的案例不在少数。
一、深度伪造技术应用广泛
曾经走红各大短视频平台的“蚂蚁呀嘿”、直播平台“大叔秒变萝莉御姐网红音”,这些都是AI变声换脸的应用。这类应用的玩法多样,不少人以此为乐趣甚至赚取利益。
近些年,不少有劣迹艺人参与的作品被下架处理,但出品方为了能挽回损失,对还没来得及播出的影视作品会利用AI技术将相关艺人形象换成其他演员。在去年播出的《了不起的儿科医生》中,就有眼尖的网友发现原本由劣迹艺人饰演的角色被全程“AI换脸”,不仔细看很难察觉有换脸迹象。
可以说当前AI换脸已经达到了以假乱真的程度,肉眼很难分辨。
二、深度伪造技术风险应对
前面提到的这类AI换脸技术称为深度伪造技术(Deepfake),是一种利用人工智能等新兴技术操纵音视频、图像或文本内容,意图产生误导效果的技术,其生成的伪造图像和视频可以模仿目标的面部表情、动作和语音的音调、色调等信息,颠覆人们对“眼见为实”观念的认知。
随着深度伪造技术的开源、普及和各类相关应用APP的增多,许多不法分子会利用深度伪造技术制作虚假视频、图像,用于诬陷、诽谤和报复他人;通过深度伪造技术生成一些恶搞明星、政治人物的虚假视频,用于误导舆论、侵犯隐私、传播色情、伪造政治制度、破坏国家间关系和干预政府选举等;利用深度伪造技术逃脱罪行,使公安机关、司法机关的图像鉴别、举证工作难度增加。
针对这类使用深度伪造技术生成的图像或视频文件,通过人眼很难辨识,那应该如何判别鉴定他们的真实性?
美亚柏科AI研发团队专门针对伪造视频图像真伪鉴定研发出一款影像鉴真设备——AI-1300慧眼视频图像鉴真工作站。以演员刘昊然事件为例,我们使用慧眼视频图像鉴真工作站对互联网上传播的视频进行了鉴定,鉴定显示该视频被篡改伪造过,结果如图所示:
AI-1300慧眼视频图像鉴真工作站是一款运用人工智能影像鉴定技术对影像真实性和原始性进行检验鉴定的产品,不仅对使用传统伪造手段进行篡改的影像具有准确的鉴定效果,而且对采用深度伪造手段进行换脸、美颜、生成人脸、同图或异图篡改的影像处理,有10余种对应的AI检验鉴定功能可选择。在深伪检验鉴定上处于国内领先水平,可为公安、司法行业及相关领域的技术人员和影像鉴定人员提供一站式影像真伪检验鉴定解决方案。
深度伪造技术的滥用已侵害到社会公众的合法权益,对社会安全和国家安全造成威胁。目前美亚柏科AI研发团队在不断的优化鉴真视频工作站对图像和视频鉴定的速度和精度,旨在给客户提供更好更优质的鉴定服务,如果您有宝贵的意见或建议,欢迎联系美亚柏科当地的销售或者拨打我们的服务热线:400-888-6688,我们将竭诚为您服务。
