互联网时代,照片是人们交流和表达的重要方式之一,人们往往喜欢通过照片分享自己的所见所闻,然而很多时候,受低光照或背光环境影响,拍摄到的照片经常会产生欠曝光的现象,常常导致拍了很多照片,却难以挑选出能拿得出手的。近期,腾讯优图实验室提出的“低光照图像增强算法”,则有望解决这一痛点。
各大厂商纷纷推出夜拍神器,夜拍痛点仍难除
近几年,各大手机厂商纷纷推出各种“夜拍神器”,企图抓住该细分市场,在智能手机的红海市场分一杯羹。
2018年11月,谷歌推出新的Pixel智能手机,同时宣布推出全新相机模式Night Sight。谷歌宣称,使用Night Sight拍摄的照片比使用标准相机模式拍摄的照片要精准得多。然而,Night Sight拍摄照片所需的时间取决于场景和可用光线,通常需要一两秒钟才能让手机启动该模式工作。同时该模式可以使用的前期是仍需要一些光才能工作,如果在非常黑暗的环境中拍摄照片时,会得到一个像素混乱的结果。换句话说,这不是真正的暗光拍摄。
不到半年,在华为P30发布会上,华为消费者业务CEO余承东重点介绍了P30在拍照和摄像能力的提升,在夜拍上余承东调侃称“三星的Galaxy拍不到银行,但P30可以”。其现场展示的P30拍摄的银河照片,也似有与拍摄“火星”的Pixel叫板之意。不过P30有个前提是拍摄场景不能有太大的亮暗差,这样相机会避免过曝而导致暗处一团黑。
一度风靡全球的街机iPhone,因夜拍效果差长期受消费者诟病,最新一代的iPhoneX虽然宣称在夜拍能力上增强不少,但仍有用户吐槽夜拍照片局部放大后,由于过度曝光噪点很多。
目前,业内有三种传统夜景图像增强算法。直方图均衡化(Histogram equalization),这种方法简单的利用了图像整体的统计性质,通常不能对复杂场景达到理想效果。基于Retinex理论的增强算法,通常只能用单通道进行光照优化,颜色无法很好地回复,在光照复杂的情况下还容易出现过曝的现象。这些传统方法还容易在增加图像亮度的同时,放大噪声等瑕疵,影响图像质量。而基于深度学习的方法,通常是输入图像到标注图像之间直接训练回归(regression)模型,由于数据本身的特性,这种方法得到的结果通常清晰度、对比度比较低,而且会有一些人工痕迹。
技术揭秘:低光照图像增强,腾讯优图的“炫”科技
来自腾讯优图的研究员介绍说,该算法全称为“基于深度学习优化光照的暗光下的图像增强”,通俗理解,是可以在移动端实时实现比美Adobe Lightroom专业调光效果的高端算法。已经被计算机视觉国际顶级会议CVPR2019收录。
在应用了腾讯优图低光照图像增强算法后,原本黑乎乎的图片立马变得明亮清晰、色泽丰满起来,其效果比起国际大牌的商业软件也丝毫不逊,甚至更佳。
腾讯优图对传统夜景图像增强算法进行了分析,发现直方图均衡化对复杂场景不理想; Retinex算法,颜色无法很好地恢复,光照复杂还容易过曝;深度学习的直接训练回归模型,清晰度、对比度较低,且有人工痕迹。
传统办法的欠缺,都在于过度重视“优化图片”,依靠各种技术指标,缺乏对“人”之体验的终极关注。腾讯优图创新算法,在网络中引入中间照明,将输入与预期的增强结果相关联,增强了网络从专家修饰的输入/输出图像学习复杂的摄影调整的能力。通俗理解,就是引入了专业美术人员优化后的照片与原始照片对比,由机器自动学习,模拟出人类的智慧。腾讯优图引入了3000组原始图片和专业美工调节后的图像,并训练网络有效地学习各种照明条件的丰富多样的调整。
在网络结构的设计方面,该算法也采用创新的双分支的网络结构。网络分成了全分辨率分支和低分辨率分支。其中低分辨率分支用于学习到全图光照的整体信息,低分辨率图像的使用,有助于增大网络感受野,提高算法速度。低分辨率分支的结果将会传递给高分辨率网络分支,用于重建全分辨率下的亮度图,并最终得到增强后的图像。此外,新的损失函数也进一步帮助网络结构产生更加稳定、清晰、颜色真实鲜艳的结果。因此,腾讯优图的低光照图像增强算法,在增强结果中恢复清晰的细节,鲜明的对比度和自然色彩。
计算机视觉AI算法,不止是手机摄影
实验室的创新算法,目前可以用于哪些场景呢?腾讯优图的算法研究员介绍,手机摄影或手机拍照效果优化,依然是最重要的应用场景。该算法与手机硬件的结合,有望在夜景拍摄上取得进一步的突破,给消费者带来更好的夜拍体验。
自2012年开始,腾讯优图已在全球赢得就近700项专利,并多次刷新FDDB、MegaFace等多项国际顶级评测世界记录。这些在人脸识别、图像识别领域的科研探索,不但应用于美化图片,还被广泛应用于交通、医疗影像、自动驾驶、金融、社交、娱乐、零售等多个行业领域。
例如,基于腾讯优图AI算法研发的肺癌、宫颈癌及糖尿病视网膜病变筛查技术已经通过腾讯觅影平台上线,并逐步落地到全国多家医院。
