快好知 kuaihz

AI人脸合成照片,你还能分辨吗?

科幻电影《银翼杀手》描绘了一个真假难辨的未来世界: 

谁是复制人?图片来自:《银翼杀手 2049》 

人类制作的「复制人」有着和人类近乎一模一样面孔,除非用专业的仪器做情绪测试,或者找到其隐藏在体内的编号,否则人类根本无法从外观上辨认「复制人」。 

这样的未来世界可能有些遥远,但如果只看脸的话,你可能真的无法辨认真假。 

AI「假脸」已跨越恐怖谷 

先来看一组图片,你有信心一眼分辨出「假人脸」吗? 

以上哪张脸是假的?(答案请见文末,但是别着急,接下来还有很多脸) 

这里提到的「假人脸」概念指的是由 AI 合成人脸照片,而非真人拍摄,如果你觉得一时间很难判断真假,别担心,你并不是个例。 

加州大学伯克利分校的 Hany Farid 教授多年来一直在从事 AI 图像合成技术的研究。 

根据他近日发表在美国国家科学院院刊的一项研究显示,AI 合成人脸已与真人没有区别,甚至看起来比真人更值得信赖。 

这样的研究结果出乎了研究人员的预料。 

共同参与此项研究的 Sophie Nightingale 博士称最开始开展研究的目的,就是为了借助真人对比找到提高 AI 人脸可信度的方法。 

Farid 认为目前 AI 图像合成技术发展和改进的速度非常迅速,比传统的 CG 成像还要快。 

我们认为,我们已经跨越了静态面孔的恐怖谷效应 

恐怖谷效应是一种心理学理论,人会对与人相似的物体产生好感,但当相似度达到了一定程度时(例如僵尸、拟人玩偶),人的反应便会变得极其负面和反感。 

而当相似度进一步上升,达到与真人接近的相似度时,人的情感反应又会恢复正面,还有可能产生人类之间的移情效应。 

从 Farid 的实验结果来看,AI 合成人脸很可能已经脱离了「行尸走肉」的阶段。 

如此逼真的人脸是怎么合成的? 

生成对抗网络(GANs)是目前最主流的合成算法,名字听起来非常陌生,但其逻辑并不复杂。 

简单来说 GAN 里有一个「画家」和一个「鉴定师」,「画家」需要画出尽可能像人脸的图片,交给「鉴定师」评判。 

「鉴定师」在评判之前要看非常多的真人照片,分析出人脸的特征,当「画家」的画能够骗过阅脸无数的「鉴定师」时,一张 AI 合成人脸照片就诞生了。 

在这个过程中,「鉴定师」经过不断的学习准确度会不断提高,相应的「画家」的技艺也要随之增长,两者形成一种对抗关系,从而提高合成图像的质量,直到能够以假乱真。 

Farid 在实验中采用的是英伟达发布的 Nivdia StyleGAN2 模型,为了研究其合成照片的可信度,研究人员组织了三场实验。 

第一场实验,研究人员邀请 315 名参与者分别分辨 128 组(共 800 组)由真人和 AI 合成组成的照片组,结果参与者的平均正确率低于五成,只有 48.2%。 

接着开展第二次实验时,研究人员邀请 219 位接受过培训的新参与者参加同样的实验,并在参与者每次分别后都给予正确与否的反馈。 

在研究人员的帮助下,第二次实验的正确率有所提升,但也只是稍稍超过五成,达到 59.0%。AI 合照的拟真程度并没有让 Farid 和 Nightingale 感到意外,但实验三的结果,却是他们始料未及的。 

第三次实验是由 223 名新参与者为同一批照片的可信赖程度从 1-7 分进行打分,结果显示,AI 合成照片的可信度竟然比真人脸还要高 7.7%,这个微小的差距在统计学上有着重要的意义。 

‍ 

‍ 

研究人员认为,已具备一定可信度的 AI 合成照片未来很有可能会被不法分子利用,在社交网络实施诈骗或引起混乱,这个问题需要得到社会的重视,并且图片合成技术的发展需要一些条约约束。 

那么问题来了,既然 AI 合成人脸具有一定的社会风险,为什么人们还要投入精力研究呢? 

AI 人脸很好,但是把「双刃剑」 

2019 年 E3 电子游戏展上,基努李维斯在《赛博朋克 2077》预告片中的惊喜亮相瞬间引爆了所有场内外观众的情绪,随即其本人上场宣布将担任游戏中重要角色「强尼银手」的脸模,勾起了无数玩家的期待。 

因为在虚拟世界中,一张逼真的人脸能给玩家带来强烈的沉浸感,随着游戏机能的提升,用真人作为脸模代替数字捏脸,成为了越来越多游戏厂商塑造角色的手段。 

但使用真人脸模,往往意味着高昂的肖像授权费以及动作捕捉成本,这对一些小型工作室来说并不现实。 

这时候一张免版权的 AI 合成人脸便能派上用场——由一个世界上并不存在的人来扮演虚拟角色,听起来合情合理。 

例如免费 AI 合成照片项目 Generated Photo 就与动画软件公司 Reallusion 合作,用 AI 合成的人像用作动画、游戏或者广告的 3D 形象上,开发者可以自由地选择人物的种族、年龄、性别,并且不会有版权问题。 

可以试想一下,假如模拟人生或者 GTA 等游戏的 NPC 人脸都由逼真的人像制作,游戏的沉浸感和临场感将得到大幅提升。 

除了游戏,一些客服类软件也需要大量的真人头像与客户沟通,如果将真人头像换用 AI 人像,既可以避免人像版权纠纷,又能保护个人隐私不被泄露。 

不过,虽然 AI 合成照片有着合理的存在意义,但与此同时,也会对网络照片的真实性造成一定冲击,毕竟谁也不想在交友 app 被一个根本不存在的人迷得神魂颠倒。 

Farid 认为想要解决这个问题,唯一的办法就是为每张真实拍摄的照片加入一个「真实性」认证,这样人们在浏览和使用照片时,才能辨别其真实性。 

这听起来就像是《银翼杀手》的逆向版本,电影里人们在复制人的眼球中刻入编号识别,现实中则相反地在真实照片标记,以对抗「假货」。 

事实上,目前 Adobe、微软等公司已经在推广相关的技术。 

在 2021 年 2 月,Adobe、微软、英特尔、Arm 和 Truepic 等公司与机构联合成立了一个名为「内容来源和真实性联盟(C2PA)」的项目,以打击虚假信息,建立一个可验证图片真实性和溯源的技术标准。 

而验证的方法也很直接——将照片的拍摄、后期修改等信息用区块链技术原封不动的保留下来,无论照片怎么修改,都能直接查看。 

经过认证的真实照片会在右上角多一个「i」的小角标,当你点击它时,你就可以看到由相机生成的拍摄日期、地点、镜头等详细信息,而如果有人用 Photoshop 等软件修改过该照片,你还可以回退到照片的原图,得到完整图像。 

C2PA 的认证手段能够在一定程度确保严肃新闻等领域的照片真实性,但由于成立时间较短,目前只在部分媒体或社交平台上使用,想要为互联网所有内容提供真实性保障还为时过早。 

也就是说,在未来的一段时间里,AI 合成照片都有可能会是个社会安全隐患,目前类似 Nivdia StyleGAN2 等图像合成模型都可以在 Github 等平台上公开下载得到,这么做真的安全吗?Farid 认为这需要技术人员平衡利益与风险后慎重考虑。 

那么问题来了,文章出现那么多张脸,到底哪些是真人呢? 

,

本站资源来自互联网,仅供学习,如有侵权,请通知删除,敬请谅解!
搜索建议:人脸  人脸词条  分辨  分辨词条  合成  合成词条  照片  照片词条