首页 资讯正文

假脸,又一个人工智能骗术

woniu 资讯 2020-10-16 19:57:28 10204 0 人工智能智能
假脸,又一个人工智能骗术

参考消息网10月15日报道 英国《金融时报》网站10月13日发表记者西达尔特·文卡塔拉马克里希南的题为《继“深度伪造”之后的又一个人工智能骗术:假脸》的报道,全文内容摘编如下:

乍一看,“阿方索·马西亚斯”并不起眼——留着胡子,戴着眼镜,两侧的发际线有点儿后移。但他那以怪异方式扭曲的眼镜和身后模糊的背景透露出一个令人不安的事实:马西亚斯根本就不存在。

肉眼无法察觉的是,这张奇怪的人脸实际上是一种算法的产物——亲特朗普媒体TheBL网站用它为自己创建的众多虚假“脸书”账户之一提供了身份信息,然后再用这些虚假账户提升网站的流量。

合成图像高度逼真

专家们认为,虽然与近年来合成政客和名人的言行以哗众取宠的“深度伪造”(deepfake)视频相比,人工智能(AI)生成的静态人脸没那么吸引眼球,但它正在成为一种日益常见的传播虚假信息的工具。

这项技术并不是让真人看上去在说或者做他们没有说过或者做过的事情,而是无中生有创造出全“新”的人。当在线平台在美国大选之前努力应对越来越多的虚假信息之际,它们的激增令人担心这项技术可能是一种比“深度伪造”更加无处不在和迫在眉睫的威胁。

格拉菲卡研究公司和大西洋理事会数字法医研究实验室联合发布了一份关于虚假身份的报告,列出了假脸中可能露出马脚的迹象,证明阿方索·马西亚斯的个人资料头像是伪造的。

格拉菲卡研究公司的调查主管本·尼莫在推特上说:“一年前,这还是个新鲜事物。”

和“深度伪造”一样,人工智能生成的人脸采用了一种名为“生成对抗网络”(GAN)的技术。一个网络负责生成内容,而另一个网络则将其与人脸进行对比,迫使其作出改进,直到它无法区分合成头像与真实面孔。

近年来,数字版本的虚拟人物在网上的影响力越来越大,像莉尔·米克拉这样的明星在Instagram和推特网站上都拥有大量的粉丝。但令GAN生成的人脸显得与众不同的是它们的超写实主义风格——其细节水平使人物产生了一种奇怪的逼真感。

纽约州立大学奥尔巴尼分校的计算机学教授刘思伟(音)说:“最新的GAN模型(比如英伟达公司颇受欢迎的StyleGAN2)现在可以用来制作高度逼真的人脸合成图像,尤其是皮肤和头发的细节。”

一个名叫“此人不存在”(ThisPersonDoesNotExist)的网站每刷新一次都会创建一个由StyleGAN2生成的人脸,从而展示了这样的头像是多么令人信服。不过,这项技术也不仅限于人脸,还可以用于生成从汽车到猫咪在内的数十种图像。

难免露出造假迹象

专门研究“深度伪造”和合成媒体的研究人员亨利·艾德尔说,虽然对人工智能生成虚假信息的担忧主要集中在政治领域的“深度伪造”上,但尚未出现过重大案例。他说:“从来没有出现过特朗普挥动核按钮的那种图像。”

然而,自去年6月美联社发现一个伪装成智库成员的领英账户后,用于欺诈的GAN生成假脸的例子就一直层出不穷。数字法医研究实验室的副研究员马克斯·里祖托说:“它们利用这样的假脸来提升其脸书账户的影响力,向更多的受众传播信息。”

在一个鉴别“深度伪造”的平台担任首席执行官的乔治·帕特里尼说,GAN生成的人脸也出现在了企业界,其中包括一家利用假脸获取客户评价的软件公司和一家利用该技术生成其“团队”照片的营销公司。

里祖托说,要应对GAN生成的人脸带来的风险,第一步是让更多人认识到它们的存在。他说:“一旦你告诉人们这其实是伪造的,就会发现他们提高了意识,认识到所有人都必须在图像中去寻找异常。”

他说,尽管StyleGAN2取得了显著进步,但还是存在许多造假迹象——例如图像中人的头部可能是倾斜的,而鼻子和牙齿却仍然是直立的。这种算法也很难把背景中的物体和其他人融入图片里,有时会不经意间制造出不和谐的景象。

格拉菲卡研究公司指出,另一个可能露出的马脚是,在GAN生成的人脸中,不管“人”面朝哪个方向,眼睛都会出现在图像上的同一个地方。

与此同时,研究人员、政府机构和技术公司正在建立和改进模型以识别出假脸。刘思伟等人就一种这样的技术发表了一篇论文,该技术通过研究头像里的人眼中倒映的物体图像来区分真脸和假脸。

里祖托说,这个领域正在不断发展。他提到,三星公司去年进行的“深度伪造”研究把蒙娜丽莎变成了一个能够开口说话的头像。他说,这项技术有朝一日可能会被用于创建更加逼真的假脸,合成各种角度和表情的人脸照片。

里祖托说:“(眼下)要想成功地骗过人的眼睛,需要付出巨大的工作量,令这种潜在的欺骗能力有些得不偿失。”他说:“在不远的将来,我预计所需的工作量会……大大减少。”

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

本文链接:https://www.chinaai.com/zixun/1864.html

评论