欢迎关注“创事记”的微信订阅号:sinachuangshiji
来源:量子位(ID:QbitAI)
上回说到,奥巴马deepfake怼川普,斯嘉丽怒斥网友假视频。
deepfake,视频造假神器,把一个人的脸庞,转移到另一个的身上,让假新闻轻松传播到全网。
这下,不管是政要还是明星,都被“有视频有真相”的绯闻缠身,跳进密西西比河洗不清了。
即使是普通人,万一哪天被人构陷,做了小视频发到女朋友那里,恐怕是膝盖跪键盘,有嘴说不清。
因为你看,这些视频你能辨认出真假?
这张动图来自一段电视新闻男主播说话的视频,它是真的吗?
换这位女主播,她口播的这段视频是真的吗?
看起来毫无违和感,实际上,没有一个是真的。
视频(动图)上的这些人,从来都没有做出过这些口型和表情。
而且,这样的假视频,最近市面上出现了一大堆,来自一个德国意大利跨国团伙。
这一批视频里,包含没处理过的真实视频和处理过的假视频。真实视频都来自YouTube;而假视频则是他们用三种方法造假生成的。
这批视频数量也很惊人,总量多达1000段,总共超过150万帧,原始视频超过/ondyari/FaceForensics
需要数据集的话,请去上面的GitHub页面,根据说明进行邮件申请。
长沙晚报全媒体记者 陈登辉 实习生 陈心灵
马景涛的“咆哮”、周润发的“赌神”、甚至是王健林的“小目标”……上传自己的一张照片,这些影音片段的主角,都能换上自己的脸,体验一把“上镜”带来的快感。
“仅需一张照片,出演天下好戏。”带着这句广告语,手机App ZAO连日来“攻陷”了朋友圈和微博,甚至一飞冲天,占据了App Store免费排行前三名。
火爆背后,隐忧不少。在人脸识别快速普及的当下,把自己的面部信息提供给App,真的安全么?这一问题很快引起了社会的广泛讨论和关注。
面对质疑,ZAO发表公开信回应称,“不会存储个人面部生物识别特征信息,不会产生支付风险”。
果真如此吗?9月4日,针对 ZAO 用户隐私协议不规范,存在数据泄露风险等网络数据安全问题,工业部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈。
ZAO的“逢戏换脸”究竟是如何实现的?它会带来什么隐患?记者对相关领域的专家进行了采访。
一张照片几秒完成“换脸”
吴宇森曾经执导过一部好莱坞大片《变脸》,影片中尼古拉斯凯奇和约翰特拉沃塔分别饰演一警一匪,一次偶然的事件却让他们相互“换脸”,从而引发一系列戏剧冲突。
这样“换脸”的情节,如今通过一款名为ZAO的手机App就能实现。
“我的偶像是周润发,小时候看《赌神》,特别羡慕他那种气势。”长沙市民侯先生通过ZAO,圆了自己儿时对偶像的梦想。“上传一张自己的照片,只需要几秒钟,发哥坐在牌桌前的脸,就变成了我的脸,特别有趣,我分享给了好多朋友。”
在侯先生的带动下,身边不少亲朋好友都纷纷下载了这一App,将自己“植入”影片。
其实,通过AI来实现“换脸”并不算创新。
早在2017年,美国就有公司推出了一款名为Deepfakes的软件,它是深度机器学习(deep machine learning)和假照片(fake photo)的简称(合称),最生动的称呼是深度(照片)造假。
“AI换脸的技术已经比较成熟了,门槛也不算非常高,”研究人脸识别的长沙千视通智能科技有限公司(以下简称“千视通”)算法团队负责人谢喜林告诉记者,通过照片来实现“换脸”,主要难度在于照片是静态的,而影音片段的是动态的,“这就需要一帧一帧地去合成,才能栩栩如生。”
上传之后“脸”还是我的么?
好评如潮过后,质疑声也不绝于耳。把ZAO推向风口浪尖的,是关于用户隐私的问题。
记者下载了ZAO进行体验。打开App后,需要先同意一份用户协议(隐私协议),然后填写手机号码,根据验证码才能登陆。
ZAO里有非常多样的视频素材可供选择,还有表情和上传功能。点击“造视频”,用户就可根据自己的喜好选择,上传一张自己正面高清的照片,只需几秒钟,就能让“主角脸”变成自己的脸。
这看似简单的操作背后,确实隐藏着不少隐患。
“面部信息就像每个人的DNA,唯一且独特。而在操作过程中,App还需要用户填写手机号码,也就是说,一旦你使用ZAO,运用方就掌握了你的面部信息和电话号码,通过这两样关键信息,很容易获取更多的隐私信息。”千视通高级算法工程师张诚告诉记者,现在人脸识别在智能安防、智能交通、智能家居等领域已经广泛应用,“尤其是智能支付,个人隐私信息泄露的越多,约容易产生盗刷风险。”
张诚还告诉记者,尽管用户上传的是单张照片,但积少成多,也有可能通过技术合成为动态视频。“现在许多人脸识别的验证环节,会要用户转头或者眨眼,也就是我们说的活体检测,”对于等级比较低的设备,很可能会无法识破“合成动态”,分不清到底是“李逵”还是“李鬼”。
“因为AI是新生事物,所以我们国家在法律上存在空白,对于用户的隐私,现在只能寄希望于运营方凭良心办事了,”谢喜林道出了担忧。
承诺不会产生支付风险
记者通过调查了解到,其实AI“换脸”的软件,在国内也有不少先例,但ZAO的异军突起,背后有何玄机?
通过“天眼查”可以了解到,ZAO所属公司为长沙深度融合网络科技有限公司。创始人王力是陌陌公司董事、总裁及COO。执行董事雷小亮,则是陌陌公司联合创始人兼游戏业务部总裁。
也就是说,这款风靡网络的App,来源于正在转型O2O的陌陌。有了这位互联网“资深前辈”的力推,ZAO一夜火爆也就不难理解了。
针对ZAO用户隐私协议不规范,存在数据泄露风险等网络数据安全问题,工业和信息化部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。
重压之下,ZAO也悄然改变了其用户协议,以回应用户对其隐私泄露的质疑。旧版用户协议当中要求用户须授予该应用“完全免费、不可撤销、永久、可转授权和可再许可的权利”相关内容已经被删除。
此外,ZAO的微信分享功能也已被屏蔽。不过仍然可以分享到QQ、QQ空间。
9月3日,ZAO发布声明,称其不会存储个人面部生物识别特征信息。ZAO表示,用户使用过程中,为保护肖像权不被冒用,还设置真人验证环节。
记者通过测验也证实了这一点,当使用未验证为本人的照片进行“换脸”之后,屏幕上显示“未经肖像权验证,此视频无法分享”。
湖南元端律师事务所律师董爽
1、肖像是否属于个人隐私信息?
肖像权与隐私权范围不完全一致,但会产生交叉重合。肖像权是一种人格权,核心意思是自然人对自己的肖像享有的使用权利,未经本人许可他人不得以擅自使用,公众相对比较熟悉。隐私权是指自然人享有的私人生活安宁与私人信息秘密依法受到保护,不被他人非法侵扰、知悉、收集、利用和公开的一种人格权。在一定情况下,某些侵权行为可以通过侵犯肖像权的方式侵犯隐私。
2、面部信息的泄露,是否会带来安全隐患?
用户面部信息的泄露,在互联网语境下带来非常大的安全隐患。这方面国内国外都有新闻爆出。
3、现行法律对于APP收集个人隐私信息有没有什么规定?
关于APP对收集个人隐私的法律规定,散见于侵权责任法、消费者权益保护费和合同法的一些规定,不够系统和完整,对很多新情况存在认定的模糊地带。根据国家网信办官网消息,《APP违法违规收集使用个人信息行为认定方法(征求意见稿)》近日尚处于公开征求社会意见阶段。
4、对于类似提交面部信息的做法,应该给消费者什么样的提醒?
对于消费者而言,一是首先权衡是要娱乐还是要安全。ZAO App的“换脸术”,虽然一定程度上满足了用户需求,但是作为硬币的另一方面,存在用户隐私泄露的敞口风险。用户的个人隐私在换脸后很多时候无法判断真伪,广泛传播也不难。在APP过度收集用户个人信息尚待完善的背景下,对用户隐私权的保护基本只能靠APP开发者的自觉。 二是要提防此类APP霸王条款的存在,如果消费者没有认真阅读就同意授权或同意隐私条款,可能用户在不知不觉中以默认的方式已经放弃了自身的很多权利,不利于以后维权。
5、这款ZAO的app换脸软件,使用了大量影视剧作品的片段,是否有侵权的嫌疑?
在该APP推广的语境下, 如果未经授权使用影视剧片段有着明显的商业目的,属于侵权行为。
版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。