网站公告: ag环亚娱乐-ag环亚娱乐官网-ag环亚娱乐国际平台
新闻动态您当前的位置:官网首页 > 新闻动态 >

高危预警:AI换脸,疯狂好玩的背后却隐藏着巨大的危险

更新时间:2019-10-09 08:56

近日,一款叫“ZAO”的APP软件爆红了,用户只需上传照片,就可以把自己变成明星,网红,名人。可以出演众多的影视大片,也可以出席高端论坛,还可以随时开新闻发布会,只有你想不到,没有软件做不到。

让广大网友体验了一下另类生活,又可以在朋友圈炫耀了,让大家以为你发财了,成名了,变瘦了,朋友圈又迎来了虚假的繁荣。之前美国总统特朗普和中国女星杨幂,都曾被换脸到其他人身上,引起了不小的轰动,当事人也备受质疑。

在国内一片喧嚣的时候,大洋彼岸的Facebook却投千万美金,发起全球打假挑战赛,也就是找出那些通过AI技术作假的视频和照片。Facebook联合微软、麻省理工学院、加州大学伯克利分校、牛津大学等机构打造deepfakes检测挑战赛,鼓励全球的研究人员寻找打假方法。(deepfakes即为AI换脸背后的技术名称)

很多时候,我们看到类似的视频会一笑而过,网友更熟悉的可能是基于deepfakes技术的娱乐性视频,比如1994年版《射雕英雄传》里的朱茵被换成杨幂,还有最近的日剧女神新垣结衣被换脸成郭德纲。如果是没有看过原版视频的人,基本上就会信以为真。

如果仅仅是这样还好,无伤大雅,但如果被有心人利用,那带来的损害就无法估量了,比如许多别有用心的团伙瞄上deepfakes的优越性,把它变成了牟利工具。最典型的,就是利用deepfakes制作淫秽视频,把女明星的脸换到AV女优身上。

试想一下,突然有一天你接到短信,说有你不雅的视频,你该怎么办,虽然知道不是你,但别人不知道,一旦散布出去后果不堪设想。我们可以假设,如果造假的门槛降低——伪造视频就会来得更便宜、更容易、更快速,人们恶意使用技术的风险显然会增加。

所以我们在创新的时候,需要考虑到负面影响,而不能一味地追求新奇好玩。

【返回列表页】
地址:广东省广州市天河区88号    电话:    传真: