从刷屏爆款到被约谈 ZAO换脸为何三天就熄火?

2019-09-04 05:21

Zao的换脸游戏,一夜火爆迅速成名。但眼见它高楼起,眼见它楼塌了。

沉溺“换脸”

Zao“逢脸造戏”深度融合换脸技术概念,让这款APP迅速位列苹果应用商店免费榜和娱乐榜双第一,用户的火热追捧甚至让其服务一度宕机。只需几秒,便可跨越AI换脸的高难技术门槛,实现和偶像互动飙戏,如该APP宣传语所说,“只需一张照片,出演天下好戏”。

但“逢脸造戏”游戏的背后风险重重,对用户个人信息安全构成了威胁。其协议提出,“在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。该条款遭到了一些媒体与法律人士的批评,随后,ZAO修改用户协议,删除了原有的上传肖像权可被ZAO完全免费、不可撤销、永久、可转授权和可再许可的权利等描述,但依然保留“您同意对用户内容进行网络信息传播的权利”。

其实,隐含的意思很明显,就是可以用上述这句“您同意对用户内容进行网络信息传播的权利”来逃脱自己的法律责任。虽然,在被指“过度索取肖像权”引发争议后,“ZAO”在用户协议的开头部分增加了“特别提示”,这份提示指出,用户上传的短视频和人脸,将严格按照相关法律法规的规定保留在ZAO上。用户可以依据ZAO的平台规则撤回或删除上述内容,而在用户撤回或删除后,ZAO将依据相关法律法规在服务器上予以删除。

但这实际上并不能从根本上解决问题。不管这款“换脸”APP是游戏还是以游戏为诱饵,钓取用户的个人信息,它的协议都在试图钻法律的漏洞以及监管的空子。

对法律与伦理发起双重挑战

《中华人民共和国网络安全法》规定,网络运营者不得违反法律、行政法规的规定和双方的约定收集、使用个人信息,并应当依照法律、行政法规的规定和与用户的约定,处理其保存的个人信息。

其实,采用AI换脸这一技术已并不新鲜,但因为目前APP的娱乐性以及用户本身的好奇,依然引发大量追捧。与娱乐和新鲜猎奇感相比,用户“让渡”了自己的信息安全。

2018年百度创始人李彦宏在中国发展高层论坛上的发言曾一度引起诟病。他说,“中国人对隐私问题的态度更开放,也相对来说没那么敏感。如果他们可以用隐私换取便利、安全或者效率。在很多情况下,他们就愿意这么做”。他的这番言论指向中国互联网用户在“隐私”问题上的“隐忍”,但更也暴露了互联网服务提供商对于用户信息使用的一种心态。

诚然,中国用户在使用各种APP时会选择“同意使用权限”,因为如果不同意,该款APP完全没有办法使用,这是一个死结。但AI换脸这样的技术体验,用户并不是非用不可,可以采取不使用的方式来规避对个人信息进行钓鱼操作。但,这依然不能成为互联网服务提供商逃避责任的借口。尤其是在这种娱乐性很强的项目上,更应该注意保护用户的隐私。

因为,很可能一不小心就会“丢脸”,或者卷入子虚乌有的丑闻,引发社会秩序的混乱。此前在美国,已经发生这样的案例。《中国新闻周刊》在其分析文章中指出,将“换脸”推到风口浪尖的是一系列融合了AI技术的“假视频”。2017年12月,一个名为“深度伪造”(deepfakes)的用户在美国论坛Reddit上发布了多段色情视频。该用户让电脑学习好莱坞女明星的图像资料,然后把女明星的面部移植到色情片女主角脸上,近乎完美地实现了动态换脸,这引发了大量讨论和抨击,最后以账号被封告终。

不过,AI换脸并未消失,用户“深度伪造”随后直接开源了项目代码,更多效仿者随之而来,他的名字也被用来代称“AI换脸”技术。ZAO也是基于“深度伪造”开源代码开发出来的,其是AI深度学习应用于脸象识别和应用领域的一个分支。

这样一个纯粹娱乐应用的场景如果不加合理的控制,潘多拉的魔盒会被迅速打开。一时戏仿的欢愉(以“出卖”用户脸象的生物识别信息为代价),某种程度上也冲击着伦理道德,科技伦理与现实世界的冲突与平衡再次被讨论。

美国众议院情报委员会今年6月份曾召开关于人工智能深度伪造的听证会,公开谈论深度伪造技术对国家、社会和个人的风险及防范和应对措施。但听证会后不久,一款名为DeepNude(深裸)的App宣称能实现“一键脱衣”,操作十分简单,只要给它一张人像照片,等待30秒,就能得到一张裸照。这也再次把AI技术应用中的法律伦理问题推到台前。

人类的贪欲与自负

美国斯坦福大学计算机科学教授、“百度大脑”原负责人吴恩达在推特上公开批判,称“DeepNude是AI技术最糟糕的应用之一”,AI技术的超级力量应该被用到推动世界发展的项目中。实际上,不管DeepNude还是Zao“逢脸造戏”,问题都是同根同源的。

高科技对人类的“侵蚀”面临的也是全球性的问题。

在一切的探索行为中,无论是在艺术领域或科学探寻中,始终都存在着爱好新知的冲动和惧怕新知的冲动之间的拉锯战。爱好新知的冲动驱使人类渴望探索新知,如果失去热爱新知的冲动,人类会停滞不前,但是如果失去惧怕新知的冲动,就会轻率地一头扎进灾难之中。在AI换脸面前,仿佛爱好新知的冲动已经战胜了惧怕新知的冲动,法律与伦理道德都被抛诸脑后。

人类在高科技的探索上突飞猛进,节节胜利,所向披靡;但在振奋和激动的时刻这是否也是在用无限娱乐的方式来否定自己的进化遗产?一旦受到压抑的瞬间快乐等生物冲动冲决大坝,精致的生命世界就会被生物冲动的洪水一扫而光。

英国社会学家莫利斯在他的《裸猿》中强调,尽管技术在飞跃发展,人类仍然是相当简单的生物现象。尽管人类有着恢宏的思想、高高在上的自负,但仍然是卑微的动物,受制于动物行为的一切基本规律……“我们容易沾沾自喜,认为这一切绝不可能发生,认为我们与众不同,可以不受生物规律的制约,其实不然”。

借此,莫利斯强调,人类必须长期又严肃地把自己看作一种生物并以此意识到自己的局限性,保持头脑清醒。这将有助于人类把握分寸,知道天高地厚。而不是一味地征服科技,最终在贪欲面前,被高科技反噬。

 

「版权声明:多维客是一个汇聚各方言论的平台,所述观点不代表本网立场。如有侵权文章或者图片,请立即联系我们。」
APP

时事

紧跟时事热点,解读国内重要政策、分析社会舆情、网罗国际热点事件、天灾人祸、地缘政治以及大国博弈等。

评论

【声明】评论应与内容相关,如含有侮辱、淫秽等词语的字句,将不予发表。

推荐阅读