科技公司为你的脸操碎了心

春节过后，中美两地同时掀起了一种特效小视频风。恶搞「蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀哈」（《Dragosteadintei》歌词音译）BGM的短视频在各大视频、社交网络平台上刷屏。通过AI技术，将静态照片动态化处理，将人的口型、眼神等神态与歌曲内容完好匹配，制造出喜感、魔性的「变脸」恶搞视频，再搭配上名人如比尔·盖茨、巴菲特、马云的共同「演绎」和有趣的文案，广受网民们欢迎。「蚂蚁呀嘿」总统合集|YouTube除「蚂蚁呀嘿」特效视频背后的应用软件Avatarify，抖音、快手等也迅速上线「蚂蚁呀嘿」视频制作模块，支持用户上传照片，「变脸」欢唱。而大洋彼岸则涌现一股「怀旧主题」。在线家谱公司MyHeritage开发了一项名为DeepNostalgia（深度怀旧）的AI服务，可以将静态老照片处理成几秒的小视频。上线DeepNostalgia功能的最初目的是，让用户上传已故亲人的照片，通过观看亲人栩栩如生的动画，以治愈无尽的思念。目前，MyHeritage公司的AI模块已经嵌入Twitter，引发Twitter用户跟风怀旧。无论是Avatarify开发的「蚂蚁呀嘿」，还是MyHeritage上线的DeepNostalgia，都属于Deepfake（深伪技术）。Deepfake顾名思义，是通过AI深度学习技术伪造影像、声音。伪造视频影像技术最早出现于2016年，Deepfake一词却出现在2017年，此后，每隔一段时间都有Deepfake相关的应用或视频在网络上风靡，热度下降后又以其他方式改头换面、卷土重来。那些年出现过的深度「假货」开篇提到的Avatarify就连续两年占据Deepfake界头版。2020年年初，疫情期间，Avatarify的程序员AliAliev在YouTube平台上传了几个伪造视频。AliAliev在与同事Zoom视频会议时，将自己的脸换成了特斯拉CEO埃隆·马斯克，马斯克的面部微表情、说话自然，看不出任何破绽，让同事们大感意外，误以为跟科技大佬讨论了一个价值两亿美元的大项目。与其他Deepfake项目不同，Avatarify不需要预先录制视频，可根据视频流实时工作。随后，Avatarify在Github上开源，迅速升至每日趋势列表顶部。今年，Avatarify凭借「蚂蚁呀嘿」特效视频走红后，Avatarify超越微信、抖音、拼多多，迅速登至苹果应用商店免费下载榜榜首，还带动了剪映App的大量下载。国外有Avatarify，国内有ZAO。2019年8月底，ZAO在国内上线，短短两天时间，就成为苹果应用商店最受欢迎App之一。ZAO的宣传语简洁明了，「仅需一张照片」，「出演天下好戏」，「添加好友多人合演」。ZAO的出现满足了人们猎奇、参演大片的心愿。除了说得出名字的科技公司的产品应用和功能，网络上还充斥着大量来自业余爱好者、IT程序员等制作的各类深伪视频。比如，将政客、名人的脸偷梁换柱，嫁接到其他视频上，美国前总统奥巴马、美国众议院议长南希·佩洛西、Facebook创始人马克·扎克伯格、知名女星盖尔·加朵都中过招。社交、视频网站还出现深伪帐号，2019年，LinkedIn领英出现疑似女间谍的假帐号KatieJones，2021年初，TikTok上出现好莱坞男星汤姆·克鲁斯的深伪视频帐号。深伪视频、图片通常利用生成对抗网络（GAN）制作，生成对抗网络涉及两种相互竞争的神经网络，一个机器学习（ML）模型负责训练数据集，并创建深伪视频、图片，另外一个模型负责检测伪造品，直至无法识别出伪造品。两个模型互相推进工作。尤其是，Github等社区平台上开放大量开源的Deepfake技术代码，使得制作假视频的门槛大大降低，即便不是专业人士也可轻松制作出伪造影片。不过，尽管生成对抗网络在不断进步，伪造品真假难辨，但一些视频、图片也总能发现破绽。比如，出现面部晃动、非自然扭曲、平移；周围固定物体异动；光线、阴影异常；面部特征细节如斑、痣缺失。2019年，国外出现每刷新一次生成一张假脸的网站，该生成对抗网络技术来自英伟达。虽然生成的人脸细节完美，但仔细辨别会发现，人物背景边缘模糊，经常会出现面部器官、背景缺陷。技术难点之外，科技公司鲜有成功的Deepfake商业模式，此外，因涉及人脸重要信息，科技公司还面临诸多风险。人脸是一门好生意？Avatarify这类正规渠道的App一般通过免费增值服务模式收费，Avatarify下载、首周使用免费，额外服务如去除视频、GIF水印需要付费，一周的使用价格18元人民币，包年价格253元。MyHeritage则通过免费的怀旧主题病毒式营销，推动用户注册其他付费业务，MyHeritage主营业务为DNA测试。当然，获益的可持续性与应用能否持续火爆相关，不幸的是大部分Deepfake应用往往只能火一阵时间。其实，Deepfake产业更多存在于黑灰色地带。过去几年，网络犯罪分子采用勒索软件敛财，现在他们盯上了Deepfake技术。通过伪造视频、企业高层语音，要求企业财务人员资金转移，或者伪造企业团队核心负责人照片，进行犯罪活动。信息安全公司趋势科技调查发现，暗网中存在很多深伪视频和图片示例，网络犯罪分子在暗网上以超低价格出售Deepfake技术，深伪视频50美元起步，伪造静态图片每张2.5美元，Deepfake软件25美元起步。加拿大媒体VICE记者EvanJacoby（埃文·雅各比）曾在网络上定制Deepfake成人影像，仅花费30美元。埃文还发现，Deepfake软件通常需要数百张照片训练模型，但单个视频可以绕开这种局限性，一个长达15秒的Instagram视频可以将视频主角的脸部渲染到另一个视频上。理论上讲，只要用户在社交媒体上发布了脸部视频，有人保存了视频，那么，这个用户的脸就有可能出现在各种各样的视频中。Deepfake技术带来的用户隐私数据安全问题成为不能忽视的命题。ZAO因用户隐私协议中声称可拥有App上所有生成图片所有权，可在未经用户允许情况下，将图片分享给第三方企业，引起极大争议，上线三天匆匆下架。尽管，Avatarify、MyHeritage声明用户数据不会上传至云端，也不会提供给任何第三方组织。但拥有大量用户生物数据的科技公司极容易被黑客、黑产盯上。2018年，MyHeritage遭遇大面积用户数据泄露，不久后，有人发现暗网中正出售泄露的用户隐私数据。不仅仅是Deepfake技术，只要涉及人脸数据使用问题，科技公司需要慎之又慎。2015年，Facebook因未征得用户同意擅自收集和存储用户人脸数据，被三名美国伊利诺伊州公民以违反《生物识别信息隐私法》告上法庭，随后百万用户对Facebook提起集体诉讼。经过长达六年的马拉松式诉讼，最终裁决Facebook赔偿用户6.5亿美元，每个用户可获得约340美元赔偿。AI技术终究是中立的，Deepfake技术可以复活影星、名画、逝去的亲人，Deepfake也可出现在不见光的暗网中，从事各类违法犯罪活动。而对于科技公司而言，游走在商业利益和用户隐私安全、法律法规之间，绝非易事。人脸数据归属权应该是用户，不论这些数据能否变现，使用数据时，用户需拥有充分的知情权。