“AI领域反击：向 Deepfake 宣战！”

本篇文章4139字，读完约10分钟

当地时间1月6日，facebook全球政策管理副总裁monika bickert在博客上表示，facebook将删除符合该标准的deepfake视频。 这是facebook打击平台上“管理介质”( manipulated media )的最新行为。 monika bickert先生说。 虽然deepfake视频现在在网络上也很少见，但其数量的增加会给领域和社会带来巨大的课题。 什么是deepfake？ deepfake，大家可能多少听说过名字。 年末，美国社会交往信息网站reddit的顾客deepfakes利用人工智能技术制作了假色情视频，将《神奇女侠》女主角cal gadot的脸嫁接在成人电影女演员身上，一时引起轰动。 事实上，变脸在计算机视觉行业很常见。 说到改变ai的脸，不可避免的话题是改变cycle gan的脸是初期的重要尝试。 cycle gan派生自深度学习模型gan (生成通用ADVEA Sarial Networks，即对抗互联网)，可以轻松学习两个类别之间的转换关系，因此自然适合“图像到图像的转换” 虽然cycle gan保证了意义上的变化，但是不能保证细节上的问题，最重要的一点是表情不能一一对应，存在着无意义的像素。 与cycle gan不同，deepfake是一种深度自动编解码器模型( autoencoder-decoder )，使用源人物和目标人物至少数百张照片，训练模型分别识别和恢复两个人脸的能力，最后是索 当然，deepfake也有不能用小样本工作的限制。 也就是说，一两张照片不能代替两张脸。 模型的训练过程也需要很多资源。 由于您的deepfakes制作并入住的换脸视频涉及色情拷贝，侵犯了他人的隐私，因此reddit政府将其封印，作为报复，deepfakes也免费公开了换脸视频的ai代码。 潘多拉魔盒一打开，deepfake凭借惊人的快速发展速度、逼真的换脸效果，最终开始带来不良社会的消极影响。 荷兰网络安全初创企业deeptrace于2019年10月发布了关于deepfake现状的报告，网上现有的deepfake视频中有96%与色情相关，是发布在各大色情网站上的deepfake 而且，娱乐圈名人成为了deepfake视频的第一恶搞对象。 另外，也不能忽视deepfake对政局的影响，其中最典型的两个例子如下。 年，deepfake合成的加蓬总统ali bongo新年致辞视频引发兵变。 2019年，马来西亚经济部长azmin ali用与男性发生性关系的视频搅动马来西亚政局(雷锋网(公众号:雷锋网)注:同性关系在马来西亚属于违法行为，azmin ali视频由deepfake技术伪造， 正如荷兰第一家网络安全公司deeptrace的创始人兼首席科学官giorgio patrini所说: 无论是视频、音频还是拷贝，我们依赖和信任的多个数字通信渠道都备受关注。 政府、公司、学术界共同出力 deepfake视频的迅速发展自然引起了人们的恐慌和思考。 因此，各大科技公司也开始与学术界联合行动，不会产生更深的负面影响。 正如纽约州立大学工程与应用科学学院教授吕思伟所说: 要解决这个问题，需要技术人员、政府机构、媒体、企业和所有在线客户的共同努力。 2019年9月5日，facebook cto mike schroepfer表示，facebook与微软公司共同在包括麻省理工、牛津、康奈尔科技校区、伯克利大学在内的多所大学研究中检测到了deepfake。 另外，facebook投入1000万美元启动了deepfake检测挑战赛( dfdc )，于2019年底在温哥华举办的neurips 2019年正式启动。 当月，谷歌ai开源的deepfake视频检测数据集包含来自28个不同场景的真人演员一年来现场拍摄的3000多段视频。 2019年10月初，美国参议院情报委员会的mark warner和marco rubio聚集了包括facebook、twitter、youtube、reddit、领英在内的11家科技企业负责人，制定领域标准、共享、删除、存档ai合成副本。 月末，推特发表了平台将执行的草案，公开征集了客户的意见。 如本文开头所述，脸书最近发表了博客，公开了比较deepfake视频的新政策。 博客称，facebook将删除符合以下标准的操纵媒体。 过度或合成的视频误导了观众，以为视频中的人物其实没有说过 通过ai或机器学习技术整合、替换或叠加现有视频素材生成的视频。 值得一提的是，对于不符合上述标准的视频，还将由第三方事实审计员进行审查(包括facebook在内的全球50多家合作伙伴将使用40多种语言进行审计)。 。 如果视频被评估为虚假或部分虚假，facebook将大幅减少在news feed新闻流的传播，客户在共享视频时也会受到警告。 另外，facebook指出，新政策不适用于抄袭或讽刺文案相关的视频，以及删除或更改讲话顺序的视频。 脸书的新政策充满争议 美国智库新美国安全中心cnas技术和国家安全项目主任paul scharre警告说: deepfake具有很大的破坏性，利用它来操纵选举只是时间问题。 因此，进入年后，随着这次美国总统选举的临近，作为世界上最大的社会交流媒体网站，facebook当然也考虑了政治因素。 据雷锋网报道，monika bickert的博客是在她出席国会关于网络操作和欺诈的听证会之前发表的。 这不是偶然的距离年选举只有10个月，很可能很少政治阶层的人对脸书在民主进程中所起的作用感到满意。 这次政策的发表似乎是脸书向当局说明了自己的能力。 关于政治，我记得2019年美国民主党议员nancy pelosi的演讲视频被恶搞了(视频倍速下降到0.75x，nancy pelosi的语气也提高了)，看起来像是喝醉了的状态。 很快，这个视频传播到了各个社会的交流互联网上，极大地影响了当事人的形象。 对此，facebook表示，视频是常规剪辑，因此没有违反平台规定。 因为这个不会被删除。 但是，鉴于其负面影响，facebook减少了视频在平台上的传输。 虽然这一做法受到广泛批评，但facebook此次公布的新政与去年nancy pelosi视频的虚假文案相比，并未展现出更具说服力的战略。 由于这充满争议，争论的主要原因如下。 第一，第一条的标准仅适用于让观众误以为视频中的人物实际上没有说的视频，即让观众误以为视频中的人物实际上没有做的deepfake视频。 其实这是个大洞。 facebook称，在deepfake视频中，无论政治家焚烧美国国旗、参加白人民族主义集会或与恐怖分子握手，facebook都不会删除视频。 以上是“极端情况”，但在外交政策、国家安全、选举可靠性方面，这些往往是最重要的。 当然，facebook的一位发言人确实向美国付费媒体onezero证明，在这些情况下平台不会删除视频。 第二，第二条的标准仅限于控制虚假新闻的宣传效果。 由于现阶段这类视频大多仍来自视频剪辑软件，通过手动删除背景新闻和调整语序，视频剪辑者达到了断章取义的目的。 正如纽约大学斯特恩商业人权中心副主任、政治虚假新闻专家paul barrett所说: 根据facebook的新政策，即使是虚假视频，由于篡改手段不先进，也不会被删除。 第三，facebook在博客中提到的“事实检查政策”有严重的限制。 美国《在线》杂志作家ren e diresta认为: 事实检查政策的首要问题之一是太晚了，在弄清事实之前，视频是以病毒形式传播的。 而且在政治上，很多人不相信事实检查的结果，甚至发展成党派之争。 一个很好的例子是，2019年facebook事实检查机制启动时，nancy pelosi的视频被广泛传播，最终没有被删除，负面影响没有减少。 对于网络暴力，nancy pelosi指责donald trump团队也有不可推卸的责任(雷锋网注:视频中nancy pelosi谈到donald trump )。 第四，该政策只比较视频。 最近，美国亚利桑那州共和党议员paul gosar在twitter上发送了前总统巴拉克·Obama和伊朗总统握手的伪造照片。 facebook证明，这也确实不在新政策的对比范围之内。 第五，这个政策最大的漏洞是不适用于模仿和讽刺相关的视频。 事实上，虚假新闻制造者多以讽刺标签为幌子，顺利通过facebook事实检查，病毒式传播带有明显误解的新闻。 除非决定facebook定义什么是讽刺，否则deepfake视频用讽刺的名号蒙混过关也不是不可能。 第六，这项政策可能有向当权者低头的嫌疑。 据《纽约时报》报道，脸书发言人发了邮件。 如果政治演讲符合公众利益，脸书就不会审查它。 如果政治家违反平台规定，则通过权衡“公共利益的价值和损害风险”来做出判断。 对此，《纽约时报》认为，所谓“公共利益的价值和损害风险”的定义很模糊，但很明显，政治家是受保护的阶级。 这样，政治家操纵社会交流媒体似乎比普通人更简单。 在批评的呼声不断的情况下，也有人对这项政策表示肯定。 例如，非营利组织witness的项目负责人sam gregory说: 我觉得这个政策很好。 在deepfake成为普遍问题之前，社会交流平台首先明确展示角度，公布他们的具体政策是非常重要的。 另外，onezero认为做不好比什么都不做好，至少facebook的新政策稍微考虑了一些可能出现的典型deepfake视频，对政治有积极意义。 诚然，现在大部分的deepfake都涉及色情而不是政治，但facebook一直禁止裸体和色情的规定其实也起到了很好的效果。 雷锋网表示，脸书迄今为止在联合公司、学术界和政府方面做出的努力，确实体现出了作为全球最大社会交流媒体的社会责任感。 但是，面对损害了众多女性和名人的deepfake，不得不说facebook的博客似乎是意想不到的仓促提交的回答。 为了比较有效地不使受害者群体变得更大，可能必须仔细考虑后再行动。