上个月，在ESPN的热门纪录片《最后的舞蹈》(The Last Dance)中，State Farm首次推出了一个电视广告，这已成为近年来讨论最广泛的广告之一。它似乎播放了ESPN的一位分析师在1998年对2020年做出惊人准确预测的镜头。
事实证明，这段视频不是真的:它是用尖端人工智能制作的。这则广告让观众感到惊讶、开心和愉悦。
然而，观众应该感到深深的忧虑。
国营农场的广告是人工智能领域一个重要而危险的新现象的良性例子:深度假货。Deepfake技术使任何人只要有一台电脑和互联网连接，就可以创建逼真的照片和视频，记录人们说的话和做的事，而他们实际上并没有说过或做过。
由词组“deep learning”和“fake”组合而成的新词“deepfakes”于2017年末首次出现在互联网上，数据是蓝冠注册AI （尤其是机器学习）的核心组成部分，因此在优化AI模型的同时蓝冠代理要考虑许多因素，同时要在准确性和处理现实世界中通用输入的能力之间取得平衡。它是由一种名为“生成式对抗网络”(GANs)的创新深度学习方法推动的。
几个deepfake视频病毒最近,已经给世界各地的数百万的新技术:奥巴马总统用脏话来形容总统特朗普,马克·扎克伯格承认Facebook的真正目标是操纵和利用其用户,比尔Hader变成阿尔·帕西诺在深夜脱口秀节目。
网络上深度伪造内容的数量正在快速增长。根据创业公司Deeptrace的一份报告，在2019年初，有7964个deepfake视频在线;仅仅9个月后，这一数字就跃升至14678。毫无疑问，从那时起它就一直在膨胀。
虽然令人印象深刻，但今天的deepfake技术仍然无法与真实的视频片段媲美——通过仔细观察，通常可以看出视频是深度伪造的。但是技术正在以惊人的速度进步。专家预测，用不了多久，深度照片就会与真实照片难以区分。
加州大学伯克利分校教授、deepfake专家哈尼·法里德(Hany Farid)说，“在2019年1月，深层赝品有漏洞，而且闪烁不定。”“9个月过去了，我从没见过他们跑得这么快。这只是冰山一角。”
今天，我们正站在一个转折点上。在未来的几个月和几年里，深度造假有可能从一个互联网怪人成长为一股具有广泛破坏性的政治和社会力量。社会现在需要行动起来，做好准备。
眼见为实
deepfake技术被广泛应用的第一个用例是色情——新技术通常都是如此。根据深度追踪的报告，截至2019年9月，96%的深度伪造视频是色情的。
一些专门提供深度假色情内容的网站已经出现，在过去两年中总共获得了数亿的浏览量。深度伪造的色情作品几乎都是非自愿的，包括对名人或私人关系的露骨视频进行人工合成。
从网络的这些黑暗角落，深度造假的使用已经开始蔓延到政治领域，那里的潜在危害甚至更大。
如果能向所有人展示他们认为是真实的编造的视频，就不需要多少想象力就能理解可能造成的危害。想象一下就在选举前政客受贿或性侵的深度伪造镜头;或是美国士兵在海外对平民犯下的暴行;或者特朗普总统宣布对朝鲜发射核武器。在这样一个世界里，关于这些片段是否真实存在着一些不确定性，其后果可能是灾难性的。
由于这种技术的广泛普及，任何人都可以制作这样的视频:国家资助的演员、政治团体、单身人士。
操纵选举;侵蚀人们对机构的信任;削弱新闻;加剧了社会的贫富差距;破坏公共安全;对包括民选官员和候选人在内的知名人士的声誉造成难以修复的损害。”
鉴于利害关系，美国国会议员已经开始关注此事。
“过去，如果你想威胁美国，你需要10艘航空母舰、核武器和远程导弹，”美国参议员马可·卢比奥(Marco Rubio)最近说。“今天....你所需要的只是制作一段非常真实的假视频，这可能会破坏我们的选举，让我们的国家陷入巨大的内部危机，深深地削弱我们。”
技术人员同意。用世界顶级深度赝品专家哈尼·法里德(Hani Farid)的话来说:“如果我们不能相信从世界各地收集到的视频、音频、图像和信息，那就是严重的国家安全风险。”
这种风险不再只是一种假设:有一些早期的例子表明，深度造假会影响现实世界的政治。专家警告说，这些事故是煤矿的预兆。
上个月，比利时的一个政治组织发布了一段深度伪造的视频，视频中比利时首相发表演讲，将新冠肺炎疫情与环境破坏联系起来，并呼吁对气候变化采取严厉行动。至少一些观众相信演讲是真实的。
更隐晦的是，不管deepfake是否真的使用过技术，只要视频有可能是深度伪造的，就会引起混乱，助长政治欺骗。这方面最引人注目的例子来自中非的一个小国加蓬。
2018年末，加蓬总统阿里·邦戈数月未公开露面。谣言四起，说他已不能胜任公职，甚至说他已经去世了。为了减轻这些担忧，并重申邦戈对国家的领导地位，他的政府宣布他将在新年发表全国电视讲话。
在视频讲话中(这值得你亲自检查)，邦戈显得僵硬和生硬，有不自然的语言和面部动作。这段视频立即引发了人们的怀疑，认为政府向公众隐瞒了一些事情。邦戈的政治对手宣称，这段视频是深度伪造的，而且总统已经丧失行为能力或死亡。关于一场严重造假阴谋的谣言在社交媒体上迅速传播开来。
加蓬的政治局势迅速变得不稳定。不到一周，军方就发动了政变——这是1964年以来的第一次——并引用新年录像作为总统出了问题的证据。
直到今天，专家们还不能肯定地说新年视频是否是真实的，尽管大多数人相信它是真实的。(政变不成功;邦戈自此公开亮相，至今仍在执政。
但视频是否真实几乎无关紧要。更大的教训是，深度赝品的出现将使公众越来越难以分辨真假，政治人物将不可避免地利用这种情况，并带来潜在的破坏性后果。
南加州大学教授李浩(音)说:“人们已经在利用深度赝品存在的事实来质疑真实的视频证据。”“即使有你做某事或说某事的镜头，你也可以说这是一个深度伪造，很难证明不是这样。”
在最近的两起事件中，马来西亚和巴西的政界人士都声称这些视频是深度伪造的，试图以此规避有损形象的视频片段所带来的后果。在这两种情况下，没有人能够确定其他的方法——公众舆论仍然存在分歧。
研究人员阿维夫•奥瓦迪亚(Aviv Ovadya)对她所称的“现实冷漠”提出了警告:“要弄清什么是真实的，什么不是，需要付出太多努力，蓝冠注册mmWave技术在城市中效果很好，您可以在建筑物的顶部放置一个小型单元，并为整个街区服务。在密集的城市环境中，建筑物通常是障碍物。所以你更愿意去做你以前的工作。”
在一个眼见为实的世界里，一个大团体就什么是真实达成一致的能力——更不用说就它进行建设性的对话——突然变得不稳定了。
一场技术猫捉老鼠的游戏
使深度模仿成为可能的核心技术是深度学习的一个分支，称为生成对抗网络(GANs)。GANs是Ian Goodfellow于2014年在蒙特利尔大学(University of Montreal)攻读博士期间发明的，蒙特利尔大学是世界顶级人工智能研究机构之一。
2016年，AI great Yann LeCun称GANs是“过去十年机器学习中最有趣的想法”。
在GANs出现之前，神经网络擅长于对现有内容进行分类(例如，理解语音或识别人脸)，但不擅长于创建新内容。GANs让神经网络不仅具有感知的能力，还具有创造的能力。
Goodfellow的概念性突破是使用两个独立的神经网络来构建GANs——一个称为“生成器”，另一个称为“鉴别器”——并使它们彼此竞争。
从给定的数据集(例如，人脸的照片集合)开始，生成器开始生成新的图像，这些图像在像素方面与现有图像在数学上类似。同时，向鉴别器输入照片，不告诉它们是来自原始数据集还是来自生成器的输出;它的任务是识别哪些照片是合成的。
当这两个网络重复地互相攻击时——生成器试图欺骗鉴别器，鉴别器试图找出生成器的创造——它们互相磨砺各自的能力。最终，鉴别器的分类成功率下降到50%，比随机猜测好不了多少，这意味着合成出来的照片与原始照片已经无法区分了。
deepfakes激增的一个原因是机器学习社区的开源精神:从Goodfellow的原始论文开始，只要有生成模型方面的研究进展，这项技术就会向世界上的任何人免费提供下载和使用。
鉴于deepfake最初是基于AI的，一些人将AI视为有害的deepfake应用的解决方案。例如，研究人员已经建立了复杂的深度伪造检测系统，该系统可以评估光线、阴影、面部运动和其他特征，从而标记出伪造的图像。另一种创新的防御方法是在图像文件中添加一个过滤器，这样就不可能使用该图像生成深度伪造。
现在已经出现了一些初创公司，它们提供的软件可以抵御深度抄袭，包括Truepic和Deeptrace。
然而，从长远来看，这种技术解决方案不太可能阻止深度假货的蔓延。在最好的情况下，它们将导致无休止的猫捉老鼠的动态，类似于今天的网络安全，在深度伪造检测方面的突破将刺激深度伪造一代的进一步创新。人工智能研究的开源性质使这一切更有可能发生。
举个例子，2018年，奥尔巴尼大学(University of Albany)的研究人员发表的一份分析报告显示，闪烁的违规行为通常是视频造假的一个明显迹象。在与deepfake的斗争中，这是一个有帮助的突破——直到几个月后，新的deepfake视频开始出现，纠正了这种闪烁的缺陷。
“我们的装备落后了。”法里德说。“在视频合成方面工作的人数与在探测器方面工作的人数之比为100比1。”
前进的道路
除了纯粹的技术补救措施，我们还能采取哪些社会、政治和立法措施来防范深度假货的危害呢?
一个诱人而简单的解决办法是通过法律，将制造或传播假冒产品定为非法。加利福尼亚州已经试验了这种方法，去年颁布了一项法律，规定在选举后60天内制作或传播政客的深度照片是非法的。但全面禁止假设性禁令既面临宪法挑战，也面临现实挑战。
美国宪法第一修正案规定了言论自由。任何禁止网络内容的法律，尤其是政治内容，都有可能与这些宪法保护相冲突。
“根据美国法律，政治言论受到最高程度的保护，”法学教授简·科特利说。他说:“在选举准备阶段，保护人们不受欺骗性内容侵害的愿望非常强烈，也非常可以理解。但是我怀疑他们是否能够执行加州的法律。”
除了宪法方面的考虑，由于互联网的匿名性和无国界性，深度虚假禁令可能难以实施。
其他可能用于打击深度造假的现有法律框架包括版权、诽谤和宣传权。但是考虑到公平使用原则的广泛适用性，这些法律途径的有效性可能是有限的。
短期内，最有效的解决方案可能来自Facebook、谷歌和Twitter等主要科技平台，它们自愿采取更严格的行动，限制有害深度假货的传播。
依靠私营公司来解决广泛的政治和社会问题让许多人深感不安，这是可以理解的。然而，正如法律学者鲍比·切斯尼(Bobby Chesney)和丹妮尔·西特伦(Danielle Citron)所言，这些技术平台的服务条款协议是“当今世界管理数字语音最重要的文件”。因此，这些公司的内容策略可能是对深度假货“最显著的反应机制”。
一个相关的立法选择是修改有争议的《通讯礼仪法》第230条。《互联网民事责任法》第230条是在商业互联网早期制定的，它赋予互联网公司对第三方在其平台上发布的任何内容几乎完全的民事豁免权。撤销这些保护将使Facebook等公司在法律上有责任限制有害内容在其网站上的传播。但这种做法引发了复杂的言论自由和审查问题。
最后，没有一个单一的解决方案是足够的。重要的第一步是提高公众对深度假货的可能性和危险性的认识。见多识广的公民是防止广泛传播的错误信息的重要手段。
最近假新闻的兴起让人们担心，我们正在进入一个“后真相”世界。深层地震有可能加剧并加速这一趋势。这出戏的下一个重要篇章可能即将到来:2020年的选举。赌注再高不过了。
“天安门广场坦克前的那个人感动了世界，多年来，蓝冠注册无线信号已用于包括广播和电视在内的各种应用中，但是正是蓝冠测速蜂窝网络的发明使在世界上几乎任何地方交换语音和数字数据成为可能。”纽约大学教授纳西尔·梅蒙说。尼克松打来的电话让他失去了总统职位。集中营的恐怖景象终于使我们行动起来。如果不相信你所看到的这个概念受到了攻击，这是一个巨大的问题。一个人必须在复现中恢复真理。”