今年的新冠危机揭开了我们社会存在的许多真相，尤其是谎言和虚假信息可以像任何疾病一样具有传染性。
自3月澳大利亚进入封锁状态以来，我们在网络上看到了关于新冠病毒的阴谋论层出不穷，以Covid-19为主题的网络诈骗和网络诈骗激增，例如：5G对身体有害，美国总统建议注射漂白剂作为一种潜在的治疗方法。
在我们这个数字互联的世界里，想要将事实与虚构、真实的舆论与地缘政治的争夺分清楚越来越难。治疗误导后的个人死亡，以及混乱和误导对公共卫生目标的损害，表明信息（或缺乏信息）也会导致生命损失。
因此，现在是澳洲人开始思考犯罪分子、阴谋论者和民粹主义者将用来欺骗和误导的最新工具之一的时候了：深度伪装。
“深度伪装”（Deepfake）是一种以人工智能为基础的人物图像合成技术，也就是通俗意义上的“AI换脸”。这种技术极有可能被有心人恶意操纵，借此传播错误的信息。
如果你的脸照在网上被不法分子获取，他们利用Deepfakes特效技术制作虚假视频或录音，就能让”你”在视频里做任何事情，说任何话，而实际上你从未做过或说过那些言论。
从巴拉克-奥巴马到Facebook创始人马克-扎克伯格，甚至是金-卡戴珊，这些名人都曾被AI换脸过，如果落在错误的人手中，这项黑科技可以干预总统选举，影响舆论，损害名誉。
三年前，这个词在谷歌搜索中几乎没有结果。而现在，得益于人工智能的快速发展，深度伪装越来越逼真，而且制作速度快，成本低，成为了各国政府和企业日益警惕的威胁。
虚假信息危机
去年，犯罪分子利用人工智能冒充公司高管的声音，骗取了英国一家能源公司的CEO向他们转账22万欧元。情报人员被发现使用一个假的LinkedIn个人资料为 "Katie Jones"，并配有人工智能生成的个人资料图片，以访问安全专业人士的网络。
加蓬发生军事政变未遂，此前总统发布了一段视频，以反击人们对他健康状况不佳的猜测，而他的对手则错误地将其视为深度伪装视频。
这些都是早期的例子，说明深度伪装将如何加剧社会在数字时代已经面临的挑战，进一步破坏我们对谁和什么可以信任的本能，并扭曲网上的新闻和信息流。
"这项技术的可怕之处在于其背后的人工智能，它可以让计算机完全生成合成的视频和音频，虽然他的诞生才不到短短3年。"时事评论员，畅销书作家尼娜-希克（Nina Schick）说。
"我们现在看到的一些早期的深度伪装，你还有点看不出来，它们是不完全精确的。
"然而，这个技术发展速度正在加快，以至于在两年内，它将不可避免地完全无法被人类的眼睛识别。
"这就是为什么即将到来的深度伪装时代 --很快就会变得无处不在-- 是如此危险，不仅对民主，而且对个人，对公司也是如此。"
"在过去的10年里，我们确实经历着互联网虚假信息危机，"希克说。
在虚假信息泛滥的互联网时代，深度伪装已经成为了一个不断演变的“信息安全”炸弹。
"考虑到我们在过去10年中处理误导和虚假信息的能力有多差，这意味着我们还没有对最复杂的虚假内容做好准备，这种欺诈内容已经出现，这就是DeepFake 深度伪装。
"我们正在进入一个眼见不为实、耳听不为虚的时代，我们需要为此做好准备。"
深度伪装是如何使用的
随着技术的不断完善，它越来越多地被用于针对政界和商界，而且意图越来越邪恶。
希克认为："深层伪装技术的首次出现实际上是非常具有性别主义的，它一直在针对名人和普通女性，让他们的脸出现在非自愿色情作品中。
于是，我们可以看到网络上层出不穷的“名人演出”的色情影片。
"去年，出现了首例针对一家大型能源公司CEO的深层伪造音频诈骗案，诈骗者成功地利用人工智能模仿他老板的声音，成功骗走了25万欧元。"
任何人都可能成为目标
"这项人工智能技术的恐怖之处在于，如果你给它训练数据，它可以根据训练数据生成以假乱真的视频内容，" 希克说。
"这意味着，如果Facebook上有你的照片，我就可以把这些图像作为训练数据，训练AI来制作你的假视频。
互联网时代，每个人都在网络上留下数字足迹。这意味着任何人都可能成为深度伪装的目标，不一定非得是政治家或名人。
合理的抵制
"如果我们面对的是一个任何媒体都可以造假的未来，那么每个人也都有权抵制这个技术 。"希克说。
我们已经看到了唐纳德-特朗普，在2016年，当他的那盘可怕的录像带泄露时，他在那里吹嘘自己抓住了女人，说那是一个深度伪装视频。
另外也有一位共和党参议员候选人说，引发世界各地支持种族公正的抗议活动的乔治-弗洛伊德视频，也是假的。
我们会越来越多的看到“深度伪装”成为政治站队的工具。
"如果你支持它，你会说它是真实的，如果你不支持它，你会说它是深度伪装的假视频。"
如何辨别“深度伪装”
虽然深层伪装检测器确实存在，但希克警告说，这永远只能是一个临时的解决方案。
"问题是，随着辨别技术越来越好，但虚假视频生成器也越来越狡猾，"希克说。
我们正处于这种永无止境的猫鼠游戏中。
"我们只需要更好地认识到我们正在进入一个新的（糟糕的）现实。"
‘深度伪装’技术超前 澳洲相关法律却滞后
澳洲一家科技智库警告说，如果社交媒体公司和制造假视频的技术不受立法者的控制，深度伪装假视频将像丛林之火一样在社交媒体上肆虐，对社会造成严重破坏。
总部位于悉尼大学的工程、技术和创新智库沃伦中心执行主任阿什利-布林森表示，这种利用人工智能的深度学习技术来制造难以辨别真实视频的假视频的新兴技术已经在 "考验立法者的能力"。
他警告说，将这种技术与Facebook等社交媒体平台结合起来，可以让虚假视频在几秒钟内全球传播，世界正面临一场社会不稳定的 "完美风暴"。
立法者们才刚刚开始应对社交媒体的负面影响。澳大利亚竞争和消费者委员会最近将其数字平台调查报告交给了联邦政府，预计该委员会将提出一系列建议，试图控制Facebook等社交媒体公司对新闻报道的破坏性影响。
与此同时，美国的立法者已经开始着手解决深层造假技术对女性的影响，女性往往是视频的受害者，在视频中，她们的脸被嫁接到色情明星的身体上，使用的是现成的、往往非常有说服力的人工智能技术。
本月早些时候，美国弗吉尼亚州扩大了处理复仇色情片的法律范围，因此法律现在涵盖了深层伪造视频以及受害者可能已经拍摄但从未同意传播的实际视频。
然而通信、网络安全和艺术部部长Paul Fletcher的发言人表示，澳大利亚应该没有必要对报复色情法律进行这样的修订，因为澳大利亚的法律已经使用了足够宽泛的语言来涵盖那些 "似乎描述 "深层报复色情受害者的视频。
即便如此，澳大利亚电子安全专员朱莉-英曼-格兰特表示，她的办公室已经与全球的技术和法律专家就如何检测深度伪装和 "预测技术可能被滥用 "进行了接触。
但这仅仅是一个开始，对于社交媒体和深度伪装技术的结合，布林森建议，鉴于深度伪装技术变得如此令人信服，可能需要出台法律，要求深层伪造应用添加数字指纹，这样社交媒体用户就能分辨出他们看到的是一张假深度伪装图，而不是真图。
最近，有一款“深伪”应用DeepNude利用人工智能去除图片中的女性衣物，它增加了一个水印功能，就是为了做到这一点 -- 但据说网络上已经出现了去除水印功能的应用版本出售。
布林森说，不仅仅是女性，整个社会系统都可能成为深度伪装视频影响的牺牲品，尤其是在 "荣誉准则 "文化中，可能会对描绘政治或宗教领袖的深度伪装视频产生强烈反应。
"在一个人的诚信和荣誉感非常强的文化中，深度伪装、侮辱性的内容可能会成为催化不可预知结果的火花。"他说。
"我们对世界的认识，很多不是来自值得信赖的新闻来源，而是来自社交媒体，来自未经过滤、未经编辑、未经监管的数字媒体。
"一个备忘录在社交媒体上的移动速度，就像一个非常干燥的夏天的丛林大火。它可以非常迅速地移动，它的热度和强度可能是不可预测的。
"我认为，我们刚刚开始了解深度伪装[技术]意味着什么。这种技术造成伤害的可能性是非常严重的，"他说。
“深度伪装”时代的挑战 澳洲该怎么做？
在未来的几个月和几年里，深度伪装技术只会变得更好，且更容易被获得。
正如澳洲ASPI报告所发现的那样，深度伪装的泛滥将要求社会和组织在三个重要方面进行调整。
首先，我们需要习惯于看到（和听到）不再仅仅意味着真相。
随着深层造假技术的扩散，更多的犯罪分子将使用人工智能生成的赝品，试图欺骗或勒索目标，让他们向他们支付金钱，并透露他们的秘密。
其次，基于文本的深度伪装将使虚假信息以前所未有的规模和速度成为可能，并为新的不法分子所利用。
像俄罗斯臭名昭著的 "巨魔农场 "的工人这样的人类操作者目前正在推动虚假信息价值链的发展。但基于文本的深度伪造将使人类进一步脱离这个圈子。
例如，11月，中国政府资助的研究人员发表了一篇论文，概述了如何训练一个人工智能系统来扫描一篇新闻文章，提炼其关键点，然后发布 "影响力最大化 "的在线评论。针对吐槽进行优化的人工智能将能够充斥网络空间，淹没真实的声音，或者给极端观点提供虚假的动力。
最后，在这个计算机生成的视听和文字内容越来越逼真的世界里，我们将需要问自己：我们如何知道任何事情是否真实？可以说，在深度伪装时代，最大的风险并不是被操纵的内容本身，而是我们对什么是真实的，什么是被篡改的不确定性，削弱了人们之间相互信任和官方机构的可信度。
为了避免这种荒诞的未来，政府和产业界可以从三个方面努力，尽早行动。
首先，投资检测技术将是关键。
不幸的是，检测研究人员不可能总是在与日益复杂的深度伪装的 "军备竞赛 "中获胜。
然而，并不是所有的检测方法都需要依靠技术：可能需要新的程序，比如在企业或官员对数字内容采取行动之前，需要有确凿的证据。
其次，比检测更重要的是开发可靠和值得信赖的机制，以便在信息事实上是真实的情况下发出信号。
澳大利亚可能需要新的标准，如数字水印和数字监管链程序，以确保内容是合法的。
企业可以在这些工作中发挥带头作用，但政府也要发挥作用，尤其是在协调方面。
最后，政府在对独立媒体、透明机构和事实调查机构等可信赖的信息把关人进行有意义的投资的窗口越来越小。
数字扫盲行动也将是至关重要的。
对付深度伪装的最佳对策是解决它们可能造成的危害，而不是试图对抗技术本身。
在澳大利亚这样一个与全球信息环境相连的民主国家，我们永远无法识别和消除所有的谎言和错误信息。
深度伪装虽然是一种新的工具，但却玩的是老把戏。
自由民主国家的优势在于，我们可以建立有弹性的机构、稳定的法律框架、值得信赖的沟通渠道和受过良好教育的公民，以最大限度地减少深度伪装可能造成的危害。
而对这些事情的投资也将促进我们整体民主的健康发展 -- 这始终是一个值得追求的目标。
下一篇：返回列表
猜你喜欢
