在唐纳德·特朗普（Donald Trump）连任美国总统后，美国人正在进行评估，有必要强调一下在竞选期间分享的人工智能生成的假照片、视频和音频。
特朗普和他的支持者分享了大量假视频和图片，声称他的对手卡玛拉·哈里斯说了一些在现实生活中没有发生过的事情。
特别值得关注的是深度假视频，这些视频是使用人工智能（AI）编辑或生成的，描绘的是没有发生过的事件。他们可能看起来描绘了真实的人，但场景完全是虚构的。
微软在10月下旬警告说：
俄罗斯演员继续制作关于副总统哈里斯的人工智能增强深度假视频。在一段视频中，哈里斯被描述为对前总统唐纳德·特朗普发表贬损言论。在另一个案例中，哈里斯被指控在赞比亚非法偷猎。最后，另一段视频传播了关于民主党副总统候选人蒂姆·沃尔兹的虚假信息，在24小时内就获得了500多万次观看。
人工智能使深度假视频的大规模制作成为可能，这对世界各地的民主进程构成了威胁。
如果不加以挑战，政治深度假视频可能会对澳大利亚选举产生深远影响。
图片比文字有更强的说服力。不幸的是，澳大利亚人并不擅长识别虚假视频和图像。
社交媒体上深度造假的盛行尤其令人担忧，因为现在越来越难以识别哪些视频是真的，哪些是假的。
研究表明，人们只能在50%的时间内准确识别深度伪造的面部图像（类似于猜测），在视频中深度伪造的人脸只有24.5%的时间。
基于人工智能的检测方法略好于人类。然而，当视频被压缩时，这些方法就不那么有效了（这对社交媒体来说是必要的）。
随着澳大利亚面临自己的选举，这项技术可能会深刻影响人们对领导人、政策和选举过程的看法。
如果不采取行动，澳大利亚可能会像美国那样容易受到人工智能驱动的政治虚假信息的影响。
克莱尔·奥尼尔（Clare O'Neil）在担任内政部长时警告说，技术正在破坏澳大利亚民主制度的基础。
参议员大卫·波考克通过制作总理和反对党领袖彼得·达顿的深度假视频来展示风险。
这项技术的影响范围超出了联邦政治。例如，骗子在一个虚假的视频通话中成功地假扮了阳光海岸市长罗珊娜·纳托利。
我们已经在澳大利亚的政治视频中看到了深度造假，尽管是在幽默的语境中。比如，那张据称是昆士兰州州长史蒂文·迈尔斯（Steven Miles）的深度造假照片，是由他的政治对手发布的。
虽然这类视频可能看起来无害，而且显然是捏造的，但专家们对未来可能滥用深度伪造技术表示担忧。
随着深度造假技术的进步，人们越来越担心其扭曲真相和操纵公众舆论的能力。研究表明，政治造假会造成不确定性，降低人们对新闻的信任。
这种风险被微目标放大了——政治行为者根据人们的脆弱性和政治观点定制虚假信息。这最终会放大极端观点，扭曲人们的政治态度。
深度造假的内容鼓励我们根据肤浅的线索做出快速判断。
研究表明，有些人不太容易受到深度造假的影响，但澳大利亚老年人的风险尤其大。研究表明，深度伪造的检测准确率随着年龄的增长而下降0.6%。
花更多时间在社交媒体上的澳大利亚年轻人可能更有能力识别虚假图像或视频。
但是，强化用户现有信念的社交媒体算法可能会造成“回音室”。
研究表明，人们更有可能分享（而不太可能检查）政治深度虚假的错误信息，当这些信息显示他们的政敌处于不利地位时。
随着人工智能工具难以跟上基于视频的虚假信息，公众意识可能是最可靠的防御手段。
深度造假不仅仅是一个技术问题——它们代表着对自由公正选举原则的根本威胁。
