Icfj 的一个项目

新闻业该如何应对深伪技术带来的挑战?

Jun 11, 2022 发表在 对抗错误与失实信息
Magnifying glass and notepad

随着媒体操控的现象越发普遍,记者们急需学会识别其多样的呈现方式,并向自己的受众进行有关的教育。 

WITNESS 是一个利用影片和科技去捍卫人权的组织,它的项目主管 Sam Gregory 就在最近一连两节的 ICFJ 全球危机报告论坛网络研讨会上表示,Deepfake(深伪)是当今媒体操控中较为突出的例子之一。

 

“我们的工作大多是协助人们创建可靠的资讯。在面对 Deepfake 时,解决方案的其中一部分,就是想办法去巩固一个围绕可信性的生态系统。” Gregory 解释。


可信的报导和旨在造假的媒体之间斗争持续,记者和人权捍卫者必须配备最有效的工具和技术,来打击日新月异的错误资讯攻势。


以下是记者需要知道的要点:

深伪技术

如果你是一名记者,有很多类型的 Deepfake 需要多加留意。例如图片和影片中被移除的物体或被修改的背景、人们的面部表情或动作被篡改,以及合成创造全新面孔。


Deepfake是一个严重的威胁,纵使该技术的能力范围和当前的影响力有时略嫌言过其实。比如说,某些媒体曾预测 Deepfake 有能力影响政治进程,但至今它尚未对选举产生重大影响。


“有一个论调总与 Deepfake 的话题相随,就是 Deepfake 终将破坏所有潜在的真相。” Gregory 说。然而这观点并没有考虑到检测这种手段的技术正在改进,即使某些 Deepfake 依然难以被察觉。“虽然我们一般会把 Deepfake 联想到极度逼真的面部替换,但这类工程至今仍是它的能力范围内,最难实践并需要最多资源的部分。” 他补充。


儘管如此,随着科技进步,製作 Deepfake 变得日渐简单廉价,尤其在移动装置上;记者们需要对未来的威胁保持警惕。

未来的潜在威胁

科技进步使製作 Deepfake 的过程更简单、所需训练更少,令有心人能更高效地操弄音频、照片和影片,以及多媒体混合内容。


Gregory 又指,这现象对女记者来说尤其棘手,因为用以令她们消音而又最常见的媒体操弄手段,就是伪造的色情图片。这方面的应对措施是目前最不足的。 “检测不力。这相当有问题,而有关的解决方案实在太少。”


Deepfake还迫使记者花费额外的时间和金钱来证明影像没有被操弄。随着 Deepfake 的製作过程简化,这有机会为记者带来严重的负担,尤其是那些手边资源较少的记者。“我们需要观察一下对资源不足的记者来说,这问题有否令他们所面对的困难进一步恶化。”


目前,Shallowfake(浅伪)--例如语境误用、重用媒体和旨在误导欺骗的剪辑--仍然比 Deepfake 更为常见,但可幸的是,Shallowfake 亦同样未构成很大的威胁。
 

 

打击深伪操弄

製作合成媒体的工具和技术其实亦能成为检测它们的途径。记者们该审核视频中的故障,并应用现有的验证和取证技术来识别出被操纵的媒体。他们亦可採取加密以及如红外线检测等的新兴人工智能手法。


在打击 Deepfake 时,记者们也应该谨记伦理方面的考虑。例如,Deepfake 可用于讽刺时弊和保护身份,这令某些人对全面禁止使用 Deepfake 的倡议有所保留。


此外,记者应该扪心自问:

  • 我们如何教育人们识别 Deepfake?
  • 检测工具是否存在?谁有权使用?
  • 我们如何进一步发展现有的报导技巧和协调能力?
  • 验证身份的工具是否存在?谁有机会无权使用这些工具?

然而,现有的工具和策略皆有其局限性。“这些工具才刚开始投入应用,[而且] 在处理 [记者] 遇到的内容上最为困难重重。” Gregory 说,并补充道,现时面对的其中一项挑战,是不少组织都更重视利润,而非解决方案。


记者在发表文章时,应为他们的读者提供证据,以证明有关内容的真确性。 Gregory 亦建议他们传授有关合成媒体的资讯,务求增进其受众的媒体素养,而有效的传播方法之一就是 SIFT:“停止、调查、寻找更好的报导,并追寻各声言、引述和媒体的首个出处(Stop, Investigate, Find better coverage, and Trace claims, quotes and media to original context)。”


与此同时,Google、Adobe 和《纽约时报》等机构正在开发不同工具来协助记者识别和打击 Deepfake,并确保他们的作品包括合法可信的证据。


Gregory 说:“我们要急切识别这领域的所需,并把记者视作其中的核心一员,这一点很重要的。”


图片来源:Mediamodifier on Unsplash.