自 ChatGPT 于 2022 年 11 月问世以来，生成式人工智能（AI）佔据了外界的关注——这日新月异的技术已在影响教育、旅游和政府；媒体自是不能倖免。
生成式人工智能改变了内容的製作和消费方式，为打击虚假信息带来了崭新挑战。就此，美联社人工智能策略高级产品经理 Aimee Rinehart 在最近的 ICFJ Disarming Disinformation 调查大师班上探讨了生成式人工智能及虚假信息的关係。
以下是记者必知的讨论重点：
图像
Rinehart 提出了三种方法，让记者可以确定影像是否是使用人工智能产生的。
- 寻找人物身上的特殊细节，例如扭曲的手、多馀的腿或不匹配的珠宝。
- 检查影像背景是否有扭曲或模糊，以及阴影或缺乏阴影的部份。
- 寻找其他拍摄角度或图片来确认影像中的细节。
Rinehart 也分享了用于事实查核的 SIFT 方法：停止（Stop）、调查来源（Investigate the Source）、寻找更好的报道（Find Better Coverage）、追踪陈述的由来、引述和媒体的原始背景（Trace Claims, Quotes, and Media to their Original Context）。这方法是由华盛顿大学知情公众中心（Center for an Informed Public）的研究科学家 Mike Caulfield 提出的。
“虽然我们正在进入一个新的科技时代，回归基础确实是好方法，你由此可识别 [内容来源]，” Rinehart 说。
在跟他人分享有问题或有争议的图像之前，请仔细考虑它是否确实。寻找奇怪的细节，或检查能佐证的角度和图像以断定其正当性，并防止虚假信息的传播。
公众危害和影响
今年，主要的社交媒体平台都削减了打击虚假信息的努力。因此，未来对在线保护措施的监管可能会减少。这可能会增加公众受到错误信息影响的可能性。
在美国，共和党的政治领袖也在试图限制联邦政府对网路虚假信息研究的预算。资金和资源的削减可能会影响我们对公众如何受到错误和虚假信息传播影响的持续理解。
“这对错误和虚假信息研究的资金带来了实在的冻结效应。因此，我们对 [2024 年] 选举的了解可能会更少，我们也不会真正了解危害来自何处（如有的话），” Rinehart 说。
儘管如此，生成式人工智是否将加剧大众对错误信息的消费尚未有定论。在最近的一项研究中，研究人员发现人工智能产生的大量虚假内容并不一定意味着人们会消费更多这类内容。
“如果人们想要看有问题的内容，他们就会得到；这并意味他们就将会被 [这些内容] 淹没而没有办法什麽都不看，除了查看有问题的内容并分享之外别无选择，” Rinehart 说。
技术改进
人工智能技术的升级正在提高虚假内容的质量，例如生成更逼真的细节。
“DALL-E3 或是 ChatGPT4 以及其他改进将能更好地猜测你在提示中想要的东西，” Rinehart 说。
研究人员和软体开发人员证实，升级和改进生成式人工智能已变得既实惠亦可行。《ＷIRED》杂誌的一项研究表明，开发者如何能够操控软体产生反俄罗斯内容，而成本仅为 400 美元；一位来自纽西兰的数据科学家则能以不到 300 美元的价格製作出右倾聊天机器人。
Rinehart 说：“你可以预料到，其他人可能会利用这一点为自己谋取利益——无论他们是竞选公职还是经营一家企业——并且通过改变叙述方式，从中获得很多好处。”
一些公司正在开创追踪人工智能生成的图像的技术，但迄今为止成效水平各异。例如，水印很容易被规避或操纵。同时，OpenAI 正在开发一款机器学习工具来识别 DALL-E 创建的图像，预计准确率可达 99%。
对选举的影响
生成式人工智能料将影响在 2024 年举行的各国选举。在美国，生成式人工智能已经被用于选举攻击广告、音频、视频和图像。
例如，共和党总统候选人德桑蒂斯（Ron DeSantis）的竞选团队製作了前总统特朗普和前白宫首席医疗顾问福奇（Anthony Fauci）拥抱的虚假图像；在另一则广告中，德桑蒂斯的 PAC 小组在一段攻击爱荷华州共和党州长雷诺兹（Kim Reynolds）的影片中利用人工智能生成特朗普的声音。
在多元语言的国家，生成式人工智能可以帮助政治活动接触到原本无法接触到的不同受众。例如，在印度，生成式人工智能被用以製作了一首关于现任总理莫迪的讽刺热传歌曲，以多种语言发布。
“[ChatGPT] 已受人们的关注；我认为，如果你是事实查核者，你已经看到了后果，尤其是在美国，” Rinehart 说。“身为美国的事实查核员，你可能已经知道你的工作在未来两到三年内会变得更加困难。如果说有一个需要共享资源、策略和技术的时刻，现在就是时候了。”
图片来源：Mojahid Mottakin on Unsplash
Disarming Disinformation 是 ICFJ 管理的倡议项目，由 Scripps Howard Foundation 提供起动资金；Scripps Howard Foundation 是 Scripps Howard Fund 的附属组织，以支持 E.W. Scripps Company 的慈善工作。此为期三年的项目，旨在推动记者和新闻系学生遏止新闻媒体泛滥的虚假信息。
阅读的其他作品
