Icfj 的一个项目

盘点用于查核虚假信息与内容的 AI 工具

作者 Priyal Shah
Aug 9, 2023 发表在 对抗错误与失实信息
The letters AI on a black background

本文原发布The Fix,现获授权转载及翻译。如欲了解更多欧洲媒体的最新动态,欢迎订阅其电子时事通讯。


侦测虚假信息是当今记者的一项关键技能。儘管严谨的事实核查仍然是一项以人为主导的工作,但仅靠人力无法解决大量泛滥的虚假信息;人工智能驱动的工具正好能在这方面提供帮助。

在挪威的卑尔根大学专研人工智能驱动新闻和事实核查的研究员 Laurence Dierickx 表示,“目前有几个正在进行中的项目,都在致力为事实核查人员提供更多 AI 层次来加快他们本已费时的工程流程——而这是事实核查的既有特色 ; 这工作需要很多时间。”

The Fix 盘点了一系列可以帮助记者和事实核查人员识别和应对虚假信息的工具。这些工具分四大类——文本、图像、视频和检测机器人活动。

用于文本内容的 AI 工具

Exorde network 

Exorde 是一个全球信息处理平台,用于分析互联网上信息的传播和疯传的程度。它的运作方式是通过识别提交到 Exorde 的 URL,这些连结为已被 Exorde 标记的文本内容。然后,它会分析该文本内容内的主张的 “情绪” 以及全球各地人们对该具体主张的反应。在最后阶段,Exorde 会将这些信息存档以供公众造访阅览。

FactCheck.org 

FactCheck.org 是由宾夕法尼亚大学安纳伯格公共政策中心主办的一个项目。该中心核实美国地方、州和联邦各级政客的言论,这包括涉及政治和科学的内容。通过 Ask FactCheckAsk SciCheck,记者可以请团队针对他们的信息进行事实核查。

Factiverse

Factiverse 是一款可被记者活用来加快事实核查过程的工具。根据斯塔万格大学的研究,Factiverse 开发了人工智能编辑器,可以发现内容中的虚假信息并指出可靠的来源。除此之外,他们还有一个名为 FactiSearch 的事实核查数据库,和一个名为 Microfacts、为记者提供背景信息和术语解释的工具。

ClaimReview

ClaimReview 是与 Google 合作创建的标籤系统,有助于识别和推广经过事实核查的故事,令这些故事能更容易在搜索引擎和社交媒体网站上出现。使用此标籤,经过事实检查的言论会跟表明其理据的註释一同呈现。

用于图像的 AI 工具

Dierickx 的研究发现,很多事实核查人员低估了生成式人工智能在创建虚假视听内容方面的潜力。当涉及人工智能生成的内容时,平时高度可靠的反向搜索工具得出的结果并不理想。她补充,“生成式图像和视频的质量也在不断提高,检测此类内容将变得越来越困难。” 以下是一些可以帮助记者深究真相的工具。

EXIF checking tools

可交换图像文件(EXIF)是一种标准格式,适用于数码相机拍摄的所有图像。EXIF 註释包含有关图像的信息,例如 ISO、快门速度和曝光以及拍摄图像的日期和地点。对原始照片的任何修改都会记录在图像的元数据中;记者可以通过检查任何照片的 EXIF 来确定它是否被篡改。用于提取 EXIF、以浏览器操作的工具有 EXIF Data ViewerMetadata2go;而 Phil Harvey 开发的 ExifTool 则是一款电脑应用程序。

TinEye

另一个帮助验证图像的工具是 TinEye。 记者可以搜索图像的重複档案、追踪图像之前出现过的地方,并使用反向搜索技术。

用于视频的 AI 工具

Verification plugin – WeVerify 

最新版本的 InVID-WeVerify 验证扩充功能工具能处理各种用于对视像内容进行事实核查的工具。除了新的 CheckGIF 功能外,他们还配备图像内容分析、识别图像中的光学字符等工具,以及将内容与已知假内容数据库进行比较的能力。

The Glorious ContextuBot | Shared Nation

Glorious ContextuBot 是一款处于开发初期的工具,可帮助检测音频档案的原始来源。凭藉其指纹识别技术,它的目标不仅是找到原声片段的原始来源,还包括它周围的背景;它还可以帮助查找音频档案在其他位置的使用情况。

Truepic

Truepic Display 提供任何媒体档案的来源和历史记录,而 Truepic Lens 则提供任何档案的元数据。

YouTube DataViewer 

国际特赦组织的 YouTube DataViewer 可帮助提取上传到 YouTube 的任何视频的元数据。用户还可以找到视频的缩略图并反向搜索该图像。

用于检测机器人活动的 AI 工具

Botometer® by OSoMe

Botometer 是由印第安纳大学社交媒体观察站(OSoMe)创建的项目。该工具提供 Twitter 帐户的评估分数,低分 (0) 表示真实帐户,高分 (5) 表示机器人帐户。此外,它还区分了机器人帐户的类型,将这些帐户分类为:迴声室帐户、假追随者帐户、财务帐户、自我声明帐户、垃圾邮件发送者帐户和其他帐户。

Hoaxy 

Hoaxy 跟踪低质量的内容农场网站共享信息的传播。通过这个工具,记者可以追踪文章在网络中被複製和流传路径。它还为有份传播这些文章的机器人技术和自动化的可能性提供了评分。

另外五款实用工具推荐

Media Bias/Fact Check

MBFC 用于验证事实检查人员和新闻网站的来源:它根据网站和媒体机构的偏见、政治立场和经事实核查的信息的真实性,对网站和媒体机构进行评级。他们提供了关于 6300 多间媒体的可信度和提供真相能力的详细报告。

Hamilton 2.0 Dashboard

Hamilton 2.0 dashboard 由美国的德国马歇尔基金会(German Marshall Fund)保障民主联盟(Alliance for Securing Democracy)创建,专门针对俄罗斯、中国和伊朗政府宣扬的媒体信息和叙述。通过 ASD 社交数据搜索,记者可以更好地找到相关的推文。

The Factual

The Factual 演算法按四个指标对新闻文章进行评级:网站质量、作者的专业知识、来源质量和文章的语调,并按这些指标提供 1 到 100% 之间的等级,其中 50% 及以上表示信息丰富的文章,低于 50% 表示信息不丰富的文章。

Climate Feedback 

Climate Feedback 是一个专门的平台,用于揭穿与气候变化相关的虚假信息,由全球科学家网络共同补充获更正的信息。该网站提供了科学家针对新闻文章和互联网上的言论中发现的虚假信息的解释。

Tank Classifier

Tank Classifier 是另一款可以帮助记者揭穿虚假信息的工具。迪里克斯表示,该工具 “允许事实核查人员在战争背景下检测坦克是来自一个国家还是另一个国家”,目前能对 20 种类型的军用车辆进行分类。


图片来源:Markus Spiske on Unsplash.