Icfj 的一个项目

通过学习了解机器人,记者可以更有效抗击虚假信息

作者 Ana Siu
Oct 30, 2018 发表在 对抗错误与失实信息

在数码通讯中,网络机器人是主要趋势之一,但是很多用户并不太了解它们是什么 — 也不了解它们通过传播虚假信息和宣传对于公共舆论施加影响的力量。

根据Giovanni Luca Ciampaglia,一位印第安纳大学的科学家的研究,网络机器人是一种“通过一个或多个社交账号对于社交网络进行行动的简单电脑程序。”尽管这些程序中的很多是用于市场营销的,电脑机器人的不当使用仍然在很多新的角度对记者带来了挑战。 

机器人的类型

一种常见的机器人是聊天机器人,这是被设计以用来回答用户发送的信息的聊天机器人多年来被用来提升企业的用户服务,为他们节省成本并营造更加快速、高效的服务。

类似CNN这样的新闻机构创建了他们自己的聊天机器人以进行点对点信息模式的新闻推送。机器人可以给用户发送早新闻摘要、回答关于一个具体事件的问题或者甚至推荐菜谱。 

聊天机器人通常告知用户们它们是电脑;然而,有一些机器人会被设计为向用户隐瞒这一事实以显得真实。在社交机器人的情况这很常见,这是一种在社交媒体上自动产生内容的聊天机器人,通常被用来支持选举、品牌、政客等等。

“它通常会尝试表现得像人类,” Ciampaglia说。 “一些这种机器人被用来在推特上追踪特定的人,另一些被用来传播支持某些群体的人的信息。”

从而,有影响力的人和政客们常常拥有数以百万计的假粉丝。尽管这些机器人常常被用来增加用户的社交媒体粉丝群,它们同样也是传播虚假信息的有效工具。

其他种类的传播假新闻的账户也存在,但是它们并不是电脑程序。

“由人类创造出来并用于恶意目的的账号被称为赛博格(cyborgs),” Ciampaglia说。这是真实的人,被付钱以创建几十个假账户用于影响和操纵社交媒体上的公共舆论,尤其是在脸书和推特上。

机器人军团

许多市场营销机构和政府使用赛博格通过操控关于政客、品牌或者其他有权力的群体的信息来盈利。美国互联网研究中心以及墨西哥胜利实验室都通过使用赛博格操控社交网络对话而编造和散播了很多信息。

这些机构雇用年轻人建立虚假账户,然后付钱请他们从事一些模糊甚至虚假的服务以遮人耳目。尽管使用赛博格操控舆论既不道德也不合法,不少年轻人依然从事这个工作,大多是为了钱,而非有政治利益。

Alberto Escorcia是一名墨西哥互联网活动家,他自2010年以来一直在抗击这些赛博格组织,他将他们称之为“decks” 。而由于揭露虚假用户的努力,他收到了死亡威胁,并且几乎要被迫离开他的国家。

“机器人用要么支持要么反对一个事业的信息充斥社交网络,”Escorcia说。“这是一项艰难的工作,淹没社交媒体,主导热门话题,并使之看起来以假乱真。”

这些“decks”非常有组织性,假账户之间还有互动,以在社交网络上愚弄用户。“他们的模仿杀伤力是很巨大的,” Escorcia说。“很多时候你只需要成千上万机器人的假评论和对于相同内容的分享,很多人就会信以为真,即使那内容根本莫名其妙。”

机器人:假新闻的秘密

恶意的人会使用机器人在政治活动或者选战期间操控舆情。在2016年总统大选和脱欧公投期间,机器人很可能对于结果产生了影响。在墨西哥2018年大选,百万计的机器人散播关于被侦测的候选人的虚假信息

然而,Escorcia并不把机器人看作是假新闻背后的唯一因素。“机器人只是一个链条中的最后一环,”他说。“主要的责任应该由推特、谷歌和脸书来承担,因为他们拥有侦测虚假账户的资源。”

但是由于机器人能给这些技术公司和社交网络带来数以百万计美元的广告收入,这些网站就毫无动力对他们采取措施了,Escorcia说。

“他们的主要收入来源就是广告,”Escorcia说。“这些账户是不是在散播虚假新闻无关紧要。”

未来挑战

“机器人被使用的情况并没有减低;相反,还在增加,” Ciampaglia说。 “不仅仅是因为市场机会,也因为需要操控公共舆论。”这些机器人也在变得越来越聪明,他说。

Escorcia担忧,当这些机器人与其他人工智能相结合,被用作信息武器的时候,会把国家至于受到操控的危险境地之下。他相信,在十年之后,辨别真相与谎言将会变得更加困难。

新闻机构正在面临一个潜在危机。记者们需要教育他们的读者了解假新闻,学习更多关于科技的知识,在诸如选举的大事情发生时形成鉴别组织。一个例子是Verificado 2018,一个事实核查项目,由墨西哥不同的新闻机构牵头。这个团队使用诸如WhatsApp的平台在全国大选期间干预假新闻。

“调查新闻行业需要对这个问题更加引起重视。这可能看起来像是科幻,但是对整个行业而言是个直接的威胁,”Escocia表示。“记者们不必要向一个花钱扭曲真相的行业让步。”

为这个迫切的状况做好准备的唯一办法是和Escocia和Ciampaglia这样的技术专家联合,发展工具和技能以抗击机器人军团,并同时融合调查与解码能力。

幸好,这已经在发生。Ciampaglia和来自于印第安纳大学社交媒体观察站的研究人员团队已经研发出了在各大社交网络鉴别虚假账户的工具。他们的工具,HoaxyBotometer,提供了一个简便的为记者和普通用户探查低信用度网站、辨别自动账户的途径。