【报告】新美国:COVID-19背景下互联网平台如何应对虚假信息和错误信息
2020-07-29 19:45:19
  • 0
  • 0
  • 0

原创 赛博研究院

【编者按】2020年6月,新美国基金会发布报告《在COVID-19时代,互联网平台如何应对虚假信息和错误信息》(How Internet Platforms Are Combating Disinformation and Misinformation in the Age of COVID-19)。报告认为,COVID-19在全球的广泛传播引发了在线错误信息和虚假信息浪潮。在必须向公众提供准确信息以应对疫情的时代,许多互联网平台已经制定相应政策,减少或者移除误导性和不正确信息。报告概述了亚马逊、Facebook、谷歌、Tiktok、推特等互联网平台如何解决COVID-19相关错误和虚假信息的迅速传播问题。大多数平台主要集中在为用户提供权威信息,减少误导性内容的传播,并更改广告政策以防止推广误导性内容。报告最后提出了平台如何提高其工作效率,为用户和公众提供更多透明度的建议,以及美国决策者如何进一步鼓励问责制,支持打击错误信息和虚假信息传播。

1
亚马逊

3月初,为应对疫情引起的哄抬物价现象,亚马逊表示已删除了530000个报价,并以违反价格欺诈政策为由暂停了美国2500多个卖家账户。截至3月底,亚马逊表示,仅因违反公平定价政策,3900个销售账户从其美国商店遭到删除。此外,该公司表示,它一方面使用机器学习模型检测价格欺诈,同时也加强了人工监测。亚马逊现在正在部署新团队开展全天候工作,以检测防护口罩和洗手液等物品价格是否虚高。

疫情期间,误导性信息主要存在于病毒治疗相关产品的描述中。未经美国食品药品监督管理局(FDA)批准,亚马逊禁止销售声称可治愈、减轻、治疗或预防人类或动物疾病的产品。产品无法声称可治愈的疾病示例清单包括“冠状病毒和/或COVID-19”。

亚马逊应在疫情期间定期发布更新,对违反COVID-19特定政策为由删除的商品数量以及禁止的卖家数量进行概述。疫情之后,公司应发布全面的COVID-19透明度报告,概述执行的范围和规模。此外,在适当情况下,联邦贸易委员会(FTC)应执行1914年《联邦贸易委员会法》相关条文,要求企业在平台上从事不公平和欺骗性的贸易行为时承担责任。

2
Facebook

自从COVID-19疫情以来,Facebook启动了一个COVID-19信息中心,其中包含Facebook关于病毒所做的所有更新和相关信息。该在线中心包含由Facebook的独立事实检查合作伙伴撰写的文章,这些文章通常链接到经过事实检查的帖子等内容。

据Facebook称,该公司目前与60多个事实检查组织合作,这些组织负责对全球50多种语言的内容进行审查和评级。该公司表示将扩大其事实核查伙伴关系,以囊括更多组织,覆盖更多语言。疫情前,当某内容被Facebook的事实检查合作伙伴之一认为虚假时,Facebook会为该内容贴上警告标签,并通过降级该帖子在平台算法排名来减少分发。Facebook还可以通过识别此类误导性帖子中的常用术语以此来检测类似的虚假内容。

根据Facebook的社区标准,该平台不会删除虚假信息,因为虚假新闻与讽刺观点仅一线之隔。因此,事实检查和降低分发已成为Facebook应对此类错误信息和虚假信息的基础。通过使用自动化工具,该平台能够识别雷同的虚假内容并减少其分发。该公司已开始将用户引导到COVID-19信息的权威来源,并表示在疫情背景下,将删除包含可能导致“迫近的身体伤害”的错误信息。

3
谷歌

谷歌投资了650万美元用于打击错误信息。这笔资金将提供给世界各地的事实检查人员、新闻机构和非营利组织。谷歌的“信任与安全”小组正在全球范围内努力保护用户免受网络钓鱼、阴谋论、恶意软件和错误信息的侵害。谷歌的排名算法旨在显示平台认为是高质量且与用户查询相关的内容。当搜索的排名算法将某些内容识别为错误信息时,它们会降低该内容的排名。

谷歌其他应对错误信息的工具包括人工审核系统和可以大规模减少垃圾邮件的系统。谷歌表示,其算法可以检测到大部分垃圾邮件,并通过降级或删除这些网页来自动阻止排名系统推广此类内容。其余垃圾邮件通常由清除小组人工处理。他们通常根据用户反馈来审查有问题的页面。目前尚不清楚针对COVID-19错误信息谷歌采取了多少人工操作。对于某些内容,谷歌通过各种机制为用户提供了更多背景信息。该平台宣布将封锁其Google Ads服务中所有利用冠状病毒的广告。此外,Google更新了其“不当内容”政策,修改了“敏感事件”类别。

该公司必须围绕其COVID-19相关工作展示更多透明度和责任感。具体而言,公司应向消费者定期更新多种数据,包括拒绝和删除了多少广告,已降低或删除了与COVID-19错误信息相关的搜索结果的排名,与垃圾邮件相关的垃圾邮件数量等。疫情之后,谷歌还应该发布有关这些因素的综合报告。此外,在适当情况下,联邦贸易委员会应对任何从事不公平和欺骗性行为主体执行《联邦贸易委员会法》第(5)(a)节。

4
TikTok

与许多其他平台一样,TikTok创建了一个页面,概述了其对COVID-19的响应工作。此页面上有许多公告,概述了公司与世界卫生组织(WHO)的合作关系,以确保用户可以访问与病毒有关的准确信息。该平台还在其COVID-19资源页面上明确指出,将消除可能对个人健康或更广泛的公共安全造成伤害的错误信息。此外,2020年3月,TikTok宣布成立TikTok内容咨询委员会,该委员可以帮助制定未来的政策和计划。

4月下旬,TikTok的信任与安全总监宣布了该平台正在采取的其他措施,以解决与COVID-19相关的错误信息。具体而言,该平台引入了增强的应用内报告功能。如果用户遇到他们认为包含故意欺骗性或误导性信息的内容,则可以通过在应用程序中选择“误导性信息”类别来进行报告。当用户将任何内容报告为“COVID-19错误信息”时,该内容将发送到其内部工作组(升级成为第三方实施检查组织)并得到优先审核。该工作组的建立是为了增强平台处理COVID-19相关错误信息的能力而采取的积极措施,并得到了TikTok内容安全团队的支持。

鉴于TikTok平台上可能存在大量误导性内容,尤其是与COVID-19相关的内容,该公司必须提升透明度,应对疫情期间的误导性内容。具体来说,TikTok应该在疫情期间定期提供有关其内容审核工作的更新。疫情之后,公司应发布特定的COVID-19透明度报告。此外,该公司应扩大其一般透明度报告的范围,以包含有关误导性内容的审核的细化数据。

5
推特

2020年1月,推特分享了其扩展的专用搜索提示功能,以确保来自权威来源的内容出现在与COVID-19相关的搜索结果的顶部。该公司已与国家公共卫生机构、世界卫生组织和地方合作伙伴建立了合作关系,以确保用户能够访问经过验证的信息。像Facebook一样,推特表示,在疫情期间,它越来越依赖自动化和机器学习工具来审核内容。该公司表示,在此次疫情期间,它将优先审查对个人健康和福祉构成直接风险的内容,并且需要进行情境分析的内容将受到人工审核。

此外,推特还通过扩展其对有害内容的定义,包括与“全球和本地公共卫生信息的权威来源”所提供的指导相违背的内容,来应对误导性信息在平台上的迅速传播。不过,当政府官员违反了这些COVID-19内容准则的情况,该公司将应用其公共利益例外政策。在这些情况下,公司将确定把内容保留在服务上是否具有公共利益价值,例如,公众将能够知道这些领导者发布了错误的信息。公司应负责任地制定该政策。如果领导者的内容违反了平台的内容政策,则在大多数情况下,应在其顶部留下清晰的通知,说明为何保留该内容。

展望未来,推特应当继续在疫情期间定期提供其审核工作的最新信息。疫情之后,公司应发布针对COVID-19的全面透明度报告,概述整个疫情期间这些审核工作的范围和规模。此外,公司应开始在其常规透明度报告中定期报告对误导性内容的审核。推特禁止广告商投放具有煽动性的内容和虚高的产品价格的广告,或投放那些由于疫情而需求量大的产品(例如口罩,酒精洗手液等)的广告。

6
Youtube

YouTube对平台上传播COVID-19错误信息的应对主要集中在两方面:使权威信息更加突出,并积极删除违反政策的内容。4月下旬,YouTube宣布将扩大其算法推荐的信息面板的使用范围,以在用户搜索与COVID-19相关的内容时将其连接到权威信息。当用户查看与COVID-19相关的视频或搜索结果时,信息面板会将它们与世界卫生组织、美国疾病控制与预防中心(CDC)或当地卫生部门的信息联系起来。

像Facebook和推特一样,在疫情期间,YouTube的内容审核能力大大降低,该公司越来越依赖自动工具进行内容审核。因此,尽管这些反制错误信息的努力应能取得积极成果,但YouTube警告称,该服务对自动化工具的依赖可能会导致错误地删除看似违反YouTube政策的视频的情况有所增加。YouTube利用机器学习算法标记可能有害的内容,然后将其发送给人工审核者进行审核。转向使用自动化程度的一个主要后果是,内容创建者如果认为自己的内容被错误地删除,则可能会面临上诉程序的延误。

YouTube内容审核操作的转变无疑将对删除的内容量产生重大影响。因此,对于YouTube来说,在疫情期间定期更新其内容审核工作非常重要。在疫情之后,YouTube应该创建一份全面的COVID-19报告,突出报告这段时间中内容审核工作的范围和规模。此外,YouTube还应扩大其一般透明度报告的范围,以包括有关误导性内容审核的更详尽的数据

7
建议

互联网平台

1、强化权威信息供给

在与COVID-19以及健康相关的错误信息和虚假信息作斗争中,平台应:

● 与知名的事实检查组织和公共卫生组织等权威机构合作,以验证或驳斥所传播的信息。

● 为世界各地经审查的事实检查组织提供资金,以确保事实检查工作可以充分应对COVID-19相关错误信息和虚假信息数量增长问题。

● 告知用户平台上可能出现的COVID-19相关潜在攻击和骗局,以及避免成为受害者的方法。

● 制定一项公共利益例外政策,该政策使公司能够保留世界领导人、政府官员等发布的内容,即使该内容经过事实检查并被认为包含错误信息。在这种情况下,公司应在内容上附加标签,以提供其他信息,标明内容已经过事实检查并包含误导性信息。公司还应将查看此类内容的用户引导至权威信息源。但是,如果公司确定此类官员发布的内容可能会造成迫切的伤害,则不应应用此公共利益政策,而应像对待其他任何用户一样立即删除相关内容。

● 向过去接触过COVID-19相关误导性内容的用户提供充分通知,并将其引导至权威信息源。

● 定期对算法推荐和排名工具进行审查,并在必要时对其进行重新校准,以使其不会将用户引向误导性内容。

2、减少误导性信息的传播

制定特定政策减少COVID-19或健康相关错误和虚假信息的平台应:

● 删除或减少经过事实检查并认为包含错误信息的内容。

● 在线发布相关政策的详细说明,包括具体执行的示例。如果政策发生变化,公司还应进行公开通知,并应对过去政策进行存档。

● 向用户阐明违反政策的内容在多大程度上是由人工审核或自动工具审核。应将这些程序的任何更新通知用户。

● 向已删除其内容或对其内容降级的用户提供充分的通知。

● 使用户有机会对审核决定提出上诉。鉴于许多公司疫情期间在大规模检测和删除内容上依赖自动化工具,这些企业应该使用户能够对导致其内容和帐户被删除或暂停的审核决定提出上诉。上诉过程应及时,并应使用户能够提供更多信息,并由另外的人员进行审查。标记内容和帐户的用户也应有权访问上诉程序。此外,鉴于越来越多地依赖自动化工具可能导致潜在错误,因此公司应考虑在疫情期间不要永久暂停帐户。

3、更改并执行相关广告政策

企业制定特定政策,规范广告中的COVID-19或健康相关信息应:

● 发布其广告内容和定位政策的详细概述,包括如何实施政策的示例。如果这些政策发生变化,公司还应提供公共通知,并应对过去政策进行存档。

● 阐明公司的广告内容和定位政策是如何实施的,以及自动化工具和人工审核如何实现该过程。

● 建立审查COVID-19相关广告和目标类别的全面流程并予以公开。公司的政策应要求广告在平台上投放之前先受到审核。公司应披露此过程是否以及如何依赖自动化工具和人工审核。

● 因广告违反COVID-19特定广告政策而受到标记或删除的广告客户应有机会对相关决定提出上诉。鉴于公司在疫情期间越来越依赖自动化工具来审核广告,因此有必要进行上诉程序以确保合法广告客户不受损害。

4、使得COVID-19相关审核和执行工作更透明

具有COVID-19相关的特定审核和广告政策的公司应:

● 在疫情之后发布特定的COVID-19透明度报告,概述该期间内容审核工作的范围和规模以及在此期间如何减少错误信息传播。

● 发布特定的COVID-19透明度报告,其中包含有关该公司已删除的列表数量以及该公司因违反其COVID-19特定政策以及商业政策而被禁止的卖家数量的数据。

● 在疫情期间定期发布有关内容审核、广告政策和商业策略执行工作的更新。

● 在透明度报告中呈现企业为消除或减少误导性内容传播而做出的努力。

● 为公司平台上投放的与COVID-19相关的所有广告创建一个公开可用的在线数据库。该数据库应包括搜索功能。

● 发布特定的COVID-19透明度报告,详尽概述该平台的广告政策实施程序。

政策制定者

1、对于指导平台如何决定网站所允许传播的内容,美国政府的作用是有限的。但是,在疫情背景下,美国政府可以采取某些步骤来改善平台的问责机制,并支持平台对抗错误信息传播。

2、政策制定者应制定规则,要求在线平台提供更高的透明度,包括定期报告有关其内容审核、广告定位和投放以及商业执行等内容。

3、美国联邦贸易委员会(FTC)应酌情针对在疫情期间从事不公平和欺骗性贸易行为的企业(包括通过在线广告活动和电子商务)执行《联邦贸易委员会法》第(5)(a)节。

4、政府机构和代理机构应确保其传播的疫情相关信息是经过核实的,并且不会助长未经证实或被揭穿的信息的传播。

5、政府公共卫生官员和相关机构应与互联网平台合作,提供和推广与疫情有关且经过验证的合法信息。这些实体还应使用自己的在线帐户帮助揭穿误导性主张和信息。

6、鉴于由错误信息引起的歧视增加,政策制定者应澄清所有线下的反歧视法规都适用于数字环境。国会和州立法机关还应在必要时制定适当的立法,以填补空白或阐明此类法律的适用性。

7、决策者应为世界各地经过审查的事实检查组织提供资金,以确保事实检查工作可以充分解决全球范围内COVID-19相关错误和虚假信息数量不断增长的问题。

编译 | 贺佳瀛/赛博研究院研究员

最新文章
相关阅读