博客> 刻不容缓,虚假消息之战何时休?
刻不容缓,虚假消息之战何时休?
2018-07-23 02:27 评论:0 阅读:459 网易云易盾
机器学习 内容安全

“知物由学”是网易云易盾打造的一个品牌栏目,词语出自汉·王充《论衡·实知》。人,能力有高下之分,学习才知道事物的道理,而后才有智慧,不去求问就不会知道。“知物由学”希望通过一篇篇技术干货、趋势解读、人物思考和沉淀给你带来收获的同时,也希望打开你的眼界,成就不一样的你。当然,如果你有不错的认知或分享,也欢迎通过邮件(zhangyong02@corp.netease.com)投稿。

作者介绍:

Chris Meserole,布鲁金斯学会中东政策中心研究员,新兴技术领域专家。

Alina Polyakova,布鲁金斯学会美国和欧洲中心David M. Rubenstein研究员,俄罗斯政治战争和新兴威胁领域专家。

以下为译文:

今年4月,欧盟推出了一项用来处理在线虚假信息的新策略。新策略着重于以下几点:促进媒体素养,资助第三方机构核查事实,加强Facebook和其它信息渠道来源的真实性。事实上,当Facebook首席执行官马克扎克伯格出席欧盟听证会时,官员们就提到了实施监管的可能性,因为他总是在回避虚假新闻和极端主义的问题。  Enter your image description here: John Thys/AFP/Getty Images

到目前为止,欧洲政府公布的法律或方案根本就没有起到什么效果。为解决这个难题,欧洲和美国的决策者们应该关注即将到来的颠覆性技术浪潮。伴随着人工智能和分散式计算的快速发展,下一个阶段的虚假新闻将会变得更加复杂,并且难以发现。 要想制定出有效的战略,议员们应该专注于四个新兴领域可能带来的威胁:人工智能的民主化、社交网络的演变、分散式应用的兴起以及虚假新闻的“背后”。

人工智能民主化

由于数据量越来越大,算法越来越智能,硬件水平越来越好,在未来几年中,获得人工智能高端服务的人将变得越来越多。从医疗到交通,人工智能的民主化具有巨大的前景。 然而人工智能的广泛使用也带来了很大的风险。除了其他问题,它还承诺将虚假仿造品,音频和视频的创作进行民主化。虽然电脑可以对数字内容进行操作,但在以前,这些操纵几乎全都可以检测出来。然而,随着深度学习和生成对抗网络可以很好地处理图像和视频,现在已经很难区分真实文件究竟是哪一个。由于像FakeApp和Lyrebird这类应用程序的出现,现在任何人都可以通过一台电脑或智能手机制造出” deep fakes(高仿品)”(顺便分享一篇干货文章:知物由学 | 虚假色情泛滥,人工智能可以做些啥?)。今年早些时候甚至还出现了一个工具,用户使用该工具可以轻松地在视频中进行换脸,而这款工具也在Twitter和Pornhub广泛传开。

虚假消息泛滥

在仿真技术和其他新兴技术成熟的同时,一些传统平台将继续在生成和传播信息方面扮演着重要的角色,例如现在谷歌,Facebook和Twitter上虚假消息正在变得越来越多。

现在有越来越多的搜索引擎服务可以帮助客户提升其在Google上面的排名,因此也出现了越来越多的山寨行业。虽然大多数情况下,谷歌可以通过调整算法保持其领先的地位,但现在一些搜索引擎优化操纵器也变的越来越智能,常常会将搜索结果置顶。

Facebook上的虚假信息通常以两种方式出现:共享内容和付费广告。该公司曾试图减少虚假信息的出现,但到目前为止都无济于事。最著名的就是Facebook会对检测出的虚假信息贴上“有争议的标志”,结果却发现,这反倒让用户参与度更高了。

尽管Twitter已经采取措施应对其平台上早已泛滥的网络巨魔和自动机器人,但它还是非常容易受到虚假信息活动的影响,因为即使注册的账户没有进行验证,你还是可以很轻松的生成虚假信息并且在平台上进行传播。即使Twitter采取进一步措施打击滥用行为,其检测算法也可以通过Google的搜索算法进行反向工程。因此如果不对其API和交互设计进行根本性改变换汤不换药,虚假信息还是存在。例如,Twitter推出最新改革措施之后,美国军队于4月针对叙利亚化学武器设施进行了一次打击,就在袭击后的数小时之内,五角大楼报道了俄罗斯大量的虚假新闻。这些推文似乎来自合法账户,而且也没有办法鉴定是否为错误信息。

区块链技术和分散式应用 区块链技术和其他分散式分类账以支持比特币和以太坊等加密货币而闻名。然而它们最大的影响可能是改变了互联网的运作方式。随着越来越多的分散式应用程序上线,网络将越来越多地受到旨在抵制Facebook和享受集中控制的服务和协议的这些人的支持。例如,用户可以在DTube上浏览视频而不仅限于YouTube,也可以在Blockstack浏览器上浏览网页,而不是非得使用Safari,还可以使用IPFS(对等文件系统)来替代Dropbox或Google Docs进行存储文件。可以肯定的是,分散式应用程序生态系统仍然是一个利基领域,还需要一段时间来解决这些问题从而变得成熟。但由于安全性随着时间的推移而不断提高,修复了底层网络体系结构,分布式账本技术有望使网络变得更加安全。

如果在线活动能够转移到分散式应用程序上,那么它们提供的安全性和分散性将成为隐私倡导者和人权异议人士的福音。但同样也带了其它一些问题。这些服务中的大多数都具有匿名性和公钥密码学功能,因此难以追踪到真实的个人或组织,而且一旦将信息提交给分散应用程序,要想再取消几乎是不可能了。例如,IPFS协议没有删除的方法 - 用户只能添加内容,不能删除。

到目前为止,各项策略努力重点都是记录虚假消息活动中涉及的机制和参与者 - 跟踪僵尸网络,识别巨魔账户,监控媒体叙述以及追踪虚假内容的传播。包括政府在内的很多人士都为落实数据保护和隐私政策做了巨大的努力,如欧盟的“通用数据保护条例”,以及为网上广告空间引入更多透明度和问责制的立法提案。 虽然这些努力对于提高公众和决策者的认识是有价值的,但也使得他们很少能够深入到背后去进行研究。如果想要更深入的研究,那么就需要对虚假信息的“后端”进行更深入的检查和评估。换句话说,就是需要了解在背后操作广告市场,SEO市场和数据经纪人的算法。

分散式应用程序的出现给决策者们带来难得重新选择的机会:当十年前建立社交网络时,立法者未能预见到那些不法之徒也可以利用网络做一些违法的事。由于这种应用仍然是一个利基市场,政策制定者可以在分散式网络达到全球规模之前做出反应。各国政府应该组建新的公私伙伴关系,以帮助开发者确保对下一代网络散播虚假消息变得成熟起来。

收藏
0
sina weixin mail 回到顶部