键盘侠的克星要来了 谷歌用AI技术识别恶意评论|第一财经周刊 ...

Google旗下的孵化项目Jigsaw花了一年时间研究如何使用 人工智能 技术检测网络言论。最近，它推出了一款名为Perspective的工具。这是一个应用程序界面，能使用机器学习的方法自动检测带有侮辱、骚扰、辱骂性质的言论。Perspective将“毒性”定义为“粗鲁的、无礼的、不合理的言论”。在这个界面中，人工智能技术会自动给被输入的言论的“毒性”评级打分，从“很健康”到“很毒”，对应1%到100%的评分。

这个开源界面鼓励全球各地的相关人士参与其中，利用Perspective管理各种网络平台的骚扰言论。对于Perspective的开发者来说，此举可以通过搜集更多的数据来精进算法、优化功能。与Perspective合作的不仅有维基百科，还有《纽约时报》《卫报》《经济学人》这些主流媒体，就拿《纽约时报》来说，它拥有一个14人的团队，他们每天要人工检查1万多条评论。

这款工具也陷入了是否会限制言论自由的争议中。对此，与Perspective合作的媒体已表达了观点。《纽约时报》希望借此保留有礼貌的语言和实质性的观点，同时也希望观点更加多样化，让来自不同群体的读者都能发声。《经济学人》则指出，此举是为了“提高辩论的质量”。它和《卫报》都在做读者调查，以进一步了解读者对这个实验性项目的态度。另外，其实Perspective系统不会对用户评论做任何修改，评论者可以自行选择是否需要修改。

打算开发网络言论优化技术的公司不只Google一家。在不久前发表的一封公开信中，Facebook的 CEO 马克?扎克伯格也表达了类似想法。显然，自动筛查网络言论的技术更大的应用场景就是在Facebook、Twitter以及YouTube等社交平台上。

Facebook已经开始使用人工智能技术区分报道恐怖主义的新闻和实际的恐怖主义宣传，并尝试辨别照片和视频。不过，Facebook这项技术目前还在初级阶段，在人工智能审核后，一些内容还是会被提交给人工团队复核。