灵犬UI改版,让反低俗内容检测更加精确

砍柴网  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  

2月20日,今日头条“灵犬反低俗助手”(以下简称“灵犬”)全面升级。新版“灵犬”增添了反暴力谩骂、打击标题党功能。

灵犬UI改版,让反低俗内容检测更加精确

更新之后,“灵犬”的检测范围,基本覆盖了主要的低俗低质内容类型。

用户点击不同的子模块进行内容检测,对于不同类型的内容,“灵犬”会给出不同的检测结果及解决方案

比如在反色情低俗模块输入相应文字“王某某和李某某搞破鞋”,这样的文字就命中“灵犬”反色情低俗模型,此类内容的健康概率只有12%,就不会获得算法推荐。

灵犬UI改版,让反低俗内容检测更加精确

如果在反暴力谩骂模块输入“XXX是卖国贼,卖国求荣”等过激内容或者存疑问题时,“灵犬”会将该样本交由人工审核。

灵犬UI改版,让反低俗内容检测更加精确

除了文字,“灵犬”同样可以对链接内容做出检测,操作层面与文字内容的检测同样简便。

比如在反标题党模块,输入一段新闻“ 马云 厉害了,再次被确认收购千亿营收国际巨头?”的链接,“灵犬”会对标题进行评估,健康概率达到74%,可以获得算法推荐。

灵犬UI改版,让反低俗内容检测更加精确

目前,“灵犬”在反色情低俗、反暴力谩骂板块,整体识别准确率约为85%,反标题党模块识别准确率约为90%。

全新的UI设计让用户对内容进行检测时,更加垂直精确。即使用户分不清所要检测的内容的属性,“灵犬”也会帮用户进行自动分类。

比如在灵犬反标题党模块输入“惊呆了!大庭广众之下竟然有人做这种事”,“灵犬”会智能地给出检测结果:虽然没有命中反标题党模型,但是涉嫌色情低俗。

灵犬UI改版,让反低俗内容检测更加精确

针对许多用户在使用“灵犬”过程中面临的一些列问题,比如“输入文字为什么必须超过10个字”、“灵犬与头条的审核机制有何不同”、“为什么有时候检索内容只有一字之差,健康概率却有很大区别”等等,针对这些问题在“点击了解灵犬”环节,都有相应的答案。

随意打赏

提交建议
微信扫一扫,分享给好友吧。