今日头条“灵犬”升级:“反低俗”的技术效能

这年头,没掉过标题党坑里的读者不足以谈“网”事。标题党玩的就是套路,博的就是眼球,以至于它已成了“过街老鼠”式的存在。

有人归纳他们的常用语,结果一列一大堆:男默女泪,震惊国人,惊天秘密,看后惊呆,千万别吃,癌症前兆,看后崩溃,差点丧命,最后警告,中国不忍了……有网友因此用标题党式段子讽刺标题党:震惊!原来标题党是这样取标题的,惊呆所有人!

但这些标题党今后也得收敛些了,因为它们很难蒙过“灵犬”的火眼金睛。

就在2月20日,今日头条方面宣布,由其推出的国内首款反低俗小程序“灵犬”全面升级——除了反色情低俗,新版“灵犬”还加入了反暴力谩骂和反标题党能力。这是“灵犬”上线近一年后迎来的首个重大更新版本。至此,“灵犬”的检测服务,已经覆盖了主要的低俗低质内容类型。

今日头条“灵犬”升级:“反低俗”的技术效能

“灵犬”的全面升级,对已成规模的内容创作者而言,无疑是看得见的利好,这意味着他们对内容的优化有了更完备的参照系;对作为信息消费者的海量用户来说,也是熨帖人心的消息,这有助于减少“垃圾信息污染”。在“灵犬”已全面向社会开放的背景下,这也能带动整个内容行业质量层次与健康度的提升。

“反低俗”已成内容平台治理领域的全球性议题

“人是技术的尺度”,技术当为解决民众的痛点而生。本质上,脱胎于今日头条反低俗算法模型的“灵犬”,在识别范围上扩充,瞄准的也是纾解公众的痛点。

“网友苦劣质内容久矣”,这不是什么揶揄。揆诸当下,那些藏污纳垢的低俗低质内容,既拉低了许多内容平台的质地,也让用户们动辄觉得被“欺骗感情”“毒害心智”。

现实中,大量追腥猎奇逐臭的信息,都是想通过迎合原欲的方式引关注、博眼球,通过“尖叫效应”去收割注意力资源。将人们的本能欲求导向正常的疏泄通道,当然没问题。问题是,这些低俗低质内容缺乏基本的价值观介入,缺少公共理性的加载,到头来,端上的也绝非什么补品,而是“掺了地沟油的毒鸡汤”。

如果说,在内容创业兴起初始阶段、内容平台生长初期,平台内容池的丰富,还需依靠低创作门槛、宽松审核机制和强力流量扶持去托起“风口”,这类打着色情、暴力擦边球的内容会趁虚而入,那到了现阶段,这样的“野蛮生长”已很难为继。

随着内容市场已从小森林变成大生态圈,人们的信息消费层次渐次升级,监管层面也已走出新业态管束力度与发展规模不适配的“不对称监管”状态,平台内容供给侧对准的目标从“量的增加”转为“质的提升”,内容行业由粗放增长转向精细化运营,就成了必然。在此背景下,“反低俗”已成了各大内容平台必须正视的课题,也是内容生产商无法回避的命题。

今日头条“灵犬”升级:“反低俗”的技术效能

当下,各大内容平台也都意识到了低俗低质内容的危害:那些劣质内容固然可以凭着哗众取宠获得灰色流量,但它们自身是没价值的,既无法固定高质量的忠实受众群,其弊害还会外溢——惑乱用户心智,并侵蚀平台价值,稀释信息价值浓度。

公众不是信息消“废”者。当内容平台上“劣币”充斥、垃圾信息过载,势必会抬高其有价值的信息获取难度,损害其用户体验,最终成为平台自身的痛点,反噬其吸引力。

所以,内容平台遏制低俗低质内容,是在履行平台治理责任,毕竟在“避风港原则”下的平台中立责任向“红旗法则”下的主体责任转换的形势下,平台方“守土有责”且责任分量正在变重;也是对平台自身负责,之于这些平台们,内容是流量的源头活水,涵养出了有质量的内容池,才能真正维系平台的生命力。

也因如此,国内外的大体量内容平台都在“反低俗”上不断加码,“反低俗”也成了内容平台治理领域的全球性议题。

“灵犬”能实现反低俗内容审核流程的前置

拿国外的巨头型社交平台Facebook来说,自2016年8月起,Facebook就宣布打击标题党,凭着AI对虚假新闻造谣网站加以识别,对内容通过disputed flags的方式进行标注;并通过对NewsFeed功能算法的修改,箭头直指标题党。而Google为打击假新闻,“重写搜索排名算法”,对具备误导性、虚假和令人反感的文章进行排名降级。

国内的微信、微博等平台在这方面也有动作。像微信官方就封禁及处理大量发送低俗类内容的帐号,删除无数的相关文章,还引进了专业的第三方辟谣机构,建立了“洗稿”投诉审核体系;微博则在对内容人工识别外,借助“外脑外力”建立了微博监督员机制和谣言粉碎机,并在推荐算法中增加权威媒体的权重,以确保优质内容优先呈现。

作为智能分发的先行者、致力于打造基础设施最完备的内容平台,今日头条在打击低俗低质内容方面也不遑多让。无论是与国外高校联合成立的“AI反谣言研究联盟”,是通过信息自动抓取和语义学习等技术、自动谣言识别模型,以打造反谣言全球技术平台,还是建立“网络安全委员会”,数千名审核编辑把关与人脸识别、活体检测技术、动态关键帧技术、图像建模识别技术和OCR识别技术结合,都是锚定“反低俗”的靶向发力。

而“灵犬”的推出,更是内容平台治理的观念迭代与方式进阶。“灵犬”是向用户开放的,用户可在检测框内输入文章标题或链接,“灵犬”就能进行提取、分词和语义识别,根据算法规则,输出对应的分数、评级和结论。这结果包括,文章是否可以获得推荐,是否需引入人工判断等。创作者可根据反低俗模型给出的鉴定结果,来修改文章或标题,以获得更多推荐。

虑及今日头条等平台实行的是OGC、PGC、UGC并行的内容生产模式,“灵犬”对用户的技术赋能与之结合,也能生成反低俗内容审核前置的流程机制。也就是说,“灵犬”对色情、暴力内容和标题党的筛查审核,能提至事前事中,很多低俗低质内容能在发布前就被“判死刑”。

比起当下绝大多数平台“举报-受理”的事后监管处理模式,“灵犬”发动创作者和用户参与、汇聚网民力量,带动反低俗内容审核流程前移,本身就是一种“升级”。

“反低俗”别光靠人工,更要向技术要效能

“反低俗”的内生动力是平台责任感。去年,今日头条CEO陈林在生机大会上表示,内容生态要长远发展,平台必须主动负起内容管理的责任。今日头条将对外开放更多技术模型,和行业一起提高平台生态标准。

“灵犬”的对外开放、优化迭代,正是今日头条承担“信息分发维度社会公共基础设施”责任的体现。

今日头条“灵犬”升级:“反低俗”的技术效能

几乎可以预见,“灵犬”也能帮助更多平台提高内容质量治理的效能,节省审核筛查成本——因为“灵犬”反低俗靠的是技术能力,依托这样的智能技术,那些低俗低质信息会在传播链条前端就被更快地截断。

值得一说的是,互联网信息平台传统的“反低俗”手段,主要依靠人工审核,其准确率虽然高,但对海量信息却很难实现快速审核;而专业审核团队的扩容,也很难完全赶上内容总量指数级增长的速度。

今日头条推出的“灵犬”,通过技术手段,比较高效地实现对虚假及低俗内容传播的有效阻断。同时配备专业的审核团队,做二次把关。

向技术要效能,人工、技术手段有效结合,“人机结合”自然也能织密“反低俗”网络,提高内容质量治理效率,更好地净化内容生态。事实上,也只有Pass掉那些低俗低质信息,信息才能真正创造社会价值。

说到底,这个社会需要有价值的信息供给,而非低俗低质内容“滥竽充数”。而“灵犬”的对外公开与技术升级,也是以广谱赋能,带动整个行业平台治理能力的提升。这对清朗网络空间与清正信息环境的营造,对公众免受“低俗信息荼毒”权利的保障,显然都大有裨益。司马徒(媒体人)


企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2019-02-21
今日头条“灵犬”升级:“反低俗”的技术效能
这年头,没掉过标题党坑里的读者不足以谈“网”事。

长按扫码 阅读全文

Baidu
map