你的位置：

为何技术这么发达，鉴黄还要靠人海战术？

来源[未分类] 点击[42] 作者[游客] 时间[2017-05-21 17:06:37]

近日，Facebook的CEO马克.扎克伯格宣告公司将会新增3000名内容审核员，他们担任审核平台上的内容，包括比来网上有涌现的行刺、他杀以及强奸等视频。科技巨头聘用大量人力来做内容审核，已经不算甚么稀罕事。Google、baidu、腾讯、新浪、今日头条都设置了类似岗位。关于做内容的平台，内容审核尤为主要，一旦没有处理好，颇有可能影响到整个公司的前景。为甚么在科技如斯蓬勃的本日，机械还没法完整替代传统的人工审核？各大巨头还须要人海战术来鉴黄呢？

内容平台的阿克琉斯之踵

今年4月，一位泰国须眉在Facebook上直播杀害亲生女儿的画面，随后该须眉他杀。视频在Facebook上挂了近24个小时，大量用户看到婴儿被杀害的过程。个中一段视频播放量超过25万次，视频还被其余用户上传到其余视频网站。

色情、暴力、犯罪，这些不良内容多次在Facebook上涌现，这让Facebook堕入争议。今年3月，一名15岁美国奼女被多名须眉性侵略并被直播到Facebook上，视频吸引了至少40万人关注。有人称，这样的画面让人感到畏惧以及不安，“看了之后早晨都睡不着觉”。

事发后，Facebook团队意想到问题的重大性。Facebook的CEO扎克伯格地下表示，Facebook将尽统统努力避免此类内容再涌现，并且表示Facebook要变成一个安康而安全的网络社区，还有很多事情要做。

扩招内容审核员正是Facebook为此做出的举措。此前，Facebook在环球已有4500名员工担任内容审核，这次扩招会让审核过程加倍及时以及准确。这些员工主要担任处理那些没有被检察到的、或许没有被立即删除的不良内容。

社交媒体时期，每一天都有大量的用户在赓续地生产内容。关于平台而言，除补贴内容生产方外，还须要支出更多的内容审核本钱。但只管如斯，平台照样不惜人力以及财力，去做好内容审核的事情。一方面是大量的不良内容，会使得用户产生反感，会下降使用产品的频率乃至远离产品。劣币驱逐良币，无益于平台的长期发展。另外一方面，不良内容的发布，颇有可能招致触犯国家司法，引来平台的管制乃至关闭，今年年头年月，着名的异性社区ZANK就因为直播涉黄被总体关闭。

在国际，BAT许多平台都设有内容审核员一职。以新浪微博为例，新浪微博是国际最大的社交平台之一。关于内容，新浪微博仍主要采取人工审核的方式。除色情、暴力等不良内容，平台还会留心政治、宗教等敏感内容。然则仍然有各类擦边或许不良内容的漏网之鱼。内容的审核以及把关，成为了各大内容平台的阿克琉斯之踵，从始创公司到科技巨头，没有人敢抓紧这根神经。除非是别有居心的想利用情色来吸引用户，但那样肯定不会长久。

让人绝望的内容审核事情       

2013年，baidu、腾讯、金山等10多个互联网公司组成“安全联盟”，用20万高薪招聘“首席淫秽色情鉴定官”。下班能看片还拿着高薪，网友奚搞“简直没天理”。

实在，内容审核事情并无想象中简略。以Facebook为例，Facebook已有的审核员每一天要处理大量的UGC内容，他们须要审核包括色情、暴力、犯罪等多个方面的不良内容，在判断内容时会承受很大的压力。他们必须区分开普通儿童写真以及儿童色情照片，还要分清楚这是同伙间的玩笑照样侵略性内容。他们必须做到细致地归类，须要将内容放到具体语境下进行区分。要是没有审核到位，Facebook颇有可能会被指摘侵略公平易近的言论自由。

审核员的事情，会对小我生活产生很大的负面影响。长期检察儿童色情作品后,他们会对打仗孩子的人疑神疑鬼。观看太多色情图片乃至会影响他们的性生活以及婚姻关系，他们已经对色情影像感觉到麻木。

今年1月，微软在线安全团队的成员向微软提起诉讼。因为他们每一天被迫观看大量可怕、色情以及凶杀图片及视频，是以患上了心思后遗症，“经常失眠、做恶梦，脑子里充满图片以及视频内容。”但微软民间表示，其实不认同这两位前员工的概念， 公司每一月都邑对这些员工提供必定的心思支持。

（网络招聘“内容审核员”信息）

异样的情形，在中国也是普遍存在，尤为是在内容审核领域。不少公司会将内容审核交由外头公司承担，这些公司雇佣大量人力来做笔墨、图片、视频等外容的审核，审核员每一天须要承担上百条乃至更多信息的审核事情。这些审核员领着3000到5000的月人为，大多生活在国际2、三线城市。路透社此前的一篇报道曾经将新浪微博的这项事情称为“低压、无望的事情”——每一人每一小时至少要看3000条微博，不少人因为压力太大且看不到回升空间而离开。 

人工智能时期的审核尴尬

随着科技的发展，媒体以及守业者都赓续的勾画着，人工智能时期到来的激动场景，但时至今日，虽然经由过程机械进修，赓续在提升系统关于内容类型的识别以及判断概率。但关于内容的审核，科技巨头主要照样依赖人工，这真是特殊的尴尬。

机械在很长光阴内，根本不能完整取代人工审核。以Google为例，Google有超过一万名员工充当着搜索结果评价者的角色。这家业界当先的科技巨头仍需雇佣大量的劳能源来改善自身产品，这或许说清楚明了人工智能局限性——机械还很难模仿出普通用户的使用体验，很难理解内容违地的深意，很难作出准确的“人的判断”。

而且，今朝机械审核多用于笔墨内容。如机械检测到含有敏感词汇的内容，会将其删除或向用户发出警告。但关于图片、视频的审核，机械没法像对笔墨内容一样提取症结词，审核难度较大。在上述的Facebook杀童直播案中，机械就没法根据视频画面去鉴别内容性子。此时，人工审核将发挥其无可替代的作用。

关于Facebook这样领有20亿用户的大型社交网站，除人工审核，还有其余两种辅助审核渠道。一方面，Facebook领导用户使用举报功能。用户若发现色情视频、图片等不良信息，可以向平台举报。网站管理员收到信息后，会实现删图或许封号等后续处理。另外一方面，Facebook也正在测试人工智能，希望进一步采取机械+人工的审核办法。比如，如果有一张裸体照片此前被删除，那么再次上传时就会被自动删除。

在国际，人工+机械审核是今朝科技公司经常使用的审核办法。以快手为例，快手领有数百人的内容审核团队，每一条快手短视频、直播的发布都要经由机械以及人工等多道审核。同时，不少第三方公司提供内容审核服务，如万象优图、网易易盾、图普科技、阿里绿网等多个产品，均可以辅助平台进行机械审核。优酷、荔枝FM、映客直播、美拍等多个平台都有使用这些第三方服务。

人工智能虽然获患了不错的发展，也在逐渐改变人们的生活方式，提升了社会效率。然则还远未到彻底解放人工的时期。关于内容审核的大量底层雇员来说，他们每一天搀杂在科技巨头以及海量信息之间，大概在将来，人工智能能彻底解放他们。不过真到了那一天，也便是他们失业的时候了。

本文由南七道与陈旖共同实现，部分资料综合卫报、路透社等外容。

南七道：南七道新媒创始人&CEO，虎嗅等年度作者，互联网明星守业公司脸萌、FaceU等品牌操盘手，关注互联网以及科技守业。公号南七道。


本文采集于百度百家，作者整理。

分享

    最新评论：



评论文本（10-200个字符）超出部分会被自动删除.
刷新 点击图片刷新验证码，防止恶意攻击，验证码刷新延时5秒！
广告2