当前位置:首页 > 代孕过程 > 列表

他们封了无数玩火主播的号,是直播间里的“拆弹部队”

来源:http://www.zjtxpx.com   时间: 2019-02-01 18:02:26   

  在日益严格的监管要求下,内容审核员这个群体成为了视频直播平台不可或缺的“拆弹部队”,重要程度关乎平台生死。

  全文约6800字,阅读大概需要14分钟。

  财经天下(ID:cjtxzk) 文|孙静

  编辑|李然

  “找茬”

  唐卓用手指夹着一根“芙蓉王”,朝朋友的手机屏幕上吐了一个挑衅的烟圈。烟未散尽,朋友的映客直播账号就被封了。

  那是唐卓第一次接触映客。当时朋友来家里玩,说要开直播,有粉丝刷礼物,坐着就能挣钱。最后,他还特别强调了一句:直播不能抽烟。

  “它怎么知道我抽不抽烟?”唐卓不信邪。

  一周后,唐卓刷微博时看到映客在招聘审核员,受好奇心驱使,她投出了简历。

  成为映客审核员以前,这名90后长沙女孩的职业理想是当一名刑警。她大学就读于湖南司法警官职业学院,刑侦专业方向,梦想是破案、抓罪犯。毕业时对口岗位只有狱警。还在实习期,她就当了逃兵, “监狱太压抑了”。

  一个暖融融的下午,唐卓坐在公司楼下的咖啡馆里,说自己从业以来,直播审核员是她最喜欢的工作。在此之前,她干过耐克专卖店导购、台球俱乐部陪练、

  直播审核员这个工作,某种意义上讲,颇为接近“警察”的角色。她要“抓”的,是平台上的违规主播。

  唐卓形容,这工作很像一款经典游戏《大家来找茬》。在8小时之内,她至少盯了1000个直播片段,并从中找出违规行为,如低俗、吸烟或驾车直播。

  ▲ 梦想当刑警的唐卓成了一名视频审核员,她刚工作一年已经感觉眼睛有些吃不消。

  机器会对直播每两秒做一次截图,传到图像识别内容库初筛,技术判定速度达毫秒级,识别率在90%~95%,出现无法识别或难以判断的图像,则交由唐卓和她的同事做人工审核。

  2016年被称为“直播元年”,据不完全统计,全国大小直播平台至少300家,与此同时,低俗、色情、暴力、炒作的行为也不断刷新底线。国家网信办等部门一年连发多道“紧箍咒”,规范直播行业发展。

  在日益严格的监管要求下,内容审核员这个群体成为了视频直播平台不可或缺的“拆弹部队”,重要程度关乎平台生死。这并非危言耸听,今年2月,北京首次因涉黄关停了一家直播平台。

  花椒直播审核员小冉的工作也是“找茬”。她大学读传媒专业,觉得直播平台是新媒体,与所学专业沾边,便入了这一行。

  入职前,唐卓、小冉对岗位的理解,均停留在网络新闻中的“鉴黄师”层面上。在他们的想象中,视频审核区应该是一面屏幕密布的监控墙,像交管部门那种。而实际上,审核员每人一台电脑、一个账号、一副耳机,看上去与普通办公并没有两样。只有一条规矩比较特殊——工作时不允许拍照。

  在花椒直播办公室,“严禁拍照”的超大黑体字贴在花椒直播的监控墙旁边。监控墙早已停用,屏幕上落了一层灰。

  相关负责人介绍,早期开播路数不多,通过监控墙的屏幕人工检测即可,现在每天开播路数达百万级,更多的是依赖技术审核。

  由于技术研发成本高昂,各平台都强调保密。映客副总裁钟正阳告诉《财经天下》周刊(ID:cjtxzk)记者,映客的机器审核系统,仅开发团队就有30多人,技术成本达上千万元。

  在任何直播平台,审核均属于最敏感的业务部门。审核员入职要签署保密协议,不得对外透露审核规则或工作具体内容。只有两三个好友知道唐卓的岗位,其他人问她在哪儿上班,她会以“看视频的”一语带过。

  早期,公安部门筛选民警去做鉴黄审核,人选以已婚、大龄、女性为佳。而在直播平台,审核员以90后居多。

  比如在映客湖南总部的审核员中,员工平均年龄为25岁~26岁,大专及以上学历。钟正阳说,招聘面试时,公司更看重应聘者是否沉稳、细心、有责任感。

  这是一群隐于屏幕背后、同欲望作战的年轻人。屏幕前,主播画风稍有不对,他们会立即出手,轻则一键代孕网提醒“您的衣着过于暴露,具有挑逗性,请立即改正”,重则掐断直播路径,甚至永久封号。

  这项工作的人员流动性相当高,很多人会因为夜班、枯燥、视觉冲击、外界压力抑或缺乏上升空间等原因,干上数月便匆匆辞职。

  唐卓工作快一年,感觉眼睛已经有些吃不消,脸上长痘,记忆力变差,刚刚26岁就频繁丢三落四。

  在一些招聘网站上搜“视频审核员”,会出来一长串信息,这从一个侧面说明,该岗位在市场上处于缺人状态。

  “炸弹”

  2016年6月,钟正阳一个人背着双肩包来到长沙。映客CEO奉佑生给这名“光杆司令”的任务是:从零开始,组建一支“拆弹”部队。

  7个月后,映客湖南总部审核员已经有430多人,占满一层楼。加上永州的100多人以及兼职审核员,这支“拆弹”部队人数多时达到千人。

  ▲ 内容审核事关直播平台生死,因此内容审核员被视为直播间里的“拆弹部队”。

  映客第一位“拆弹”代孕专家应该是奉佑生本人。2015年5月上线时,团队只有20人,他兼做内容审核。这与其早年的公务员经历有关,奉佑生极为重视内容安全, “在中国做一件事,要深深理解你的生命线和头上的达摩克利之剑是什么”。

  业内普遍认为,2015年9月,热门直播平台“17”突遭苹果下架,这为映客、花椒等新移动直播平台的崛起豁开了一条通道。 “17”刚下架的几天,花椒的用户量增长为平时3倍。

  而“17”被下架的祸首便是不雅内容。有报道称,下架前,“17”用户量达到700万人,但只有9~14人轮班审核内容。

  消失了一段时间之后,等到“17”再度上架,直播江湖格局已变。此番洗牌,也为志在成为头部阵营的直播平台叩响第一声警钟。

  自2016年起,约谈、整改和查处已经成为视频行业的高频词。包括映客、YY、花椒、虎牙、斗鱼等移动直播平台,以及快手、秒拍、小咖秀等短视频平台,均有被监管部门要求整改的记录。

  有些平台不止一次“上黑榜”,如熊猫直播。公开报道可见,该平台一年内至少被查处3次,最近一次,是因为弹幕信息低俗色情。

  ▲ 早年的公务员经历让奉佑生极为重视内容安全,他也是一位“拆弹”代孕专家。

  直播正成为被高度监管的新行业。奉佑生观察,一般的政府监管,都滞后于行业发展,甚至很多行业发展了5~10年后,政府监管条款才跟上来。但在直播行业,国家网信办、文化部、广电总局等五大部门过去一年内史无前例地发布了多种监管政策。

  据《财经天下》周刊(ID:cjtxzk)记者不完全统计,2016年至少有4部与直播直接相关的法律法规出台。最为严格的是《互联网直播代孕服务管理规定》,要求服务商建立直播内容审核平台,并具备即时阻断直播的技术。

  必须及时阻断的,往往是“炸弹”。

  何为“炸弹”?目前似乎还没有标准答案,因为这份名录仍在持续演化。

  以映客平台《主播管理规范》为例,违规项已经细致到服装款式:如“穿着情趣制服、情趣内衣、暴露装、透视装、肉色紧身衣、内衣外穿、半截抹胸、渔网袜、吊带袜、三角短裤或呈现三角状短裤、低腰超短裤、有性暗示文字或图片的服装等”,而“短裙或短裤下摆高于臀下线”也是不被允许的。

  ▲ 某直播平台女主播在跳舞过程中疑似故意让裙子掉落,吸引眼球。

  表演内容上,“自虐或攻击他人的如酗酒、虐待自己、他人或互殴、吃或者展示各种令人不适的物品、活物、死物”以及吸烟、赌博、传销、展示毒品等,均属禁止行为。

  具体判定还会依据场景佐证。比如赌博,只要直播中存在玩扑克、麻将,且桌面上出现金钱的,视作赌博;而采用扑克、麻将开展魔术表演的,审核时会执行通过。花椒直播相关负责人说,他们的内部运营手册每季度都会更新一版。审核部门每周例会,也会列出要注意的新情况。

  尽管如此,在直播世界,主播试探平台底线的小动作几乎每天都会上演和迭代。欲望是不死不休的驱动力。

  作为部分直播平台的图像审核技术供应商,图普科技市场总监李麟感触很深。他发现,由客户新提供的数据和定制需求,可以看出主播违规方式的翻新。如新近开发的“画中画”识别技术,专门针对主播并不直接涉黄,而是用另外一部手机拍电脑屏幕的行为。

  直播如何审核?映客副总裁钟正阳称,从用户创建直播开始,审核就已启动。只有用户名、签名、上传图像等静态资料通过审查后,用户才能进入直播平台中。

  在技术层面,涉及图像识别、声音识别、敏感词过滤。其中,图像识别有内容样本库,由国家监管部门提供,视频平台要照标准去做。

  “每一个对外能看到的内容,我们都有做内容审核。”钟正阳说,直播行业受到政府部门高度监管,为确保安全,包括社会重大事件及平台重大活动,映客都有专项应急处理方案,而且部门主管要及时向上汇报。

  首先发现各种“擦边球”的还是审核员。

  小冉拆掉的第一个“炸弹”,与“撩”有关。一个网红脸女主播,开始只是聊天,后来画风骤变,“揉揉这(胸),捏捏那儿(腿)”。小冉回忆时仍觉可笑,她甩起胳膊,动作夸张地模仿起来。

  在她按下一键代孕网提醒后,屏幕上暧昧的“小动作”随即消失,又切入聊天模式。从发现违规到处理,审核员最快能控制在3~5秒内。

  ▲ 从发现违规到处理,审核员基本能控制在3到5秒之内。

  最初接触涉黄信息时,思想开放如小冉,也会有视觉不适。入职培训时,培训师在台上翻PPT,一张大尺度色情图片跳出来,在场十几个人,女同事齐刷刷低头,男同事也一脸尴尬。

  培训师见惯了这种“场面”:这就是你们以后的工作。你们这种状态怎么行?第一时间要去封号,而不是低头。

  好比打怪升级,小冉和唐卓这种熟手,甚至会凭职业敏感,做出预判。预感到有人要打“擦边球”了,她们会提前留意。

  “有的主播,越说情绪越激动,这一分钟没说脏话,但下一分钟极可能脱口而出,这时我就会多花一段时间,暗处观察他。”唐卓说,她会等着主播违规,等着观众点左上角举报,然后收网。如果针对某位主播的投诉率、举报率上升,系统会自动降低其上热门的几率。

  有平台内部设定,每名视频审核员在一个直播间只能盯15~20秒,然后就要跳转到另一房间,这时,会有另一名同事进来接班。如此安排,是为了防止审核员沉溺于某一主播。

  小冉业余时间也关注了多名主播,既有她个人喜欢的、擅长唱歌跳舞的高颜值男女,也有要重点盯防的审核对象。

  看前者表演时,她是粉丝,偶尔会送豆;在后者表演时,她又不自觉地成了“找茬”那个, “用户需要不断代孕网提醒、不断发现、不断改正”。工作和生活的界限,在直播软件上变得很模糊。在休息日,她和同事们也会习惯性地刷几下直播页面。

  前两天,她正在值夜班,一名轮休的同事给她发来截图代孕网提醒:“某某苗头好像不太对,跳舞怎么跳到椅子上了?”

  界限

  审核也会时常陷入界限模糊地带。

  唐卓最头疼的是鉴别驾车直播。如果主播摄像头对着自己,镜头里没有方向盘,很难分清是否违规。

  “你觉得他是在开车吗?”拿不准时,她会问组长,或者把窗外风景当参照物。审核员封号要有证据——违规截图。

  《财经天下》周刊(ID:cjtxzk)记者也曾与快手CEO宿华交流过审核尺度问题。宿华是工程师出身,属技术型创业者,彼时他正对“如何界定炒作”的社会命题感到困扰。

  快手上曾冒出过生吃活物、死猪等令人不适的视频,此后,作品不能产生不良影响或让人不适这一规定,成为平台红线之一。

  “炒作本身的界定是灰色的。你说,贝爷(美国探险家贝尔·格里尔斯)爱吃各种虫子,他吃的时候周围有一圈摄像机,请问他是在炒作吗?不是,因为他看起来不是炒作。可是他本质上,是不是一种炒作?其实真的很难判断。”

  去年处理快手“伪公益”事件时,宿华就发现,里面涉及到法律、社会、文化等多方面。为此他甚至去找法学教授,探讨这个问题的边界。

  比如“伪公益”事件后,平台上还有几十个团体做公益,真假难辨,快手冻结了全部账号。第二天,其中一家公益机构负责人就从四川赶来北京,说300多名残疾人全靠机构运转为生。他们出示了民政部门登记证书,证明自身是有资质的。快手在向公安部门征询意见后,才将其账号解冻。

  国外视频网站同受困扰。英国《每日邮报》报道,今年2月23日,美国纽约一家动物园在视频网站YouTube上直播长颈鹿分娩的过程,当时关注粉丝达2000多万。但直播很快被YouTube关停,原因是有动物保护极端分子举报内容涉嫌“裸露和色情”。不过,剧情当天便有了翻转,迫于舆论压力,YouTube又恢复该直播。

  另一互联网巨头、社交网站Facebook也曾因删除代孕母亲哺乳照片,引起争议。

  一个平台的审核界限,往往要在人性、立场、文化、法律甚至平台价值观等各方拉扯中,才能逐渐清晰起来,而随着人工智能技术的渗透,又涉及到了机器学习。

  以图普为例,机器会把图片分类成正常、性感、色情三类,并给出概率分数,以及是否需要复审的意见。如果一张图片被判为色情,概率是0.99,则不需要复审;如果被判为色情,概率0.3,处于系统不确定的区间,代孕建议人工复审。

  不过,《财经天下》周刊(ID:cjtxzk)记者将米开朗琪罗的大卫雕塑图片上传至图普,机器立即作出判断:色情。貌似机器比人更严苛。

  ▲ 在判断艺术与色情之间的界限上,貌似机器比人类更严苛。

  李麟解释称,系统的深度学习,要经过大量数据训练。比如三里屯优衣库试衣间视频刚出现时,图普技术团队就很紧张。他们第一时间找到各种变种版本,拿去测试机器,看能否拦截。因为尺寸、水印、滤镜、截取片段甚至视频二期加工,都会影响机器识别。

  在李麟看来,虽然人工智能替代了此前95%的人工审核工作,但它并不能完全替代人。如果出现模糊界定,客户还是要选择人工判定。在映客,有异议的视频会进入到复审阶段,裁定通常在5分钟内处理完。

  暗战

  漏查违规直播的最严重后果是什么?在最近一次座谈会上,奉佑生在被问到这个问题时,一脸严肃, “肯定会要关闭”。

  内容安全事关生死,否则映客不会一年烧掉8000万元。这是奉佑生为内容审核成本算过的一笔账,目前,映客审核员共计1000人。按当地平均工资3500元~4000元估算,一年纯人力成本至少5000万元,加上系统开发与维护等代孕费用,需要8000万元。

  ▲ 映客湖南总部。映客一年花在内容审核上的成本支出大约在8000万左右。

  花椒相关负责人虽未透露审核成本,但给出一组数据:审核员共600人,其中专职人员有150人,均在北京。按其网上招聘信息推断,审核员平均工资不低于5000元。照此计算,审核人力成本一年至少要900万元。

  至于审核技术开发,花椒背靠360人工智能研究院的技术支撑,如“变脸特效”功能,现今已经发展为利用人脸识别技术,协助色情内容监控。

  按《互联网直播代孕服务管理规定》要求,直播平台都要配备与代孕服务规模相适应的专业人员,健全信息审核、信息安全管理、值班巡查、应急处置、技术保障等制度。

  这等于在行业竞争层面,设置了一场暗战。大平台在人气、流量之外,还得拼技术、财力。

  《财经天下》周刊(ID:cjtxzk)记者了解到,包括映客、快手等移动视频平台,均在二三线城市设立审核基地。一是出于整体容灾机制的考量,如果一地电力或网络出现问题,审核数据会立刻分配到其他基地审核系统中;二是为了节省人力成本。

  “审核成本是省不了的。”图普科技CEO李明强说。此前有直播平台纵容违规,或睁一只眼闭一只眼,而今,再持放任态度,则有高风险。

  2014年,受快播案启发,李明强认定内容审核是刚需,带着团队做图像智能审核。他们的第一个客户是迅雷,双方开了一次会,便敲定合作。

  2015年下半年至2016年上半年,图普业务量猛增,带宽、存储、服务器均急需扩容,甚至机房电量也不够用,而这段时间正是直播和短视频爆发的临界点。图普自称占据了视频审核市场至少60%的份额,映客、花椒、美拍、秒拍、B站、今日头条等头部公司,均是其客户。

  裹挟在直播浪潮中,李明强代孕总结,近一年来,客户的需求复杂了很多,最早只是鉴黄,现在低俗、不雅、抽烟、赌博、躺床上、翻拍等均不被允许。 “原来一条线、一个点,现在要立体方案。” 而且,头部公司要求更严。

  图普此前的对外宣传噱头便是鉴黄。李明强直言,拿鉴黄推销产品,只是市场策略。其实公司专注的是用人工智能技术做图像识别。比如用人脸识别方法,过滤相关时政人物图片,降低政治风险。 “系统能做到,只要长得像,就去除掉。”

  早先参加人工智能论坛,李明强就发现,在演讲环节介绍公司团队、技术积累时,台下同行兴致索然,而谈到产品之一是鉴黄时,不少人会被吸引。结果,一场演讲下来,全场听众往往只记住了“鉴黄师”。一开始,李明强有点儿郁闷,后来领悟到互联网流行娱乐与自嘲精神,便顺势自封“首席鉴黄师”,并在发朋友圈时,将公司地点替换为“宇宙鉴黄中心”。

  在接触过的众多客户中,李明强感觉,映客直播对内容审核尤为重视。映客CTO侯广凌曾谈及,人工审核系统死机或故障时,他们会把直播全部掐断,不敢将没有审核过的视频赤裸裸地放出去,哪怕一分钟也不行。

  ▲内容安全,也会成为竞争对手之间发动“暗战”的武器。

  内容安全如此之重,以至于有竞争对手故意“搞事情”。

  花椒在去年11月曾遭遇一次人为制造的“审核危机”。相关负责人透露,当时有网友清早发微博,举报花椒女主播深夜涉黄,并贴出三张直播截图证据。

  截图中,一名女主播直播时裸露胸部,另一主播在镜头前仅穿白衬衣和内裤。该网友还@了360董事长周鸿祎以及公安部门。

  早上8点,该负责人在上班路上就接到同事的紧急通知,说网信办打来电话,有人匿名举报花椒涉嫌传播淫秽内容。即至少有3段涉黄视频和截图,在网信办工作人员上班前,已经被送抵该部门举报。

  该事件疑点很多。技术人员事后查证,三个涉黄账号都是当天注册,并于凌晨1点到3点间陆续开播,且直播只持续了一两分钟。在将要下播时,三名主播突然脱掉衣服。

  其实,审核员当时已监测到违规行为,并作出封停账号处理,但举报人明显有备而来,对直播进行了录屏和截图。

  “操作手法特别娴熟,一看就是了解监管流程,才会在下播时突然脱衣服。”这名负责人说。

  这场“审核危机”最终得以化解,原因是花椒技术人员很快便通过残留在互联网上的线索,查到幕后“黑手”是某家竞争公司,且掌握了确凿证据。有条线索显示,打赏用户和主播为同一IP。

  花椒未透露竞品公司名称,只说平台规模比花椒要小。相关证据已经提交给有关部门。

  “其实直播行业的竞争格局基本已定,战争不会在直播行业发生,而是在直播的延展区。”在此前的座谈会上,奉佑生做了一个“得罪人”的论断:2017年直播还会产生更大的马太效应。

  但不论战场在哪儿,“拆弹部队”仍是内容安全的守卫者。

  -End-

  点击关键词可查看历史文章

  封面报道 |陈天桥陈大年|互联网十年创业记|微博的二次崛起|VC寒潮|陌陌|OS'Car|解密网红|古永锵|贾跃亭|姚劲波|枭雄张旭豪|

  创新创业 |WeMedia|共享单车|网吧重生|丁香园李天天|短视频|快手|知识分子|科大讯飞|罗永浩|摩拜新车|分答|跨境电商|

  创意阶层 |曹保平|张译|导演李杨|《我在故宫修文物》 |青山周平|贾玲|田沁鑫|高晓攀|冯小刚|郑钧|黄渤|