抖音短视频

抖音直播的内容审核流程与机制

浏览次数:2

抖音直播的内容审核流程与机制


中国互联网络信息中心发布的数据显示,截至2018年12月底,网络直播用户规模已高达3.96亿。这意味着,每4个中国人中就有1个是直播产品的用户。


直播行业的发展十分迅速,新业态、新形势和新发展层出不穷。这意味着,除制定严格的法律规章外,更呼唤网络直播平台本身的平台自律。平台方必须不断完善自律机制,将社会监督与内部自律相结合。


5月27日,今日头条、抖音短视频、西瓜视频、火山小视频共同举办的首期LIVE学院主播培训班落地开课,首站落地在直播行业发达的东北地区——黑龙江省牡丹江市。在这次活动上,字节跳动平台责任研究中心发布了《平台直播自律白皮书》,首次对今日头条、抖音短视频、西瓜视频、火山小视频等产品的审核机制和平台自律工作进行了系统解密。




直播内容审核的流程与机制

一、主播注册与开播的审查机制

直播的内容风险,主要来自网络主播的不良言行。在主播注册、开播环节加强主播资质的认定和审核、主播资料的核查与留底,让审核机制和平台自律从直播的源头环节发挥作用,才能防患于未然。
1、主播的实名注册
《互联网直播服务管理规定》第十二条规定:互联网直播服务提供者应当按照“后台实名、前台自愿”的原则,对互联网直播用户进行基于移动电话号码等方式的真实身份信息认证。今日头条、抖音短视频、西瓜视频和火山小视频的直播平台实行严格的实名开播制度。成为主播前,必须登记包括但不限于真实姓名、联系电话、身份证号码等相关详细,并通过芝麻信用进行人脸认证,以保证“人证一致、有案可查、有据可依”。

2、开播的资质判定


平台自律,除严格规定“具备什么资质可以开播”之外,也对“什么资质的用户完全无法开播”制定了相应标准。在今日头条、抖音短视频、西瓜视频和火山小视频的直播平台上,以下用户不允许进行主播注册和开播:

1、不满十八岁的未成年人

2、港澳台、外籍人士(需向监管部门报备同意)

3、曾被列入身份证黑名单的用户


注:

芝麻实名认证只支持中国大陆身份证。身份证黑名单用户均为严重违规用户,拉黑身份证时,对其身份证认证过的历史账号,也采取永久封禁账号处理。



二、直播内容的审核机制


直播内容,是直播行业风险的主要载体,也是审核机制和平台自律发挥其作用的重中之重。直播平台上的所有内容都需要经过系统审核,审核通过后才会被推荐给用户。


今日头条、抖音短视频、西瓜视频和火山小视频的直播审核系统采用人工审核和机器模型拦截相结合的方式。


1、内容审核范围


营造清朗的网络环境,应实现对直播平台内所有内容的无死角、全覆盖式的审核,压实平台的主体责任。在今日头条、抖音短视频、西瓜视频和火山小视频的直播审核系统中,直播内容审核不仅指主播在直播间的行为,还包括了主播及用户在直播平台上的所有个人资料、直播、发言等。包括但不限于:
一、主播注册与


2、内容审核标准
根据法律法规和监管部门要求,今日头条、抖音短视频、西瓜视频和火山小视频制定了一套严格的审核标准《直播间行为规范》以及对应的违惩制度,打击直播间的违规行为(具体内容详见第二章)。这套标准不仅规定了主播行为的基本准则,也列出了每一个具体的违规行为,将监管部门的要求落实到细节中、落实到实处去。
以色情低俗为例,在监管部门“禁止一切色情、大尺度、带有性暗示直播内容”的要求和方针下,今日头条、抖音短视频、西瓜视频和火山小视频的直播审核系统列出了现已知的所有带有性暗示的行为,如色情偷拍、展示动物性行为、两性话题等。针对每一个违规行为,直播平台会根据严重程度给予中断到永久封禁的不同处罚。
此外,社会公序良俗也在平台制定标准的考量范围内。哗众取宠、恶搞、拜金、抽烟喝酒、迷信封建、侮辱女性等内容,都被直播平台严厉禁止。
面对层出不穷,花样百出的违规行为,审核标准会不断进行调整和更新。每周,直播平台的运营人员会根据一线审核人员反馈的案例和运营需求更新标准。如有突发的舆情和指令,标准会做到实时调整。
3、内容审核流程

抵制和防范网络直播中的不良内容,如同加强版的捕鱼,不仅要捕到鱼,更要求不能有漏网之鱼。直播平台的内容审核标准是渔网的力度,决定了是否能捕到鱼;直播平台的内容审核流程则是渔网网格的密度,决定了是否会有漏网之鱼。


对于直播间内随时变化的直播内容,实时监测一直是网络直播平台的一大难题。在设计直播审核流程时,今日头条、抖音短视频、西瓜视频和火山小视频采用了“机器 +人工”的方式。


今日头条、抖音短视频、西瓜视频和火山小视频将人工智能技术广泛应用在了直播审核工作中,通过神经网络视频理解模型、语音识别、智能关键词等技术,“机器”帮助审核人员第一时间发现和锁定违规直播内容,保证了直播内容审查的准确性和全面性。


对于机器发现的疑似违规直播间,审核人员会进行逐个细致审核。而针对机器模型认定不违规的直播画面,直播平台也有“机器兜底策略”:由人工复审团队抽检机器放出的直播间是否违规。


直播平台正在不断升级审核技术,优化审核策略并收到了良好的效果。经长期治理,2019 年的直播间违规率已同比下降了 58%



三、用户举报监督的处理机制


平台自律,不仅指平台自身要严格遵守相关法规制度,落实企业主体责任、不断夯实自律基础。平台自身积极接受社会监督,畅通举报渠道,健全受理流程,提升监督效果,将社会监督与内部自律相结合,形成互相监督、互相促进、共同进步的良好风尚,这也是平台自律的应有之意。


今日头条、抖音短视频、西瓜视频和火山小视频的直播平台还提供了多种社会投诉举报渠道,主动接受用户、社会公众的监督。今日头条、抖音短视频、西瓜视频和火山小视频在APP、官网页面都设置了便捷的投诉举报入口,会有专门的运营人员处理投诉举报。



制定严格的内容审核标准和惩处制度


一、严格禁止违法违规行为, 并不断细化、更新行为规范


今日头条、抖音短视频、西瓜视频和火山小视频严禁各类违法违规和违反社会公序良俗的直播行为。同时,依据实际情况,对各类违法违规行为不断细化标准,并对新发现的各类违法违规行为不断进行识别并更新直播平台行为规范。


1、严格禁止各类违法违规行为


今日头条、抖音短视频、西瓜视频和火山小视频严禁各类违法违规和违反社会公序良俗的直播行为在平台上出现。经过长期以来的审核和运营实践,各类违法违规和违反社会公序良俗的直播行为主要集中在几大方面,下述内容均为平台严格予以封禁的内容:



2、不断细化各类直播行为的具体规范
从实践中看,直播平台所面临的、需要审核的内容数量较多且种类冗杂。为了营造更加清朗的网络空间,今日头条、抖音短视频、西瓜视频和火山小视频的直播审核不断细化各类直播行为的具体规范。
以主播的着装为例,主播在直播时严禁裸露身体,穿着过于低俗暴露的服装或其他引人不适的服装。整体着装应落落大方,整洁干净。今日头条、抖音短视频、西瓜视频和火山小视频的直播审核对着装进行了具体细化,以供主播参照:



注:男性严禁裸露上身,游泳馆、健身房等特殊场合除外;女性严禁只穿丝袜进行直播,舞蹈教室等特殊场合除外。



3、根据监管要求,随时更新各类直播行为规范


直播行业的发展十分迅速,新业态、新形势和新发展如雨后春笋,当然,新问题也随之出现。这给直播内容的审核带来了新的考验。在具体实践和平台自律的过程中,今日头条、抖音短视频、西瓜视频和火山小视频的直播审核会从监管要求、审核案例和用户反馈中,不断调整直播审核策略,随时更新各类直播行为规范和禁播内容。如:
ASMR (Autonomous Sensory Meridian Response) 中文名“自发性知觉经络反应”,是指通过对视觉、听觉、触觉、嗅觉或者感知上的刺激而使人在颅内、头皮、背部或身体其他范围内产生一种独特的、令人愉悦的刺激感。近年 ASMR 的直播有色情化倾向,主播会以强烈的性暗示、舔耳、吮吸、喘息等方式博取观众的注意,是直播平台打击的重点。该倾向出现后,今日头条、抖音短视频、西瓜视频和火山小视频中 ASMR相关直播间已及时关闭和封禁。
换脸技术指的是深度伪造技术、人脸识别定位技术和生物识别技术。利用换脸技术“深度伪造”他人的肖像、声音,不仅侵害自然人的人格权益,严重的还可能造成恶劣的社会影响,危害国家安全和社会公共利益。该类内容目前也已被平台封禁。
“史莱姆”,取其英文“Slime”的谐音,意指粘液、黏土、软泥。水晶泥“史莱姆”中的原材料含有有毒物质硼砂。如果人体大量接触或误食的话,会造成损伤甚至致命。在全球多个国家被禁用为食品添加物。英国曼彻斯特曾有未成年人因为玩水晶泥出现皮肤红肿、严重脱皮的症状。


近年来有许多主播打着“大胃王”的旗号,在各大平台上直播吃东西,饭量惊人。有些主播在吃东西时会有很有不雅行为,还有的主播已经体态肥胖,但仍不顾一切地进行吃播,加剧身体负担,给社会带来了不良的示范效应。目前内容不适宜播出的吃播内容(如暴饮暴食、饮食过度油腻)已被四大直播平台禁止。


近年来,“直播 销售”俨然成为一种新型商品销售模式。越来越多的商家通过直播展示商品,吸引消费者。然而,直播电商存在很多乱象,如虚假宣传、售卖违禁用品、通过线上宣传为线下非法交易导流。对此,今日头条、抖音、西瓜视频和火山小视频出台了一系列电商直播规则,严禁虚假广告等违规行为,同时制作了详细的禁售商品清单,如珠宝玉石、药品、三无产品等。


二、制定直播违规分级处罚措施和主播安全分级制


1、直播违规分级处罚措施

今日头条、抖音短视频、西瓜视频和火山小视频严禁各类违法违规和违反社会公序良俗的直播行为。对于违规内容,直播平台将始终采取高压措施。若主播在直播过程中违反以上管理规定,将会根据违规情节严重程度进行分级处罚。情节严重、屡教不改者将被永久封号。

20201023144820


2、直播安全分级制度


于此同时,今日头条、抖音短视频、西瓜视频和火山小视频的直播平台不仅建立了一套针对直播间行为的审核机制,也在长期的数据积累中,形成了一套针对账号质量的评级方法。账号的评定结果将直接作用于平台的内容推荐策略,目的在于提高优质账号的曝光率,打压、抵制低质账号,促进形成更良性的内容生态。


安全评级不仅基于主播违规次数这一个维度,还包括了用户喜好程度、直播间画风、直播话题敏感度、主播类型、开播时长、用户举报等。平台会为每个主播动态计算出直播安全程度,并进一步分级。在向用户推荐时,平台将只推荐安全级别高,内容质量优的主播。


20201023144836



致力于构建积极向上的直播内容生态

一、产品化的观众引导与保护

除主播外,观众也是直播平台内容生态的重要参与者和建设者。对此,今日头条、抖音短视频、西瓜视频和火山小视频直播平台加强了对用户行为的引导,并采取多种方法对特殊观众群体提供了保护,如未成年人。


1、直播间观众行为指南


观众进入直播间后,直播间左下角会弹出系统广播,提醒观众在跟主播互动时遵守相应规则。


2、未成年用户保护机制


未成年人是特殊的网民群体。未成年人的成长与其所处的网络环境息息相关,守护其健康成长是社会各界不可推卸的责任。对此,今日头条、抖音短视频、西瓜视频和火山小视频多管齐下,正努力为青少年打造一个绿色的网络视听空间。


【青少年模式】


抖音短视频、西瓜视频和火山小视频针对未成年用户推出了“青少年模式”。开启青少年模式后,用户无法开播、无法看直播、无法充值、无法打赏、无法提现。用户每日首次登录时,可根据弹窗提示选择开启青少年模式。


【青少年模式的四大功能】

禁止直播功能,开启后用户不能观看直播


以抖音短视频为例,抖音青少年模式开启前,用户可通过“Live”按钮进入直播广场。开启后Live 直播入口和直播大厅被隐藏,画面显示目前处于青少年模式。短视频加权推送正向内容,如英语教学、自然科普。
推送更多绿色健康的短视频内容
抖音短视频、火山小视频和西瓜视频还在不断扩充青少年模式下的内容丰富度及数量级,在精选的青少年课程知识、科普类等教育益智性方向基础上,增加了生活实用技能、正向休闲类等寓教于乐的精品内容。
平台会对知识科普类、传统文化类视频进行加权推荐,鼓励更多适合未成年人的优质内容涌现;目前推送的短视频内容主要涵盖书法绘画教学、亲子教育、人文科普、传统文化、手工制作、自然科普等多个分类。


时间锁功能


用户进入青少年模式后,每日使用时长将限定为累计 40-60 分钟,同时,晚上 22 时至次日 6时期间,青少年模式用户将被禁止使用抖音短视频、西瓜和火山小视频。


关闭钱包功能


青少年模式开启后,用户无法进行打赏、充值、提现等操作,防止青少年擅自动用父母资金进行消费;


【未成年人用户自动识别】


如果用户错过了“青少年模式”的弹窗提醒或者没有选择“青少年模式”时,直播平台也会通过多种方法识别未成年用户,自动开启青少年模式。目前,这些方法还在试实行中。


基于用户行为进行识别


系统可将未成年人喜爱的视频内容打上标签,针对此类内容感兴趣的人群会被视觉模型圈定成为「高度疑似未成年人」。目前,抖音短视频可做到分出 300 多种不同类型的视频内容 ,其中包含「黏土」「动画」等未成年人喜爱的内容。在此基础上再结合用户在 App 内填写的年龄信息以及关注人的年龄信息,抖音可做到 90% 以上的识别精准度。


基于用户创作的视频进行识别


用户上传视频后会进行密集的图片抽取,对每一帧图像都进行人脸识别,并对所有人脸识别的结果利用「年龄模型」自动判定。多次被判定为 16 岁及以下用户,则标记此用户为大概率未成年用户。


【未成年人打赏处理机制】


近年来,未成年人打赏的负面新闻频发。很多未成年人在无家长看护的情况下,擅自动用父母账户资金在直播平台充值,打赏主播,造成了不良的社会影响。今日头条、抖音短视频、西瓜视频和火山小视频一贯不提倡未成年人用户充值,在充值页面上也有提醒。


20201023144850


如果未成年用户擅自充值,往往是用父母的账号进行打赏,支付款项也是用父母的银行账号。按照“谁主张、谁举证”的原则,需要提供客观、充足的证据来证实,要证明这些实际操作人是未成年人实施的而非其父母,在司法实践中,属于难点。但目前在实操过程中,今日头条、抖音短视频、火山小视频和西瓜视频一直设有未成年误充值退款机制。


涉及到未成年人消费行为,只要用户提供一定资料,直播平台核实后都会无条件退还平台所得收入,并协助联系被打赏主播退回收入。2018 年 月 -2019 年 月,收到未成年消费投诉共 360 例,其中 102 例已进行核实并完成退款。


抖音直播内容审核流程和机制目前已十分健全,一有违规举措能立马响应,大家切勿触碰平台的红线。



抖音短视频
cache
Processed in 0.001635 Second.