网易cc直播成立未成年人保护中心,扎牢守护网
随着直播行业的发展,直播内容的日益多样化,网络直播这一传播形态逐渐成为社会主流,各行各业各个年龄段的网民,随时可以通过直播发布和获取信息。如何引导青少年群体正确观看直播和使用直播平台,已成为社会各界关注的话题。
升级青少年模式管理及内容保护,让网络生活更加规范;使用大数据模型,加强对未成年人身份认证的分析识别;专项成立未成年人内容审核团队,切实防止危害信息入侵;创新打造多元化直播内容,通过“直播+公益”拓宽社会服务边界……近年来,CC直播在未成年人网络保护方面推出了诸多创新举措。
举措1:
青少年模式管理及内容保护升级
据介绍,网易CC直播自2005年起就开始构建成套的未成年人保护体系,在此基础上,于2019年升级推出青少年模式,并成立了专门的未成年人守护团队,进一步强化主动服务的解决思路。
在青少年模式下,用户使用CC直播将无法开启直播和浏览游戏、娱乐等页面,CC直播官方精选了一批适合未成年人观看的优质内容,同时用户无法进行充值打赏、购买兑换、弹幕评论、视频直播等互动性操作。开通、关闭青少年模式均需输入提前设置的独立密码,协助家长完成对青少年模式的主动设置。
值得关注的是,网易还创新搭建了“网易家长关爱平台”, 平台能够协助家长了解孩子的线上情况及消费信息,远程管理孩子的线上娱乐时间和线上娱乐消费,最终达成企业、家长齐监督,为孩子健康成长保驾护航。
不仅如此,在家长允许孩子在青少年模式下观看的基础上,CC直播仍设置了严格的防沉迷系统:青少年每日累计使用40分钟将弹出提示框提醒,并强制下线,只有监护人输入密码才能再度开启;同时,每日的22时到次日6时,青少年模式下的用户直接无法使用CC直播,需要家长输入监护密码才能使用。
此外,为积极推动网络直播防沉迷系统升级、构筑未成年人网络安全屏障等多项举措,将关爱和守护落到实处,网易于今年5月特别成立了未成年人保护中心,中心下设用户与政策研究、防沉迷产品开发、未成年人关爱、网络环境治理、网络安全教育等工作组,系统构建全新的未成年人保护工作机制,织就完整的青少年保护网。该中心的成立意味着网易将娱乐、直播等未成年人保护工作的重视程度和投入成本提升到了前所未有的高度,将在行业内起到正向的示范性作用。
举措2:
大数据模型化识别未成年人用户
近年来,CC直播针对有害信息的防治能力不断加强。结合平台领先的技术研发能力与多年来处理未成年保护相关问题的丰富经验,目前,平台上线了基于深度学习的人工智能识别未成年保护系统。
针对未成年人的的使用行为进行多方面的大数据分析,使用深度学习框架搭建了一套神经网络模型,用于判断玩家特征是否属于一个未成年用户。
最后,基于不理智消费用户的相关行为特征,结合正常用户的行为习惯进行横向对比,搭建了融合模型,用于提前预测未成年用户的不理性消费,并及时的进行干预与拦截,有效的保障了未成年人在参与线上娱乐时的适度消费并进行合理管控。
举措3:
专项成立未成年人内容审核团队
根据未成年人用户和平台内容的特点,CC直播也对内容审核体系进行针对性升级。除了优化审核模型外,考虑到未成年人相关事宜的特殊性和重要性,CC直播还将从内部抽调审核骨干,并从外界招聘有经验的人员,组建未成年人专项审核组。
无论是从产品本身,还是用户生成的自定义内容,平台都严格按照国家有关规定进行审查,坚决杜绝涉黄涉赌等非法内容。
为保护未成年人免受不良信息侵害,维护CC直播整体环境的健康,平台对恶性针对未成年人下黑手、言词污秽、频繁骚扰的不法分子开展重拳打击,除了封禁处置以外,针对情节严重的还专门识别出其真实身份并提交公安部门处理,形成有效的震慑作用。
另外,CC直播采取“专业人工风控+AI智能+强大算力”多层防护为基础的安全技术,定制未成年人保护的专属审核规则和算法模型,并提供深度内容人工审核能力输出。
此外,产品内部上线“不利于未成年人健康”的内容举报入口,举报内容将直接送至未成年人审核专项组,由专人优先处理。而对于侵害未成年人权益的行为,例如通过评论留言等方式骚扰未成年人,一旦发现核实,平台将进行严肃处理,包括直接封禁账号甚至封禁设备。
举措4:
直播+公益,拓宽社会服务边界
在不断为用户推出优质直播内容的同时,CC直播也致力于在不同领域创造更多社会价值,目前平台正能量直播内容已覆盖抗疫宣传、全民反诈、公益课堂、普法教育、助学扶贫等十多个领域。其中,CC直播通过与广州市公安局指挥中心、政治部、禁毒支队、刑警支队、交警支队和治安支队等进行合作,先后在平台《正能量》频道开通了30多个警务宣传直播间,上传并轮播了反诈、禁毒、交通安全、防疫、铁路安全和扫黑除恶等内容视频,涵盖动画片、宣传片、微电影、主题MV等,累计观看人数超过1000万。
在开展青少年网络安全法治教育,落实青少年网络保护和网络犯罪预防方面, CC直播也有积极探索。如2020年8月,广州市人民检察院与网易公司共建“检·爱同行青少年网络安全法治教育基地”,将市检察院“小Law号”普法品牌的专业优势与网易公司丰富的网络技术、网络文化等资源(如网游开发、电子竞技、大数据运用、VR技术、网络直播等专业设施场所、文化展厅)相结合,综合运用知识讲授、体验教学、实践模拟等多种方式,共同探索未成年人法治教育新模式。
截至目前,“小Law号CC课堂”已经陆续上线12期直播课程,包括《少年"网"事知多少》《向"网"生活的正确打开方式》《拒绝校园欺凌保护少年的你(上、下)》等,为广大未成年人送上优质的法治教育精品课程,累计网络收看量超300万;“小Law号CC剧场”目前已经上线4期,为未成年人打造更多优质的“未检产品”和优质教育精品内容。
图说:“小Law号CC课堂”已陆续上线12期直播课程。
多重“防火墙” 守护青少年
从建章立制到社会服务,从内容审核到环境监管,一项项举措都是网易CC直播平台探索守护未成年人的全新方式。为保护未成年人免受不良信息侵害,网易CC直播率先构建了一套体系完备的“绿色防火墙”,共同保护和引导青少年正确观看和使用直播平台,防止不法分子侵害青少年成长和权益。
据介绍,一直以来,CC直播十分重视直播内容的审核以及直播环境的监管。无论是从产品本身,还是用户生成的自定义内容,都严格按照国家有关规定进行审查。为了防范有害信息,直播平台采取“AI图像智能识别+高效审核模式+人工实时审核”的综合管理模式,并且不断优化自主研发的色情识别模型,有效地打击了对青少年的侵害行为。
此外,CC直播坚持开展法务、安全技术、公共事务等领域员工关于未成年人保护的相关培训及业务实践,致力打造“绿色防火墙”,引导青少年群体正确观看直播和使用直播平台。
未来,网易CC直播将进一步推进社会各界参与未成年人保护体系的共建,与广大家长共同探索守护未成年人的全新方式,从而更好地引导未成年人合理使用直播平台,守护孩子健康成长。