音视频直播平台乱象侵害未成年人 专家建议加大内容风险审核力度

　　中国青年报客户端讯（张雨亭 张稆方 中青报·中青网记者 宁迪）直播间低俗表演、“诱导打赏”、封禁主播借壳复出······近日，在2020音视频直播行业绿色内容生态共建峰会上，南都网络内容生态治理研究中心发布了《音视频直播平台内容痛点及治理创新报告》（以下简称《报告》）。

　　报告指出，音视频直播平台目前仍存在不规范现象，平台在内容监管上要思考治理创新。

　　自2019年12月起，南都网络内容生态治理研究中心（以下简称“研究中心”）对音视频直播行业的100余家平台展开为期一年的持续监测，剖析了行业在主播管理、内容审核、直播打赏、未成年人、内容建设五个方面存在的管理瓶颈以及行业治理现状。

　　经过一年多时间的监测巡查，研究中心发现主播常见违规行为可归集为四种类型：第一种是沉疴已久的直播间低俗表演、传递不良价值观等行为；第二种是主播及其经纪代理的“诱导打赏”行为；第三种是利用直播间等公开渠道售卖违规资源或者色情服务；第四种是已遭平台甚至行业封禁主播通过换马甲、换平台借壳复出，比如，注册小号、采用“变声器”以身犯险。

　　

　　在内容审核方面，研究中心发现目前音视频直播审核能力参差不齐、中小平台审核力量薄弱的问题依然存在，最鲜明的表现是对举报处理的响应迟缓。

　　今年7月，研究中心曾对13家直播平台的举报便捷度和反馈效率进行实测，在举报部分直播间低俗内容后，12小时内有8家平台作出回应，38%的平台没有回音，部分平台虽通过私信告知用户已接收到举报，但48小时内均未给出任何后续进展消息。

　　《报告》指出，作为一种新型消费服务形态，直播打赏的创新与漏洞并存。

　　研究中心曾针对直播打赏展开调查，发现存在打赏金额上限普遍设定过高、直播间内打赏过于频繁、利用“抽奖”“竞猜”“返利”等方式涉嫌组织网络赌博等现象。比如，通过100家平台的礼物打赏额度进行梳理，发现四成平台设置单次打赏金额最高可超百万元。

　　

　　未成年人打赏难退的纠纷，则暴露了平台在未成年人识别、退款机制不健全等诸多方面的短板。南都网络内容生态治理研究中心曾梳理25家平台用户协议中和未成年人相关的条款，发现仅有不足四成平台对未成年人的充值消费行为作出提示，且多为“免责条款”。

　　在未成年人保护方面，目前，未成年人浏览区域推荐低俗内容、适合未成年人浏览内容供给不足等现象在行业中比较常见。

　　今年9月，南都网络内容生态治理研究中心在调查中仍发现，有的视频网站中教育频道存在与教育无关的短视频，其中包含标题封面性暗示、传播伪成功学、情感PUA、输出低俗庸俗价值观等内容，目前，相关资源现已下架。

　　在对全国15个省份近2000名未成年人家长进行的问卷调查中发现，仅三成受访家长表示会开启青少年模式管理孩子浏览视频、直播的行为。

　　音视频直播平台如何实现内容监管的治理创新？《报告》发现，目前部分平台已通过建立信用评价体系、AI技术赋能审核、技术识别未成年人、优化青少年模式，以及算法干预内容导向等措施加强治理。

　　在主播管理方面，较多的是建立信用管理体系和严格的评分机制，如酷狗直播等平台采取了主播管理分级分类措施，让主播行为直接与本人信用分关联，并与公会信誉值挂钩，一旦主播违规，则公会也会被连带影响信誉值。

　　在审核方面，目前多数平台都采取了人机审核相结合的模式，比如自主研发AI、声纹等智能识别算法模型，用户内容一经上传，首先经过图片识别、语音识别等技术过滤，再由人工团队进行复核。

　　关于未成年人消费、打赏难退等问题，《报告》建议，有效识别未成年人身份，实现事前阻断是防范关键。目前，多数平台已建立起未成年人身份识别系统，通过人脸识别、用户画像、行为数据分析等多种技术手段来定位未成年用户，实施拦截。未成年人内容供给方面，多数平台通过对青少年模式的优化，实现内容的多元化、个性化输送。

　　数美科技运用人工智能技术进行风险识别，该公司创始人、CEO唐会军指出，当前在内容审核上人工成本高，如果平台规模大，投入成本是非常高昂的，而在语音等特殊场景下，对内容的风险识别有很大的技术难度，“很多人在一起说话，非常嘈杂，再放些背景音乐，识别起来就更有一定挑战。”

　　在中国信息通信研究院互联网法律研究中心研究员石月看来，平台需要在治理中发挥关键作用，加强平台文字、图片等内容监控技术，加大语音审核巡查的研发，“可能也需要政府出台一些鼓励性政策，来鼓励企业在这方面进行一些研发。”石月认为，平台还要加强提升正面、高质量内容的输出。