互联网平台面对问题如何解决（垃圾信息困扰互联网）

网易易盾CTO朱浩齐

导语：布局内容安全产品的不只网易一家，腾讯、阿里均有推出内容安全类产品。

文 | 王雪琦

编辑 | 林文龙

2019年，在语音类垃圾信息中，占比最高的是什么？

答案是“娇喘”，占比高达33.12%。

数据来源于网易易盾，一款网易安全部在2016年上线商业化产品，面向各类互联网及互联网 客户提供内容安全服务。网易易盾产品总监饶晓艳表示，2019年，音频社交平台层出不穷，娇喘类垃圾信息的数量也迅速增加。

2019年中旬，国家网信办针对网络音频乱象启动专项整治行动，对吱呀、Soul、语玩等26款传播淫秽色情内容的音频平台，分别采取了约谈、下架、关停服务等阶梯处罚。在通报中，网信办明确指出，有的音频直播平台藏污纳垢，任由主播传播性暗示、“娇喘”等色情淫秽信息。

网易易盾CTO朱浩齐告诉字母榜记者，“娇喘”作为一类声音信息，一开始出现在一些欧美歌曲中，后来在中国出现，但逐渐演变成带有色情服务目的的垃圾信息。一些网络主播为了逃避视频监管，播放正常直播画面时，再配上娇喘类声音，以获取流量。在音频社交平台中，黑灰产也常常使用“娇喘”信息骚扰用户。

网易易盾对娇喘类信息的模型训练最早可追溯到2018年中旬。彼时，网信办约谈了多家网站，要求各平台大力清理涉色情低俗问题的ASMR（“自发性知觉经络反应”，主要产品为声音内容，用于放松、助眠）。

整改发布后，运营音视频产品的客户向网易易盾的运营人员表示，在音频直播中，平台无法时刻监听直播内容是否带有违规的ASMR，与此同时，平台也希望保留一些白噪音、铁轨声、雨声等优质ASMR内容。于是，易盾团队对ASMR领域中违规类型最为严重的“娇喘”做了单独的模型训练，以便识别。

娇喘只是网络语音类垃圾信息中的一个细分类型，除此之外，还有大量的文字、图片类垃圾信息。

中国信息通信研究院云大所业务主管石霖分享了一组数据，2019年11月，1个月间，各级网信部门受理了970多万件关于有害信息的处置举报，一些大型网站，一个月就可以受理300多万件有害信息的举报。

而垃圾信息规模逐渐扩大的背后，也是一门生意。

2019年底，Facebook宣布将出资1.3亿美元运营一个独立的内容监管理事会，该机构能够就社交网络用户内容是否应该在网站上显示做出最终决定，理事会的决定权限甚至超过马克·扎克伯格，因而又被称为“删帖法庭”。

最近几年，由于平台上极端主义言论和仇恨内容的传播，以及各类假新闻的泛滥，Facebook一直饱受批评。伴随着一些内容被删除，新的争议也随之产生，用户质疑Facebook决策过程不透明，缺乏公开的删帖标准，“删帖法庭”的成立正是为了解决此类争议。

这并不是Facebook在内容安全方面唯一的布局，Facebook已经招募了1.5万人从事有害内容的监管工作。

在内容监管审核方面，中国大型互联网公司也拥有不输于Facebook的团队规模。早在2018年5月，今日头条媒体合作总监就曾提到，当时字节跳动有2.3万名员工，其中有1万人负责内容审核。

但是，对于中型公司和创业公司来说，庞大的审核员规模也意味着一笔巨额支出，产品的经济模型还没跑通就建立审核团队显然不现实。与此同时，监管部门对于内容的监管要求也越来越细化，游走在灰色地带的风险越来越高。网易易盾就曾半夜接到一个社交类产品客户的问询，后者因为内容安全问题直接被停止了服务，想要立刻接入内容安全产品，尽快整改，以减少经济损失。

第三方内容审核的生意应运而生。

从2018年底到2019年底，人民网股价从7元左右一路涨至20元上下，驱动股价上涨的业务正是内容审核。人民网2018年度财报指出，人民网推出第三方内容审核平台后，2018年内容审核业务收入同比增幅达166%。

2019年以来，短视频风口的持续繁荣和直播电商风口的出现，也为内容安全产品带来了新的市场空间。网易易盾产品总监饶晓艳透露，2019年，易盾接到了非常多要求做直播音视频和互动音视频审核的客户需求。通过易盾的内容安全产品，先机器检测再人工审核，可以把需要人工审核的内容比例控制在10%左右，成本则降低70%-80%。

据了解，目前接入易盾的互联网产品除了UGC内容量较大的音视频平台和社交产品，如秒拍、探探、B站等，还有金融类产品。朱浩齐表示，一些互联网 的产品，比如开始加入社区和内容模块的各类银行、券商APP，理财、股票推荐的信息增多后，内容安全也变得格外重要。这类产品一旦出现问题，相关管理层的考核和晋升也会受到影响。据网易易盾提供的数据，2019年，易盾产品的营收同比增长在100%以上。

布局内容安全产品的不只网易一家，腾讯、阿里均有推出内容安全类产品。腾讯安全天御的内容风控产品通过腾讯云和微信小程序服务各类开发者。阿里云旗下云盾安全产品则依托阿里云、淘宝、支付宝等平台的管控经验，为企业用户提供内容安全解决方案。一些原本从事图像、文本识别的公司，也积极跨界到内容安全领域。

饶晓艳表示，网易易盾做内容安全的优势有两方面，一是多年以来在邮箱反垃圾，社区、新闻类产品积累的数据，有助于模型的训练和优化。除此之外，由于起步较早，易盾团队已经针对B端客户建立了完整的服务体系，“我们能提供7*24小时的技术支持，这一点很多大公司都还没有”，饶晓艳说。

不过，腾讯、阿里都已大举投入到对B端市场的争夺，而内容安全的相关需求正在成为许多企业级用户的刚需。这些巨头们不仅各自拥有完整的生态体系，也有针对不同类型内容的数据积淀，角逐内容安全领域各有优势，在腾讯内容安全产品的介绍页面，专门强调了腾讯在社交领域的样本优势。阿里的内容安全产品则放在了阿里云下面，后者在云服务方面拥有明显的市场优势。

随着内容安全成为一门好生意，未来的竞争会更加激烈。

,