网暴带给我们的教训（互联网平台网暴治理）

21世纪经济报道见习记者 钟雨欣 北京报道

编者按

1996年，美国麻省理工学院教授尼葛洛庞帝在《数字化生存》一书中预言，“数字不再只和计算有关，它决定我们的生存。”

二十六年后的今天，数字时代给人们的生活方式带来巨大变革，媒介作为人的延伸，打破了时空限制，人与人之间的关系变得“比特化”，实现前所未有的联结。暴力的形式也从线下蔓延到网络空间，幻化成屏幕上的文字、符号、图片……以更隐蔽的方式给当事人造成伤害，甚至导致“数字性死亡”“社会性死亡”。

自2022年6月起，南财合规科技研究院将推出反网暴系列报道，以期从不同维度、不同面向对网暴的衍生路径、群体反应、治理面向进行拆解分析，以媒体力量推进网暴治理。

应对网络暴力，互联网平台是第一道防线。在事前阶段，“用户自主设置 平台介入监测”模式能够一定程度上过滤不友善信息，而在事中和事后阶段，平台如何为当事人提供应急保护、如何协助当事人快速投诉取证则尤为重要。

互联网平台是应对网络暴力的第一道防线。在互联网平台网暴治理（上）篇中，我们聚焦网暴的事前阶段，“用户自主设置 平台介入监测”模式能够在网暴酝酿初期一定程度地过滤不友善信息。

数字时代的网络暴力发生迅速、形式多样，互联网平台的网暴信息监测机制在持续健全，目前仍有大量灰色的、难以判定的不良信息有可能成为“漏网之鱼”。当网暴事件热度越来越高，进入事中和事后阶段，平台如何为当事人提供应急保护、快速切断网暴传播链路尤为重要。

此外，增加网暴分类快速投诉入口，提供“一键取证”功能，能够进一步提高平台网暴治理效率，协助当事人更便捷地维护自身合法权益。

一键防护：快刀斩“网暴”

在网暴事中阶段，当不友善内容扑面而来，平台如何帮助当事人快速阻断网暴信息？

新浪微博上线“评论防火墙”和“一键防护”功能，为用户提供应急保护。“一键防护”功能开启后，用户7天内将不接收未关注人的私信、评论及转发。6月22日，新浪微博发布公告称将于近期升级“一键防护”功能。在该功能开启期间，评论区将隐藏用户收到的历史未关注人评论。为避免当事人被部分用户通过主动搜索和关注等行为进行骚扰，在“一键防护”功能下，当事人的账号和发布内容将无法在“发现”位置被搜索到，并且不再新增粉丝。此外，为防止用户通过发微博@ 等行为骚扰当事人，在“一键防护”开启期间，当事人将不接收陌生人通知。

据微博相关负责人介绍，在平台受理的举报和投诉中，谩骂攻击类信息占比约为27%。“一键防护”等机制上线后，平台收到的网暴相关举报投诉数量有一定程度减少。

严格的内容过滤机制有时会产生误伤正常评论的情况，如何把握其中的尺度？微博相关负责人表示，微博不友善言论治理主要依靠机器模型策略和关键词策略，通过对相应模型配置限制展示范围、拦截并提醒等策略，降低不友善言论曝光。平台会定期召回相关策略处置数据并进行标记、复核，对准确率降低的模型进行优化迭代，最大程度降低正常评论被误伤的情况。

今年3月，豆瓣上线 “应急防护模式 ”，用户开启该模式后，陌生人无法查看其主页的内容，也无法直接与其进行私信交流；用户发布的动态、日记等内容下含有不友善关键词的评论将会被隐藏。防护时间有3天、7天和14天三种选择，到期后用户可再次开启，无次数限制。

（豆瓣“应急防护模式”）

“应急防护模式”主要面向在短期内遭遇网暴、隐私泄露的用户，从隔离窥视、预防骚扰、控制传播三个方向入手，保护受害者的个人历史和隐私，减少直接的言论攻击，降低二次传播的几率，以期有效地切断网暴者对受害者信息收集和信息轰炸的链路。

“区别于常态的隐私保护功能，它的显著特点是应急、高强度保护、短期，在一定程度上会牺牲用户自由交流分享的权益。”豆瓣相关负责人在采访中表示，“密集的网暴言论消散后，如用户仍有正常使用社区的需求，可以通过黑名单、个人主页隐私保护等功能进行防护。”

据了解，在常态防护方面，豆瓣调整了个人主页隐私设置，对陌生帐号仅展示主页半年内的10条动态，且豆列、日记、相册均不可见。同时完善黑名单功能，由单向屏蔽调整为双向个人主页不可见、双向互动屏蔽。

举报投诉：把网暴关进小黑屋

机器模型监测能力有限，针对网络暴力新增快速投诉举报入口，在事中阶段能够提高平台处置效率，动态掌握网暴走向。

微博近期升级未关注人私信投诉功能，设置快速投诉入口，增加不友善、网暴投诉分类。此类投诉判定有效后，将扣除发送方信用分。发送方信用分低于一定分数或被多人投诉后，限制其私信功能。此外还上线了“投诉一键举证”功能，支持文本消息、图片消息、语音消息、视频消息等多种消息类型，用户可通过该功能批量多选 “聊天证据” 进行投诉，提高投诉取证速度。

据微博相关负责人介绍，目前通过关键词、模型等机器手段日均可识别屏蔽不友善言论数十万条，通过受理用户投诉举报等人工手段日均可处置人身攻击内容1万余条。网络暴力专项治理行动实施以来，微博已累计清理不友善内容数百万条，处置账号2万余个，处置不友善昵称10万余个。

豆瓣、知乎、抖音、快手、B站、小红书、百度贴吧等平台也在近期增加了网络暴力相关投诉入口，给予用户更多的投诉渠道。

百度贴吧方面表示，对于多次发表不友善内容的用户，平台识别后会关闭其私信功能。用户收到网暴信息时，可以通过一键举报功能快速、批量地向平台提交相关证据。

数据显示，抖音每天产生8亿条评论，其中，被投诉、举报并最终处理的不当评论中，“谩骂，人身攻击”占比32.79%。据抖音相关负责人介绍，2022年1月至6月，抖音共拦截不当信息9218万条，封禁及禁言账号11348个，累计处置网暴事件超100起。对于可能发出的网暴内容，每天发出至少25万次风险提示。

2022年5月，豆瓣受理网络侵权投诉556件，有效投诉328件。其中，侵犯个人名誉权、荣誉权等权益侵权投诉占56.1 %，侵犯机构名誉权、荣誉权等权益侵权投诉占24.1 %，泄露他人隐私投诉占 16.8 %。

百度贴吧方面表示，自网暴专项开启起来，共清理网暴内容约150万，处置网暴账号15000余个。网暴投诉举报率由13.27%降低至9.28%。

未来已来：多元协同治理

网暴进入事后阶段，大量不友善内容已对当事人形成一定伤害，甚至造成“社会性死亡”。

在人文关怀方面，抖音“心情暖宝宝”、B站“能量加油站”等功能设置为因网暴而产生负面情绪的用户提供心理疏导服务，有利于及时识别抑郁、轻生等相关信息。

面对网络谣言、网络暴力，若当事人有发声澄清的需求，平台能给予什么帮助？对此，微博相关负责人表示，平台会在核实身份后为当事人提供认证绿色通道，同时在相关话题页关联当事人账号，置顶当事人发声内容，适时用官号对相关辟谣、澄清信息进行转发，以帮助公众了解事件全貌。

网暴事件通常参与者众多，在司法过程中存在主体确认难、事实认定难等问题。在事后处置阶段，若受害者希望通过法律手段维护自身权益，平台在协助取证方面能给予什么样的帮助？

对此，微博方面回应，原则上只配合公检法等公权力机关的取证需求，不会直接配合受害者个人的取证需求。在配合相关部门取证需求时，需严格遵守相关法律法规和公司内部的合规制度，严格核实取证人员身份，在符合法律规定的调证权限和流程下，提供经相关业务部门确认后的信息。“网暴治理同时涉及公开数据和私有数据，基于个⼈隐私的保护，平台并不能主动监测和分析用户私⼈信息。如何有效治理，尚需进⼀步研究探索。”

豆瓣方面也表示，除依法协助司法机关调查取证外，不会向其他个人或机构提供用户个人信息。

目前，我国已构建起较为完善的法律体系治理网络暴力，相关条文主要分布于《刑法》《民法典》《治安管理处罚法》等。司法解释等规范性文件方面，“两高”《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》以及国家网信办发布的《网络信息内容生态治理规定》也做出了相关规定。此外，《网络安全法》《数据安全法》《个人信息保护法》等系列法律的出台，也为网络空间治理作出了相关规制。

监管层面，6月互联网平台监管动态密集。国家网信办发布新修订的《移动互联网应用程序信息服务管理规定》，提出“应用程序提供者应当对信息内容呈现结果负责。”《互联网跟帖评论服务管理规定（修订草案征求意见稿）》也强调跟帖评论服务提供者应当严格落实跟帖评论服务管理主体责任，按照“后台实名、前台自愿”原则，对注册用户进行真实身份信息认证。《互联网用户账号信息管理规定》明确了账号信息管理的规范，要求互联网信息服务提供者履行账号信息管理主体责任，建立健全并严格落实真实身份信息认证、账号信息核验、信息内容安全、生态治理、应急处置、个人信息保护等管理制度。

互联网平台对于自身内容及用户有更直接的管理能力，随着法律法规、监管政策的进一步细化，平台内容治理的标准及路径将会更加清晰。中国传媒大学新闻传播学部电视学院教授、媒体融合与传播系主任顾洁认为，打击网暴行为需要坚持综合治理思路。“今天的互联网平台聚集了更多的利益主体，不能再以传统单一的治理路径去应对，需要多元协同治理。作为中枢的互联网平台一方面要依法健全相关机制，另一方面要联合广大用户的力量，监管、平台、公众形成合力，共同维护互联网健康生态。”

北京大学新闻与传播学院教授胡泳曾在《数字位移:重新思考数字化》中写道：“互联网作为一种震荡的力量，现在已然造就了一个新大陆，这个新大陆的形成，对现有社会，无论是在结构和功能上，还是在社会成员之间的关系上，都带来很大的影响。我们需要以非常不同的方式生活，而这需要非常不同的思考。”

过去未去，未来已来。网暴就像数字时代的新型“怪兽”，隐藏在互联网的某个角落，不定时地发起攻击。互联网平台需要亮起“探照灯”，筑起“防御栏”，同时各方力量也需形成防护合力，让网暴“怪兽”无处遁形。

更多内容请下载21财经APP