21世紀經濟報道見習記者 鐘雨欣 王巍 北京報道

1996年，美國麻省理工學院教授尼葛洛龐帝在《數字化生存》一書中預言，“數字不再隻和計算有關，它決定我們的生存。”

二十六年後的今天，數字時代給人們的生活方式帶來巨大變革，媒介作為人的延伸，打破了時空限制，人與人之間的關系變得“比特化”，實現前所未有的聯結。暴力的形式也從線下蔓延到網絡空間，幻化成屏幕上的文字、符号、圖片……以更隐蔽的方式給當事人造成傷害，甚至導緻“數字性死亡”“社會性死亡”。

自2022年6月起，南财合規科技研究院将推出反網暴系列報道，以期從不同維度、不同面向對網暴的衍生路徑、群體反應、治理面向進行拆解分析，以媒體力量推進網暴治理。

應對網絡暴力，互聯網平台是第一道防線。在網暴醞釀及初發階段，各互聯網平台如何設計防護機制？存在什麼難點與痛點？

互動管理 信息監測：網暴能否“消音”？

對于互聯網平台而言，“用戶自主設置 平台介入監測”是事前階段主流的防控模式。

經21記者梳理發現，在新浪微博、抖音、快手、知乎、小紅書、豆瓣、B站、百度貼吧中，用戶均可以自主管理評論、私信互動關系。常見的選擇範圍包括所有人、關注的人、我的粉絲及互相關注的人，也可以選擇直接關閉權限。

相較于評論，私信場景中的網暴行為更加隐蔽。上述8個平台對于“未關注人私信”功能均作出了嚴格限制，在對方未關注或回複前最多隻能發送一條消息。新浪微博、小紅書、知乎、豆瓣、B站均設置了類似“未關注人私信箱”功能，陌生人發來的私信将會被系統收入其中。在抖音、快手，用戶還可以選擇設置私密帳号，該功能開啟後，僅粉絲可以浏覽作品，且新的關注請求需經過用戶批準。

新浪微博近期發布公告，加強言論攻擊及網暴行為治理，調整私信接收規則，在接收未關注人發送的私信時，僅顯示1條私信提醒，用戶在确認接收後，可查看具體内容并進行正常文字對話，單次确認有效期為24小時。

在網暴信息識别監測方面，21記者設置了20個敏感詞，包括常見的攻擊類詞彙以及諧音、換字等更隐秘的表達，在上述8個平台進行測試，均有不同程度的攔截，且評論場景中的詞彙攔截率高于私信場景。

在敏感詞測試中，平台過濾情況大緻可分為三類：一是消息可以正常發送及接收；二是消息發送後被屏蔽，接收方無法收到該信息；三是消息發送失敗。在第一類情況中，部分詞彙會觸發風險提示。

經記者梳理發現，貶低矮化類、詛咒威脅類和人身攻擊類詞彙基本能被系統識别并屏蔽，如“綠茶婊”“人渣”等。諧音、縮寫類敏感詞，除了“NMSL”有較高的屏蔽率外，其他諸如“司馬”“辣雞”“劍冢”等詞仍存在一定識别難度。

值得注意的是，網絡暴力的表現形式複雜多變，某類信息是否涉及網暴，還需結合具體語境、當事人主觀感受等因素進行判斷。如“逝者安息”“位列仙班”等，在不同場景下會産生不一樣的解讀。

據了解，多個互聯網平台都在近期調整優化了網暴信息監測機制。

抖音上線了“發文警示”“負向内容過濾”等12項防網暴功能。在“發文警示”功能下，若系統模型判定已經發送的評論存在問題，會推送彈窗提醒，建議發送者重新編輯，去除不當言論。如果發送者堅持發送，則該條評論不會在評論區出現。在“負向内容過濾”功能下，當模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會被直接放入“陌生人盒子—垃圾信息”中。

（抖音上線多項防網暴功能）

B站針對私信場景上線智能攔截功能，系統将對檢測到疑似騷擾或不良的會話内容直接攔截。在評論、彈幕等場景，用戶可以開啟評論精選模式、設置彈幕關鍵詞以過濾不良内容。據B站相關負責人介紹，當評論區集中性出現負面信息時，系統會觸發一套較為嚴格的防網暴互動管控模型，識别過濾不友善内容。“平台還會通過抑郁情緒識别模型去識别有抑郁傾向的用戶，在發現相關内容後直接觸發防網暴模型。如果監測到有關輕生的内容，平台會緊急介入專家進行風險等級判定，與用戶建立聯系、安撫情緒，必要時上報警方處理。”

作為Z世代高度聚集的文化社區，B站近期升級了未成年人保護機制。未成年用戶開啟青少年模式後，平台将從内容、功能等層面進行限制，用戶所浏覽的視頻需經内容團隊人工審核，評論、彈幕、私信等功能也會經過更嚴格的模型過濾，降低未成年人受到輿論傷害的風險。

在問答社區知乎，用戶可開啟“瓦力保镖”功能，開啟後系統識别出的不良評論和私信将會被折疊、隐藏或删除，嚴重者将被拉黑。21記者用兩個帳号進行測試，在收到3-4條不友善私信後，系統會自動将對方帳号加入黑名單。6月，知乎優化“發文提示”功能，用戶在評論和私信場景下發布不友善内容時将會收到社區建議修改的提示。在私信場景中，不友善的内容将被自動折疊并觸發風險提示，用戶可以自主選擇是否浏覽消息詳情。

（知乎“瓦力保镖”功能）

侮辱攻擊類詞彙層出不窮，對于表達形式更隐晦的網暴信息，平台如何及時處理？微博相關負責人表示，對于日常的言論攻擊、洩露隐私、引戰等内容，平台通過主動巡查、受理用戶舉報投訴等方式進行處置；對于熱點事件中衍生的網暴行為，平台及時跟蹤、聯系熱點當事人，發掘相關線索上報至監管部門；針對平台上的不友善内容，微博通過機器模型策略、關鍵詞策略強化内容識别與處置。

百度貼吧方面回複稱，貼吧有巡查、吧主和吧務反饋、舉報、清理回溯等發現機制，同時不斷優化内容策略，升級貼吧網暴識别能力。近期貼吧共擴充網暴關鍵詞近500組，新增圖片黑庫600餘張。

定義之困：網暴的灰色邊界

目前，對于網暴的定義仍存在一定模糊界限。互聯網平台面臨着一個繞不開的問題：什麼樣的言論和行為能夠判定為網絡暴力？

在當事人社交帳号下刷屏白色蠟燭表情包，再附上一句“早日安息”。在私信中“提醒”當事人，“晚上一個人出門注意安全，别被車撞了。”又或者是對當事人的外貌留下一句輕飄飄的評價，“彙集了高科技的臉，一定很貴吧。”……

大量灰色的、難以判定的内容形成了一座大山，橫亘在互聯網平台治理網暴的道路中。

微博相關負責人在采訪中告訴21記者，微博平台主要治理侮辱謾罵、侵犯隐私、造謠诽謗、貶低羞辱、道德綁架和冒犯騷擾等方面的網暴行為。“⽹暴⾏為的發生較随性和偶然，沒有固定規律，有時隻因為⼀句話、⼀個觀點或⼀個表情。平台難以及時發現和制⽌。此外，行業處置未形成統一标準，各平台尺度不同，導緻處置過程中也會存在用戶申訴和投訴的問題。”

抖音相關負責人表示，平台正在不斷加強網暴信息識别能力建設，但依然存在一些難點，難以兼顧“快速”與“精準”。對于明顯的辱罵、造謠、人身攻擊類言語，平台可以明确定義和治理。但另外還有大量惡搞、調侃類的言論，它們不違法違規，但對當事人的身心帶來了實質傷害。比如用當事人的臉P成搞怪表情包，用諧音梗進行辱罵等等。“網暴的界定和識别是目前的難點之一，在治理過程中需要結合受害人具體情況、抗壓能力，信息傳播量級、傳播速度進行個案分析，這對平台進行規模化、及時性治理帶來很大困難。”

目前司法層面對網暴尚無明确界定，更多的是從局部角度進行歸納。北京海澱法院專門審理互聯網案件的法官秦鵬博在此前采訪中表示，“在現有的法律法規和規範性文件、指導性文件中缺乏對網絡暴力概念内涵和外延的規定，亦缺乏列舉性的規範方式。”進一步明晰網絡暴力的法律概念，探索專門法的立法模式，是未來有效治理網絡暴力的重要途徑。

社區共治：數字鄰居的正向聯合

不同的互聯網平台有各自獨特的社區文化。在事前階段，文化建設作為一種“軟性手段”将分散的用戶聯結在一起，強化用戶作為數字社區成員的身份認同感，引導用戶自覺維護社區氛圍。而對于難以判定的内容，平台也可以通過用戶衆議的方式提高信息甄别的準确性。

在B站，用戶可以自願加入“風紀委員會”，對全站熱門稿件的氛圍進行衆議投票，包括視頻整體的評論、彈幕氛圍，以及單條評論、彈幕在具體語境下是否适宜，以此甄别不良内容。B站相關負責人在采訪中表示，“今年4月，我們收到部分風紀委員的反饋，希望社區能夠治理數碼區存在的‘帶節奏’引戰攻擊互動問題。5月初B站啟動了數碼區專項治理行動，根據風紀委提報的不良氛圍特征進行總結，交由阿瓦隆（評論審核系統）學習并治理。”

（B站風紀委标記不良互動氛圍，目前站方已處理）

微博相關負責人表示，衆議投票的方式能夠一定程度上降低正常評論被誤傷的情況。“對于難以界定的内容，微博平台會每日推送給社區委員會成員進行投票衆裁，以最大公允地判定違規行為是否成立。如用戶對站方處置有異議，可随時進行申訴。”

目前，多個互聯網平台通過制定社區公約、鼓勵用戶參與社區共治等方式維護社區氛圍，同時以用戶意見建議反哺社區策略調整。

中國傳媒大學新聞傳播學部電視學院教授、媒體融合與傳播系主任顧潔認為，在互聯網綜合治理體系中，網民自律是重要一環。“自律不僅是不做壞事，更重要的是主動去做好事。目前網民參與互聯網治理的力量還沒有被完全發揮出來，随着網絡志願文化逐漸深入人心，相信越來越多的網民會積極參與到治理中去。”

随着個性化算法推薦等技術的普遍應用，網民基于選擇性心理長期隻關注自己感興趣的内容，隻聽自己認同的觀點。這些觀點不斷重複加深，形成“回音室效應”，可能會加劇群體極化現象。顧潔表示，“信息繭房”“回音室效應”是全球社會都在面臨的問題，互聯網平台應堅持技術向善，以主流價值觀為導向，為網民提供更多的信息選擇。網民自身也要有意識地“破繭”，拓寬信息視野，了解多元化的聲音，在此過程中進一步提升媒介素養，提高理性思辨能力。

更多内容請下載21财經APP

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!