随着互聯網的發展,“敏感詞過濾”這一需求也在市場中不斷增加。
敏感詞過濾是一種阻止網絡不良信息擴散和灰黑産擴張的技術手段,對可能存在不合規的關鍵詞進行有針對性的篩查和屏蔽。通過這樣的一種技術手段,很多時候遊戲廠商或是平台能夠防患于未然,把後果嚴重的消極影響扼殺于萌芽之中。
互聯網社區和遊戲平台應用的不斷發展和變化,敏感詞過濾系統(尤其是針對傳奇、SLG類型的遊戲黑産廣告話術)也經曆了以下多種過濾方法:
1.敏感詞替換
敏感詞替換是較早出現的一種敏感詞過濾方式。即系統不會在用戶端進行敏感詞過濾和校驗,而是把這個工作放在數據入庫之前完成。在數據寫入數據庫之前,系統根據已經制定的規則把所有敏感詞替換為設定好的符号或文字,但是這個過程是不可逆的。
這種技術手段對于阻止網絡暴力成效顯著,用戶在閱讀其他人的發布信息時,不會再看到那些刺眼的侮辱性的字眼,但又不會太過于破壞發布者的本意。同時,它不會對用戶的閱讀造成很大的幹擾和障礙,尤其是在聊天室或群組等場景中。
2.敏感詞屏蔽
其次就是敏感詞屏蔽,是指直接去除發布信息中的敏感詞,然後寫入數據庫。這種方法可以最大限度地避免對普通用戶的隐性騷擾,但代價是發布信息的可讀性可能會下降,甚至影響閱讀體驗。
3.阻止發布
最後一種是在用戶端阻止發布,是指系統在用戶發布信息時,本地或服務器端的信息,一旦發現用戶發布的信息符合敏感詞過濾條件,便立刻阻止用戶發布操作并返回提示信息,提示用戶有敏感詞不符合發布要求,并要求用戶修改發布的信息。
這種過濾方法可以最大限度地降低系統本身的安全風險,顯著降低人工審核的成本,在用戶輸入昵稱和簡單介紹時效果最好,同時也适用于一些論壇博客類網站在審核博主發文時的處理手段。
三種不同的方式存在各自明顯的優勢與劣勢,但不管是哪種審核機制,都會面臨在流程中無法預估或難以控制的成本、人力及時間問題。
因此對于傳奇遊戲内比較容易造成不良影響的灰黑産敏感詞的處理方式,除了人工的審查之外,還必須有具備智能化的谛聽安全機器審查。這兩者的結合可以最大限度的節省時間與人力成本,并将覆蓋率與精準度提升到最高,從而避免錯删、誤删、過晚發現等問題,造成進一步的遊戲玩家損失。
,更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!