與傳統的社交渠道相比，網絡遊戲社交平台的媒體内容制作模式、溝通模式和組織合作模式有很大的不同，最明顯的區别是信息制作和信息傳播的分離。

目前，主流聚合平台主要負責信息的傳播和運營。遊戲論壇上的内容種類繁多，内容質量參差不齊，一切混淆視聽的負面評論同樣也會帶來内容風險，也有可能影響遊戲子文化的生産。因而上傳的論壇内容必須經過審核才能傳播，平台的功能内容審計團隊對人工智能算法也因此有很大的需求。

人工智能審計可以通過機器人文本識别技術标記論壇帖子與評論中可疑的非法内容。結合過濾、召回和删除的手段去除一些明顯的錯誤内容（或标記一些可疑的錯誤和模型内容，之後與人工審計團隊合作判斷）。當标題、關鍵詞或基本語義詞錯誤時，機器算法将對這些數據進行評分，評分超過一定阈值，将标記不同顔色的錯誤或分組。

1. 文本識别标記

文本識别技術主要基于算法，操作和審計人員不斷更新關鍵字庫，輸入相關非法内容，通過算法技術不斷培訓，提高機器判斷的準确性。這一步主要是在論壇内容發布前後通過風險模型對信息進行監控和過濾，并根據不同類别的低質量模型等技術檢查内容中可能出現的失範問題。

2. 風險内容識别

與文本識别技術不同，風險内容識别不僅基于對内容本身的分析和判斷，還包括一系列後續行為，如論壇媒體傳播後用戶的反饋、贊、踩、分享、報告等。

風險内容識别不僅會在論壇帖子發布前判斷内容，還會在發布後實時進行監控。因為如果沒有風險内容識别技術對發布的信息内容進行二次識别和監控，導緻内容廣泛傳播，可能會對平台本身産生不良影響，甚至被要求平台整頓等問題。

因而風險内容識别技術是可以支持内容傳播過程中的反饋，删除不良内容和言論，抑制和減少低質量内容，以确保内容在審計和發布後是合規和合法的。

利用算法審計技術，可以基本判斷和識别平台每天生産的數百萬信息内容，确保所有論壇中的内容都經過審計流程。如果算法審計技術沒有發現内容異常，且發布帖子的賬戶級别權益較高（在過去，沒有非法曆史），帖子所發布的内容可以跳過人工審計階段，直接由遊戲論壇平台發布。

一般來說，随着算法技術和培訓模型的不斷優化、培訓文本的不斷增加，人工智能算法内容審計技術将不斷提高準确性，場景的應用也将不斷增加。算法審計技術的發展簡化了審計從業人員對新聞内容的判斷，有效提高了審計效率，減少了内容的積壓，确保了内容的快速發布和傳播，降低了人工審計的成本和壓力。

憑借多年的審計産品運營經驗，國内優質内容安全平台谛聽安全積累了大量的數據，具有更全面的審計維度和行業領先的過濾能力，為遊戲廠商獲取内容提供更可靠、更高質量的内容審查與風控管理。

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!