IT時報記者 孫妍

AI換臉術大家或多或少都接觸過，換臉App“ZAO”一夜爆紅，因為上傳一張照片就能變身劇中人，與梁朝偉、劉德華、楊幂等明星同台飙戲，但也因為洩露人臉信息的風險一夜退敗。不久前，“螞蟻呀嘿”讓靜态照片動起來的特效在短視頻平台走紅。

這些網紅應用基于深度僞造（Deepfake）技術，雖然也被應用于影視後期、虛拟偶像等場景中，然而這種技術的負面威脅已經被放大。

如何辨别視頻中的人臉是真是假？在2021世界人工智能大會上出現了一秒識别“AI換臉術”的神器——DeepReal深度僞造内容檢測平台。

天下武功，唯快不破。30毫秒，就能檢測一幀畫面。一秒鐘，就能認出假臉。

這就是“AI換臉術”的克星，由清華大學人工智能研究院孵化企業北京瑞萊智慧科技有限公司（下簡稱RealAI）研發的DeepReal深度僞造内容檢測平台。

它的檢測準确性有多高？測試結果顯示，DeepReal在學術數據集和ZAO等主流方式生成的網絡數據中，準确率已達99%，遠超Facebook此前舉辦的Deepfake檢測挑戰賽所公布的最好成績。

DeepReal“吃”下的數據已達千萬級，數據集已覆蓋三大類，包括學術深僞數據集、網絡深僞數據集和自研深僞數據集,通過結合貝葉斯學習框架和深度神經網絡來估計模型在預測新樣本時的不确定性。

RealAI副總裁唐家渝認為，未來在網絡虛假内容甄别、人臉資料審核以及影像物證真實性檢驗等場景中，DeepReal都能快速落地應用。

法律層面，2020年，禁止利用信息技術手段僞造的方式侵犯他人的肖像權和聲音等已經寫入了《民法典》，給深度僞造技術下了“緊箍咒”，那麼在技術層面，該如何源源不斷地研發出高質量的檢測、破解工具呢？

制定标準是第一步。

RealAI與國家工信安全中心聯合制定了我國人臉模型算法自身安全相關的第一個标準《信息安全技術人臉比對模型安全技術規範 》，作為第二編寫單位與信通院在工信部網安局指導下聯合編制了《人工智能安全框架（2020年）》藍皮書。RealAI目前也參與包括機器學習算法安全相關的國家标準以及人工智能合成音視頻、人工智能生物特征識别相關的行業标準等多項标準的制定工作中。

越來越多的機構參與到AI的檢測和标準制定中，“我們正在制定人工智能的各項标準，今年上海市已批準‘公共場所人臉識别分級分類應用規範’地方标準的立項。”上海計算機軟件技術開發中心人工智能治理研究所執行所長陳敏剛對《IT時報》記者表示，人臉識别将成為AI标準和檢測工具的高地。

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!