在聲音社交與短視頻及直播愈發火爆的當下，如果一個陌生人突然頂着你的聲音與臉出現在網絡端，你的驚訝程度會否大過對自身安全的擔憂？

3月18日，據中國網信辦官方網站消息，針對近期未履行安全評估程序的語音社交軟件和涉“深度僞造”(Deepfake)的技術的應用，國家互聯網信息辦公室、公安部指導北京、天津、上海、浙江、廣東等地方網信部門、公安機關依法約談映客、小米、快手、字節跳動、鲸準數服、雲賬戶、喜馬拉雅、阿裡巴巴、網易雲音樂、騰訊、去演等11家企業，督促其按照《網絡安全法》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等法律法規及政策要求，認真開展安全評估，完善風險防控機制和措施，并對安全評估中發現的安全隐患及時采取有效整改措施，切實履行企業信息内容安全主體責任。

所謂“深度僞造”（Deepfake），也被譯作“深度造假”，是計算機“深度學習”（Deeplearning）和“僞造”（fake）的組合，出現于人工智能和機器學習技術時代，通過自動化手段、尤其是人工智能算法技術進行智能生産、操縱、修改數據，實現媒體傳播行為的一種結果。直白來講就是在圖片和聲音中輸入機器學習算法，進行“面部操作”（face manipulation），将一個人的臉部輪廓與表情轉移至其他人臉上，同時利用對聲音的處理制造出以假亂真的視頻，大多數深度僞造都依托于名為生成式對抗網絡（GANs）的深度學習技術。

根據《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》要求，出現具有輿論屬性或社會動員能力的信息服務上線，或者信息服務增設相關功能；使用新技術新應用，使信息服務的功能屬性、技術實現方式、基礎資源配置等發生重大變更；用戶規模顯著增加等情形，互聯網信息服務提供者應當自行開展安全評估，對評估結果負責，并向網信部門和公安機關提交報告。網信部門和公安機關根據對安全評估報告的書面審查情況，認為有必要的，應當依據各自職責對互聯網信息服務提供者開展現場檢查。

未來國家互聯網信息辦公室、公安部将繼續指導各地網信部門和公安機關加大巡查檢查力度，督促屬地互聯網企業嚴格遵守相關法律法規，積極主動履行安全管理義務，切實履行企業主體責任，共同維護網絡傳播秩序，營造良好網絡生态。

截至發稿，相關企業均未回應第一财經記者的采訪要求。多位業内相關企業人士對第一财經記者表示，此舉主要為了技術規範，對企業技術安全使用标準進行進一步的明确與統一。

此前，語音社交軟件Clubhouse 在全球範圍内的火爆既引發同類産品的模仿追逐，也引發行業對聲音社交安全性的思考。2019年夏天，一段似乎是“馬克·紮克伯格”本人的假視頻在Instagram上傳播甚廣，該“紮克伯格”在視頻中聲稱已“完全控制了數十億用戶的數據，掌握了他們所有的秘密”。後經調查後發現這是一個藝術惡搞項目，是為指出AI換頭技術和深層僞造(Deepfake)的危害，而非蓄意傳播的虛假信息。

後來，Facebook與Reddit共同出台針對Deepfake的審核政策，該政策的方向不是為徹底清除這種僞造模式，而是要進一步縮小“清除”的目标焦點。Facebook表示他們将從平台上移除“有強誤導性的媒體信息”，這些信息由機器學習技術以普通人看不出的方式“編輯或合成”，誤導傳播視頻中的“仿冒”人物所發表過的言論。

另外，近期多家短視頻平台上“螞蟻牙黑”的換臉惡搞視頻火爆刷屏，傳播至抖音、快手、微博、朋友圈，該特效技術可以将人物圖片同框一起魔性起舞。該換臉特效最初源自一款名為Avatarify的AI變臉軟件。今年3月2日，Avatarify已在App Store中國區下架，官方并未說明下架原因。除了Avatarify外，Deep Nostalgia與ZAO等平台也因AI換臉應用引發争議，其背後原因均涉及DeepFake技術的以假亂真與面部識别帶來的個人隐私洩露及濫用。

一位不願透露姓名的頭部互聯網安全工程師對第一财經記者表示，Avatarify的下架主要是因為換臉惡搞視頻的侵權問題，技術層面上這些換臉應用有可能突破人臉識别身份認證的場景，攻擊者可能利用AI換臉騙取風控系統。另外如今大火的聲音社交中，語音僞造技術也會被犯罪組織利用。較大的廠商一直在改進相關技術，技術層面的研發提升與其本身存在的各類風險問題未來将長期對抗存在。随着相關技術監管的加強以及企業方的自我完善，未來AI換臉與聲音社交的應用将更加嚴格與謹慎。

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!