來源：人民網-人民日報
南京科技館內，工作人員在AR虛擬演播館演示直播效果。 孫忠南攝(人民視覺)
核心閱讀
2020年，中共中央印發《法治社會建設實施綱要(2020—2025年)》。綱要提出，制定完善對“演算法推薦、深度偽造等新技術應用的規範管理辦法”。作為一項網際網路新技術應用，深度偽造技術正越來越廣泛地應用於現實場景，也出現被濫用錯用的情況。推動技術的健康成長和使用，需構建更完善的法律和技術保護體系。
有一種技術，能對聲音、影像進行篡改、偽造，從而實現“變聲”“換臉”，並且高度逼真、很難甄別——這項網際網路新技術叫做深度偽造技術。
藉助人工智慧技術可實現“換臉”“變聲”
日常生活中，深度偽造技術的應用並不少見：智慧客服的擬人回答、影視劇對角色的換臉處理……這些應用場景透過對影象、聲音、影片的篡改、偽造和自動生成，產生高度逼真的效果。
深度偽造技術本質上是一種人工智慧合成內容技術。據奇安信集團反金融犯罪專家盧維清介紹，起初，研究者使用自編碼器實現對原始人臉的影象分解再還原。隨著深度學習和先進演算法的出現，深度偽造技術變得更加複雜成熟，除了影象，聲音、影片都能被更精細地偽造或自動合成。以生成對抗網路演算法為例，其同時搭載了生成器和鑑別器兩個神經網路，前者基於一個數據庫自動生成模擬該庫中資料的樣本，後者評估生成器生成資料的真偽，兩者在互相博弈學習中產生大規模和高精確度的輸出，實現真假難辨的效果。
技術是一把雙刃劍。深度偽造這項人工智慧技術起初僅限於學術研究，後來廣泛應用於多個現實場景，發揮著一定正面效應。
盧維清舉例說，在教育場景中出現的虛擬教師和虛擬歷史人物，能讓數字教學更具互動性和代入感；影視製作透過還原或者修改角色鏡頭，降低修復成本，提高製作效率；虛擬新聞主播和客服，無需真人出現，可以降低人力投入；安防領域藉此技術生成更加逼真的影象、影片，測試現有安全系統，尋找技術漏洞，助力更新迭代；娛樂休閒應用程式則可以對圖片和影片做特效處理，增加趣味性……
但是，隨著技術的發展及應用門檻的降低，許多個人使用者也能輕鬆實現“換臉”“變聲”，還有一些人將深度偽造技術應用於安全漏洞攻擊、虛假音影片詐騙等，技術濫用帶來的風險逐漸為人們所知。
可能被詐騙、網路攻擊等非法行為利用
此前，有國外網民利用換臉技術偽造藝人的影像資料併發布了影片，引發爭議。
深度偽造技術被濫用的隱患，簡單來說就是盜用他人的身份，讓人“言”所未言、“行”所未行，以假亂真，混淆真相。
據專家介紹，若無有效的監管措施，任由深度偽造技術被濫用錯用，社會生活中的每個人都存在被這項技術侵害的可能性。
例如，面部識別、聲紋認證等生物特徵識別機制有可能面臨失效；公司企業可能被虛假訊息欺詐，內部資料可能因為偽裝登入而面臨丟失、篡改、刪除；有關部門在司法認證、證據收集、識別環節將面臨真假難題；金融機構管理的賬戶可能遭遇偽裝竊取，轉移資金；電信詐騙裡偽裝公檢法、銀行、通訊人員的手段會更加複雜，令人防不勝防……這些場景有可能帶來一系列更深層次的社會問題。
構建更完善的法律和技術保護體系
2020年，中共中央印發《法治社會建設實施綱要(2020—2025年)》。綱要提出，制定完善對“演算法推薦、深度偽造等新技術應用的規範管理辦法”。今年3月，國家網際網路資訊辦公室、公安部指導各地網信部門、公安機關加強對語音社交軟體和涉“深度偽造”技術的網際網路新技術新應用安全評估工作，並對未履行安全評估程式的11家企業進行約談，引發社會關注。
面對深度偽造技術被濫用錯用引發的犯罪和不良社會影響，專家建議，需儘快制定應對措施，防範化解風險。
宜鼓勵研發鑑偽和溯源技術。盧維清認為，目前學術界和商業界的防偽開發專案多針對特定產品而非通用的音影片，還沒有構建通用性的影片鑑偽網路。要加大對通用且高效鑑偽技術的研發投入和支援力度，鼓勵科研院所和企業研究檢測演算法、主動防禦演算法、深度偽造影象和偽造語音的融合檢測技術等。
宜加強對社會各界的科普。透過培訓等方式讓人們意識到深度偽造技術被濫用錯用帶來的危害，逐步提高使用者的防範意識和鑑別能力，為相關鑑別技術的發展提供機會，促進深度偽造技術的合法利用。
宜加強相關司法體系的建立。專家建議，建立更加完整的法律法規體系，對惡意製作或傳播的使用者進行懲戒。2019年，國家網際網路資訊辦公室釋出《網路資訊內容生態治理規定》，網路資訊內容服務使用者和網路資訊內容生產者、網路資訊內容服務平臺不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。儘管已出臺了相關法律法規遏制深度偽造技術的濫用，但還需要相關部門建立更加完整細緻的法律體系，在區分偽造影片是屬於娛樂還是惡性傳播等問題上釐清邊界，為新技術的應用劃好紅線。
對一般使用者而言，由於不具有專業知識，很難識別出偽造的資訊。尤其在技術發展迅速的背景下，專業人士也很難鑑別深度偽造的音影片。
盧維清建議，在有關財產、信用、安全等敏感問題的處理上，使用者要更加謹慎，做好資料備份以便取證，對於不確定的情形及時聯絡官方客服或報警求助。
日常使用手機時，最好設定安全等級高的訪問密碼，拒絕開啟陌生的網站和應用軟體，尤其是系統提示有安全隱患的訪問要及時停止，並定期對電腦系統防毒，儘量減少在網上釋出帶有個人資訊的影象、音影片等。如果身份證、駕駛證等有關個人安全和資訊的物件丟失，要第一時間掛失。平時多學習法律知識，關鍵時刻採用法律武器維護個人的合法權益。
防範深度偽造技術被濫用錯用，僅依靠個人的力量還不夠，國家、企業都要肩負起重任，保護公民隱私，依據社會職能構建更完善的法律和技術保護體系。
製圖：張芳曼
《 人民日報 》( 2021年11月03日 12 版)
