前段時間引起熱議的AI換臉術，如今，大陸官方正式出手。大陸國家互聯網資訊辦公室（簡稱網信辦）、文化和旅遊部、國家廣播電視總局近日聯合印發《網路音視頻資訊服務管理規定》（以下簡稱《規定》），要求利用新技術新應用製作、發布、傳播非真實音視頻資訊的，應當以顯著方式予以標示；網路音視頻資訊服務提供者發現使用者利用基於深度學習、虛擬現實等的虛假圖像、音視頻生成技術製作、發布、傳播謠言的，應當及時採取相應的闢謠措施。
據資料顯示，大陸網路音樂用戶規模已達6.08億，網路視頻用戶規模更達7.59億。隨之而來的相關風險在不斷疊加。
朱茵變楊冪 引侵權說
今年年初，一個「朱茵變楊冪」的視頻在bilibili（視頻彈幕網站）上火爆，視頻中《射雕英雄傳》中朱茵扮演的黃蓉角色被替換為楊冪。視頻被傳至微博後引起軒然大波，侵權、安全等爭議聲接踵而至。
北京師範大學互聯網發展研究院院長助理、中國互聯網協會研究中心祕書長吳沈括教授說，新興技術一旦被違法運用，極可能造成社會秩序紊亂，甚至危害國家安全。這就要求對網路音視頻行業加強監管。
《規定》對新技術新應用安全給予高度關注，基於深度學習、虛擬現實等新技術新應用製作、發布、傳播音視頻資訊進行了明確規定。
《規定》不僅明確安全評估要求，網路音視頻資訊服務提供者基於新技術新應用上線具有媒體屬性或社會動員功能的音視頻資訊服務，或調整增設相關功能的，應按照國家有關規定開展安全評估。
《規定》更明確標示要求和新聞資訊管理要求，網路音視頻資訊服務提供者和網路音視頻資訊服務使用者利用新技術新應用製作、發布、傳播非真實音視頻資訊的，應當以顯著方式予以標識，不得利用新技術新應用製作、發布、傳播虛假新聞資訊。
設公眾投訴舉報管道
《規定》還強調，網路音視頻資訊服務提供者應當部署應用違規音視頻以及非真實音視頻鑑別技術，發現音視頻資訊服務使用者製作、發布、傳播法律法規禁止的資訊內容的，應當依法依約停止傳輸該資訊，採取消除等處置措施；網路音視頻資訊服務提供者應當建立健全闢謠機制。
此外，《規定》要求，網路音視頻資訊服務提供者應當設置便捷的投訴舉報入口，及時受理並處理公眾投訴舉報。
（記者／林永富）