“過去一年，至少有幾十個冒用我聲音、形象，講述虛假內容的視頻，有的我自己看了都覺得很逼真?！?月9日，十四屆全國人大三次會議天津代表團舉行小組會議，中國工程院院士張伯禮代表在發言時提到，當下利用人工智能生成虛假內容的違法犯罪事件越來越多，他自己深受其害。

“我投訴反饋過多次，都得不到有效解決?！睆埐Y呼吁，必須采取有力措施對此類違法事件予以遏制。

中招的不只是張伯禮。今年兩會期間，小米集團創始人雷軍雷軍代表也提到，去年國慶長假期間，短視頻平臺上曾出現大量以人工智能技術模擬其聲音進行配音的惡搞視頻，效果以假亂真，對網友造成了誤導。

人工智能深度合成技術的快速發展，顯著降低了生成虛假內容的門檻和成本，“AI換臉擬聲”已成為互聯網違法侵權行為的重災區。

打開社交平臺，搜索“AI換臉”“AI擬聲”等關鍵詞，可以檢索到許多提供此類技術的網站平臺，以及可本地化運行的合成軟件。許多產品的運營主體設在境外，難以實施有效管控。

中國政法大學數據法治研究院教授張凌寒認為，總的來看，我國目前已出臺《互聯網信息服務算法推薦管理規定》《網絡信息內容生態治理規定》《互聯網信息服務深度合成管理規定》等法規，對內容造假者和傳播平臺的法律責任都有明確規定?！暗悄壳靶枰趫绦袑用孢M一步加強落實，尤其是多部門聯合協同執法?！彼f。

作為當下內容傳播的主要渠道，互聯網平臺承擔著對信息真實性把關的責任。張凌寒認為，針對人工智能生成的虛假內容泛濫的現象，下游的傳播平臺應當主動采取措施減少違法信息的流通，例如建立辟謠機制和舉報機制，針對在平臺中傳播的虛假內容及時停止傳輸，并對相關主體加以限制和處罰。

當下，生成式人工智能技術已進入快速迭代階段，技術樣態不斷更新、應用形式魚龍混雜，對規范治理提出了更高要求。

西南政法大學教授付子堂代表表示，人工智能等技術加速突破，必將深刻改變現行的生產生活方式，而目前相關的法律制度仍存在一定滯后性。例如，生成式人工智能等新興領域存在規范真空，數據隱私保護、算法責任認定等方面存在法律適用問題，并且在個人數據信息保護、算力治理等方面存在多頭管理問題，監管協同性不足。

他建議，要著手構建階梯式法律框架，夯實制度根基，可細分制定人工智能法等專門法律，并完善能與個人信息保護法等上位法相銜接的、對深度合成內容進行有效規范的配套條例。

圍繞人工智能立法，張凌寒認為要重點關注虛假內容生成，強化深度合成技術的前期治理，如要求技術與服務提供者在相關內容中履行添加可識別水印或有效警示信息的義務；完善深度合成內容的法律擔責鏈條，改進監管框架，實施全鏈條治理；升級深度合成的監管工具，在繼續使用與改進傳統算法監管工具的同時，也要不斷更新新的技術支撐與保障，應對不斷變化的技術發展趨勢。