? 孫立彬
人工智能生成技術(AIGC)的浪潮席卷全球,在內容生產方面,其正以前所未有的效率重構傳統的運行規則,文、視、圖、聲等合成和制作門檻大幅降低。與此同時,由于人工智能(AI)幻覺、惡意傳播與法律法規滯后等諸多因素并存,致使生成式內容的制作和傳播處于混亂狀態。
今年全國兩會期間,代表委員敏銳注意到上述問題,就打擊AIGC虛假信息、完善AI視頻傳播管理機制等思考提出建議。
他們都看到了什么
全國人大代表、科大訊飛董事長劉慶峰表示,生成式人工智能存在幻覺,特別是深度推理模型邏輯自洽性的提升,使得AI生成內容真假難辨。帶有算法偏差的虛假信息會被新一代AI系統循環學習,形成惡性循環,影響公眾信任和社會穩定。
全國人大代表,美的集團黨委副書記、集團副總裁兼首席財務官鐘錚注意到,隨著目前AI技術的快速發展,視頻合成和制作門檻大幅降低,導致網絡上出現大量AI生成的視頻內容真假難辨,且成為一種常態。在一些視頻中,有的模仿明星或專家的形象聲音進行傳播,有的則虛構人設,用于推銷產品,誤導消費者購買不必要的商品,以至產生信任危機;還有一些視頻通過流量變現,進一步加劇這一類亂象愈演愈烈。
全國人大代表、TCL創始人、董事長李東生表示,隨著生成式人工智能技術的發展,深度偽造技術快速發展,而一旦被不法分子利用,可能會導致新的社會問題。近年來,我國相關立法對這一議題雖有關注,但已出臺的規章制度不成體系,尚不具備可操作的細則和明確的處罰標準。
關于深度偽造問題,全國人大代表、小米集團董事長兼CEO雷軍也非常關注。他表示:“‘AI換臉擬聲’不當濫用造成的違法侵權行為已成為重災區,易引發侵犯肖像權、侵犯公民個人信息以及詐騙等違法行為。AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及其手段隱蔽性強等特點,給治理帶來較大挑戰。”
他們建議這樣解決
針對AI幻覺問題,劉慶峰建議構建安全可信數據標簽體系,提升內容可靠性:建立安全可信、動態更新的信源和數據知識庫,對不同類型數據的可信度和危害程度建立標簽體系,降低人工智能幻覺出現概率,提升生成內容可靠性;同時研發AIGC幻覺治理技術和平臺,定期清理幻覺數據,研究幻覺自動分析的技術和軟件平臺,開展幻覺自動分析、AIGC深度鑒偽、虛假信息檢測、有害內容識別以及互聯網傳播溯源,由相關部門定期清理幻覺數據,為公眾提供AIGC幻覺信息檢測工具與服務。
對于AI生成視頻的傳播,鐘錚建議,一是完善法律法規體系,加強原創版權和隱私保護;二是探索利用AI技術審核AI合成的視頻內容,確保視頻傳播內容審核的效率與準確性;三是進一步加強行業自律與政府監管,對違法違規行為進行嚴厲懲治,督促行業健康發展。
李東生認為,要規范對于這一新興技術的不當利用行為,有必要要求深度合成服務提供商對人工智能生成的內容進行強制標識,減少惡意濫用,并厘清責任、對違法犯罪行為追責。
李東生建議:第一,加快人工智能深度合成內容標識管理規章制度的出臺。第二,明確對人工智能深度合成服務商未履行標識義務的懲罰制度。完善對深度合成內容服務提供商未按要求進行標識的行為界定、分類細則,以及相應的處罰標準。第三,加強深度合成內容標識技術標準和發布的管理。出臺深度合成內容標識的技術標準,保障標識的有效性。此外,對相關內容平臺提出要求,用戶在發布深度合成的視頻、音頻等內容時,有義務對其進行標識。第四,加強國際合作,形成人工智能生成合成內容的有效監管。
雷軍建議,首先,應加快單行法立法進程,在安全與發展并重的基礎上提升立法位階;其次,強化行業自律共治,壓實平臺企業等各方的責任和義務;第三,加大普法宣傳的廣度力度,增強民眾的警惕性和鑒別力。
友情鏈接: 政府 高新園區合作媒體
Copyright 1999-2024 中國高新網chinahightech.comAll Rights Reserved.京ICP備14033264號-5
電信與信息服務業務經營許可證060344號主辦單位:《中國高新技術產業導報》社有限責任公司