雷軍建議加強“AI換臉擬聲”
違法侵權重災區治理
在今年兩會，雷軍為此還專門提出了一項關於加強“AI換臉擬聲”違法侵權重災區治理的建議。
全國人大代表雷軍接受媒體採訪。圖片來源：新華社
雷軍表示，近年來，在政策引導、技術突破和產業應用的多重驅動下，我國人工智慧發展成就裴然，不斷提質加速，已經深入到人民群眾生活的各個方面。其中，人工智慧(AI)深度合成技術的快速發展，推動了“AI換臉擬聲”在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術應用。
雷軍指出，但同時也看到，“AI換臉擬聲”不當濫用造成了違法侵權行為的重災區，易引發侵犯肖像權、侵犯公民個人資訊以及詐騙等犯罪行為，甚至造成難以挽回的大規模形象和聲譽損害，帶來社會治理等風險。AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及其手段隱蔽性強等特點，給治理帶來較大挑戰。
因此，雷軍給出了以下三項建議：
一、加快單行法立法程序，在安全與發展並重的基礎上提升立法位階。《網際網路資訊服務深度合成管理規定》、《生成式人工智慧服務管理暫行辦法》等法律法規已頒佈實施，《人工智慧生成合成內容標識辦法(徵求意見稿)》完成社會意見徵集對人工智慧立法進行了有益探索。但目前“AI換臉擬聲”的有關規定，尚存在效力位階偏低、內容偏原則且分散、多個部門職責交叉或職權定位有待明晰等不足，導致現階段針對“AI換臉擬聲”造成的侵害，只能依靠基礎法律中關於隱私權、肖像權名譽權等的零散法條來規制。
建議針對“AI換臉擬聲”等某一代表性問題，探索推出人工智慧單行法，提高立法位階及其效力，分級分類的基礎上進行務實治理，明確“AI換臉擬聲”應用邊界紅線，完善侵權證據規則，加大對利用人工智慧技術實施犯罪行為的刑事處罰力度。與時俱進探索新議題的細化監管措施，凝聚人工智慧倫理規範共識。
二、強化行業自律共治，壓實平臺企業等各方的責任和義務。人工智慧生成合成全鏈條涉及軟體服務方、內容製作者、網路平臺、傳播使用者，以及金融服務商、電信運營商等角色，都是治理責任傳導鏈的重要主體。考慮到涉及的相關方多、區域分佈廣散，透過技術和法律手段並重、監督管理和自律自治兩手抓，以及加強跨區域、跨部門的協調聯動有助於實現“事前預防、事中阻斷、事後打擊”的治理效果最大化。
建議支援平臺企業開發可精準識別人工智慧深度合成內容的技術能力，創新直接有效的治理工具供給：加大人力物力投入，最佳化升級通訊軟體和內容平臺巡查稽核機制、投訴舉報機制、應急處理機制。確保及時阻斷問題內容傳播：鼓勵透過行業自律公約、先進治理平臺獎勵表彰、拓展跨境合作機制等舉措，培育行業自治動力和共治價值，推動形成可複製推廣的有益經驗。
三、加大普法宣傳的廣度力度，增強民眾的警惕性和鑑別力。人工智慧生成合成內容實現安全規範的生產、應用、傳播,需要公眾建立起相應法律意識，共同攜手築牢安全防線。當前，青少年對前沿技術應用好奇心強，老年人數字素養欠缺，往往會成為“Al換臉擬聲”網路陷阱鎖定的主要目標，對其身心健康、財產安全以及社會穩定造成負面影響，
建議加強人工智慧方面的法制宣傳教育，引導公眾對“AI換臉擬聲”的侵權內容透過正規渠道進行舉報；加強公眾對個人人臉、聲音、指紋等生物資訊的保護,避免給犯罪分子提供便利素材。在社交媒體、短影片平臺等“AI換臉擬聲”侵權行為的多發地以使用者能廣泛接觸、樂於接受的方式開展“破綻識別”技巧宣傳，提升使用者多渠道辨別內容真實性的數字素養。聚焦重點人群,在中小學人工智慧教材中加入倫理規範內容,針對老年群體開展相關知識普及活動,在全社會夯實“以人為本、智慧向善”的人工智慧發展生態。