人工智慧深度合成技術的快速發展，推動了“AI換臉擬聲”在影視、廣告、社交等領域廣泛興起，同時，“AI換臉擬聲”的不當濫用也引發了諸多關注。
4日，全國人大代表、小米集團創始人雷軍接受總檯記者專訪時表示，“AI技術發展以後，AI換臉、AI擬聲在網上已經成為了重災區，我本人也是主要的受害者，呼籲儘快立法重點整治”。
明確“AI換臉擬聲”
應用邊界紅線
雷軍在建議中指出：人工智慧(AI)深度合成技術的快速發展，推動了“AI換臉擬聲”在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術應用。但同時也看到，“AI換臉擬聲”不當濫用成了違法侵權行為的重災區，易引發侵犯肖像權、侵犯公民個人資訊以及詐騙等犯罪行為，甚至造成難以挽回的大規模形象和聲譽損害，帶來社會治理等風險。AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及其手段隱蔽性強等特點，給治理帶來較大挑戰。
雷軍的具體建議包括：
-
一是針對“AI換臉擬聲”等某一代表性問題，探索推出人工智慧單行法，提高立法位階及其效力，分級分類的基礎上進行務實治理，明確“AI換臉擬聲”應用邊界紅線，完善侵權證據規則，加大對利用人工智慧技術實施犯罪行為的刑事處罰力度。
-
二是強化行業自律共治，壓實平臺等各方的責任。支援平臺企業開發可精準識別人工智慧深度合成內容的技術能力，最佳化升級通訊軟體和內容平臺巡查稽核機制、投訴舉報機制、應急處理機制，確保及時阻斷問題內容傳播。
-
三是建議加強人工智慧方面的法制宣傳教育，增強民眾的警惕性和鑑別力，聚焦重點人群，在中小學人工智慧教材中加入倫理規範內容，深入老年人聚居的社群開展相關知識普及活動，在全社會夯實“以人為本、智慧向善”的人工智慧發展生態。
未經授權，合成
製作他人影片聲音屬侵權
前段時間，雷軍、劉德華、張文宏等名人，紛紛被人工智慧技術換臉擬聲合成影片。這類影片以假亂真，很容易“欺騙”受眾。
去年國慶假期，還有人用AI捏造雷軍配音，所謂“雷軍語音包”層出不窮，從吐槽假期到罵人，各種內容應有盡有。對此，雷軍本人還專門發影片，呼籲大家不要再惡搞。
記者在手機應用商城搜尋“換臉換聲”，會出現眾多工具。不過，記者發現，換臉工具設定了固定的場景，且從效果看逼真度不高。
專家表示此類軟體目前在網路上有數十種，不過不論換聲還是換臉軟體，不同的場景需要調整相應的引數，步驟較多，屬於半專業軟體，有一定的技術門檻，所以不被網民熟知。
專家表示，相關法律法規明確規定，未經授權，不得深度合成製作釋出他人資訊。網店接單AI深度合成製作名人影片，已經屬於侵權行為，並應該承擔相應的法律責任。
北京市競天公誠律師事務所合夥人周楊告訴記者，這類用AI合成的名人音影片，會侵犯名人的肖像和聲譽，還存在散佈虛假、不良資訊的風險。
她舉例：“DeepSeek爆火之後，《黑神話：悟空》製作人馮驥發文盛讚。很快，一條DeepSeek創始人梁文鋒的回應，引發朋友圈廣泛轉載。最後，多個知名大V聲稱梁文鋒的回應為AI偽造。”
用AI生成別人的臉和
聲音？可以置入隱式標識
據北京日報報道，AIGC（人工智慧生成內容）與過去影響網路空間安全的內容一樣，都會出現虛假和不良資訊，但更加難以甄別，更容易導致不良影響和後果。《網際網路資訊服務管理辦法》明確規定了網路釋出資訊“九不準”。《網路資訊內容生態治理規定》還有“十一不得”。國家網際網路資訊辦公室還發布了《人工智慧生成合成內容標識辦法（徵求意見稿）》，與全國網路安全標準委員會發布的《網路安全技術 人工智慧生成合成內容標識方法》強制性國家標準（徵求意見稿）配套使用，要求對人工智慧生成合成內容進行標識，規範AIGC在網路空間中的流通安全。
此外，還有合成普通人音影片、對其親友實施詐騙的行為，未成年人和中老年尤其容易被針對。周楊表示，《網路資訊內容生態治理規定》《生成式人工智慧服務管理暫行辦法》《未成年人網路保護條例》均有關於弱勢群體的專門規定。
浙江大學研究員韓蒙表示，AI合成偽造和AI標識，存在相互博弈的關係。在技術上，可以對AIGC進行標識。“標識有顯式的，比如現在大家在影片網站上看到的水印。隨著技術升級，包括我們團隊在內，一些國內團隊也對隱式標識展開研究。”當利用AI生成作品時，隱式標識會被藏在作品中，肉眼是看不見的。但透過檢測手段，標識可以顯現。（來源/央視網）
新增徐老師微信
立即諮詢
國際在職“MBA/EMBA/DBA”
點選底部“閱讀原文”檢視更多
在職“MBA/EMBA/DBA”課程
↓↓↓↓↓↓↓↓↓↓↓↓