來源｜中新經緯綜自中新社（常濤）、@人民日報、南方都市報、公開資訊等
6日早間，全國政協委員、中國煤礦文工團團長靳東談到AI換臉導致的詐騙問題，在社交平臺引熱議。他說：“一些喜歡我影視劇的觀眾，被AI換臉影片騙得很慘，這個性質非常惡劣。希望能建立更好的規則。”
▲媒體報道截圖
就在前幾天，全國人大代表、小米集團董事長兼CEO雷軍在其建議案中也提到，“AI換臉擬聲”的不當濫用成了違法侵權行為的重災區。
AI冒充名人案例屢見不鮮
2024年國慶假期期間，短影片平臺上出現了大量“雷軍AI配音”的惡搞影片。在影片中，“雷軍”銳評了堵車、假期等熱門話題，其中還有一些不雅謾罵。有網友調侃稱：“國慶上網被雷軍罵了整整7天。”
對此，雷軍曾用三個“憤怒”的表情回應此事。
▲社交平臺截圖
此前的“假靳東”案也曾引發全網熱議。
2024年11月，江西一位老人來到銀行辦理銀行卡，但手續不全又不肯離開，警方到現場後，老人表示要到銀行貸款200萬元給自己的男朋友“靳東”拍戲。
民警隨即拿起老人的手機進行檢視，發現老人所謂的大明星“靳東”是騙子冒充的，其所釋出的影片也是由電腦AI合成，但老人對網路知之甚少，對於騙子所說所做深信不疑。
2020年10日，江西都市頻道也曾報道過《我要嫁靳東》的專題，引爆全網，演員靳東工作室當時也曾發文闢謠：那是“假靳東”。
今年3月3日，有網友透過社交平臺向演員劉曉慶反饋，疑似有人用AI生成她的形象仿冒她。對此，劉曉慶在社交平臺澄清：“畫面是我，聲音很像我，但不是我！”
▲社交平臺截圖
近日，還有線上遊戲平臺利用AI技術，將香港演員古天樂、歌手林峰的肖像、聲音及過往影片片段，合成製作為帶有賭博性質的代言宣傳片。
▲媒體報道截圖
3月5日，兩人的經紀公司先後釋出宣告，指出該宣傳片為合成影片，否認其與有關遊戲平臺合作，或代言、推廣它們的業務，提醒各方人士不要輕信，以免受騙上當。對於盜用兩人名義或肖像作虛假宣傳或詐騙的行為，公司必然追究。
如何防範？
不光是影片，伴隨人工智慧技術快速進步，文、視、圖、聲等的合成和製作門檻大幅降低，一些人工智慧生成的內容“李逵”“李鬼”難辨，給使用者帶來困擾。2025年全國兩會期間，多位代表委員對此現象予以關注，並提出建議。
美的集團副總裁兼首席財務官鍾錚表示，現在生成式人工智慧在法律法規體系上仍不完善，特別是在界定AI生成內容的版權歸屬，以及侵權責任認定、隱私保護標準方面存在空白。此外，目前對於生成式人工智慧影片的稽核，技術條件有限，還需要繼續完善技術手段。
雷軍也在建議案中提到，應加快單行法立法程序，在安全與發展並重的基礎上提升立法位階，明確“AI換臉擬聲”應用邊界紅線，完善侵權證據規則，加大對利用人工智慧技術實施犯罪行為的刑事處罰力度；強化行業自律共治，壓實平臺企業等各方的責任和義務；加大普法宣傳的廣度力度，增強民眾的警惕性和鑑別力，加強公眾對個人人臉、聲音、指紋等生物資訊的保護，避免給犯罪分子提供便利素材。
全國政協委員、安徽省律師協會監事長周世虹表示，建議將生成式人工智慧納入專項立法，明確開發者、運營者、使用者三方責任；完善監管協同機制，建立網信、工信、公安等多部門聯動的動態監管體系；設立AI生成內容標識制度，強制標識AI生成內容，防範虛假資訊傳播。
全國人大代表、科大訊飛董事長劉慶峰表示，建議研究幻覺自動分析的技術和軟體平臺，開展幻覺自動分析、AIGC(生成式人工智慧)深度鑑偽、有害內容識別以及網際網路傳播溯源，由相關部門定期清理幻覺資料，為公眾提供AIGC幻覺資訊檢測工具與服務。
北京中銀律師事務所高階合夥人楊保全表示，一方面應該完善法律法規，細化“AI換臉擬聲”技術應用規範和侵權責任的認定標準；另外，強化平臺的監管責任，平臺需建立健全稽核機制，及時發現和處理侵權內容；最後，提高公眾的法律意識和防範能力，讓大家瞭解相關法律法規，面對詐騙能夠保持警惕。
👇【 熱門影片推薦 】👇