靳東：喜歡我的觀眾被騙得很慘

6日早間，全國政協委員、中國煤礦文工團團長靳東談到AI換臉導致的詐騙問題，在社交平臺引熱議。他說：“一些喜歡我影視劇的觀眾，被AI換臉影片騙得很慘，這個性質非常惡劣。希望能建立更好的規則。”

就在前幾天，全國人大代表、小米集團董事長兼CEO雷軍在其建議案中也提到，“AI換臉擬聲”的不當濫用成了違法侵權行為的重災區。

相關話題也衝上微博熱搜榜單第一名。

對此，不少網友表示，希望儘快立法。

AI剪輯冒充明星的案例屢見不鮮

2024年11月，江西一位老人來到銀行辦理銀行卡，但手續不全又不肯離開，警方到現場後，老人表示要到銀行貸款200萬元給自己的男朋友“靳東”拍戲。

民警隨即拿起老人的手機進行檢視，發現老人所謂的大明星“靳東”是騙子冒充的，其所釋出的影片也是由電腦AI合成，但老人對網路知之甚少，對於騙子所說所做深信不疑。

最終，民警透過向老人展示網路上一些冒充“靳東”詐騙的新聞和現場利用AI合成照片等方式，老人才幡然醒悟，表示不會再相信網路上的“靳東”，並放棄了開卡貸款的念頭。

AI深度合成名人音影片

劉曉慶、雷軍、劉德華等成受害者

3月3日，有網友向演員劉曉慶求證：“@劉曉慶我看到一個微信影片號發了很多你的影片，好像是AI生成的，是假冒的吧？很多話不是你說的。”

對此，劉曉慶轉發回應：“天哪，我點進去看了一下，畫面是我，聲音很像我，但不是我！這是怎麼做到的？大家以後不會搞不清楚哪個才是真的我了吧？我在各個平臺都叫劉曉慶！”

從惡搞企業家雷軍到AI製作張文宏醫生音影片為自己帶貨，甚至還有不法分子利用AI深度合成影片，進行詐騙。過去一年，AI深度合成音影片侵權現象愈演愈烈。

此前就曾有網友曾利用AI製作的劉德華聲音，為自己博取流量，劉德華電影公司還緊急釋出宣告提醒網民，不要落入偽造劉德華聲音的AI語音合成技術騙局。

近日記者調查發現，實現AI深度合成音影片並不算難事，甚至在一些購物平臺，AI深度合成技術已經成為眾多網店牟利的工具，只需花費幾十元，就可定製AI深度合成名人音影片。

法律專家表示，如果未經本人或版權方同意，就用AI合成製作其音影片，可以判斷為侵權行為，應當承擔法律責任。

如何防範？

不僅是影片，伴隨人工智慧技術快速進步，文、視、圖、聲等的合成和製作門檻大幅降低，一些人工智慧生成的內容“李逵”“李鬼”難辨，給使用者帶來困擾。2025年全國兩會期間，多位代表委員對此現象予以關注，並提出建議。

美的集團副總裁兼首席財務官鍾錚表示，現在生成式人工智慧在法律法規體系上仍不完善，特別是在界定AI生成內容的版權歸屬，以及侵權責任認定、隱私保護標準方面存在空白。此外，目前對於生成式人工智慧影片的稽核，技術條件有限，還需要繼續完善技術手段。

雷軍也在建議案中提到，應加快單行法立法程序，在安全與發展並重的基礎上提升立法位階，明確“AI換臉擬聲”應用邊界紅線，完善侵權證據規則，加大對利用人工智慧技術實施犯罪行為的刑事處罰力度；強化行業自律共治，壓實平臺企業等各方的責任和義務；加大普法宣傳的廣度力度，增強民眾的警惕性和鑑別力，加強公眾對個人人臉、聲音、指紋等生物資訊的保護，避免給犯罪分子提供便利素材。

全國政協委員、安徽省律師協會監事長周世虹表示，建議將生成式人工智慧納入專項立法，明確開發者、運營者、使用者三方責任；完善監管協同機制，建立網信、工信、公安等多部門聯動的動態監管體系；設立AI生成內容標識制度，強制標識AI生成內容，防範虛假資訊傳播。

全國人大代表、科大訊飛董事長劉慶峰表示，建議研究幻覺自動分析的技術和軟體平臺，開展幻覺自動分析、AIGC(生成式人工智慧)深度鑑偽、有害內容識別以及網際網路傳播溯源，由相關部門定期清理幻覺資料，為公眾提供AIGC幻覺資訊檢測工具與服務。

北京中銀律師事務所高階合夥人楊保全表示，一方面應該完善法律法規，細化“AI換臉擬聲”技術應用規範和侵權責任的認定標準；另外，強化平臺的監管責任，平臺需建立健全稽核機制，及時發現和處理侵權內容；最後，提高公眾的法律意識和防範能力，讓大家瞭解相關法律法規，面對詐騙能夠保持警惕。

來源：中國新聞網綜合中新經緯、人民日報、中國青年報、遼瀋晚報、網友評論等