近日，有微博網友發文向演員劉曉慶求證：看到一個影片號發了很多劉曉慶的影片，好像是AI生成的，是假冒的吧？
有記者查詢發現，這個叫“曉慶人生”的影片號所發影片，有非常多的點贊和評論，其中點贊最高的一條達到7.8萬贊。
對此，劉曉慶轉發回應：
天哪，我點進去看了一下，畫面是我，聲音很像我，但不是我！這是怎麼做到的？大家以後不會搞不清楚哪個才是真的我了吧？我在各個平臺都叫劉曉慶！
網友紛紛提醒：現在AI已經很成熟了，要注意識別，不要上當受騙。
截至發稿，影片號已搜尋不到“曉慶人生”影片號。
AI合成名人音影片 亂象頻出
不止劉曉慶，據央視新聞此前報道，雷軍、劉德華等多位各界名人都是AI合成名人音影片亂象的受害者。
從惡搞企業家雷軍到AI製作張文宏醫生音影片為自己帶貨，甚至還有不法分子利用AI深度合成影片，進行詐騙。還曾有網友曾利用AI製作的劉德華聲音，為自己博取流量，劉德華電影公司還緊急釋出宣告提醒網民，不要落入偽造劉德華聲音的AI語音合成技術騙局。
而相應的深度合成軟體在網路上下載並不算難，還有一些網路主播會開直播教網友如何使用。
專家表示此類軟體目前在網路上有數十種，不過不論換聲還是換臉軟體，不同的場景需要調整相應的引數，步驟較多，屬於半專業軟體，有一定的技術門檻，所以不被網民熟知。但是記者發現目前在短影片平臺有眾多主播在教網民使用相關軟體。
今年2月，中央網信辦釋出訊息，2025年“清朗”系列專項行動將進一步鞏固提升治理成效，聚焦人民群眾反映強烈的突出問題。其中就專門提出“整治AI技術濫用亂象”。突出AI技術管理和資訊內容管理，強化生成合成內容標識，打擊借AI技術生成釋出虛假資訊、實施網路水軍行為等問題，規範AI類應用網路生態。
未經授權，合成製作他人影片聲音屬侵權
那麼，在網路購物平臺使用AI深度合成技術，製作出售名人的音影片，是否觸犯相關法律呢？專家表示，相關法律法規明確規定，未經授權，不得深度合成製作釋出他人資訊。網店接單AI深度合成製作名人影片，已經屬於侵權行為，並應該承擔相應的法律責任。
北京航空航天大學法學院副教授趙精武表示：在司法實踐中，國內已經審結了首例AI生成聲音人格權侵權案。在這個案子裡，原告作為配音演員，在沒有經過授權的情況下，他的聲音被AI生成後對外出售。法院在審理中認為，我國的民法典已經在人格權編，將自然人的聲音視為一種人格權益，具有人身專屬性。所以，法院最終認定被告的行為構成侵權。
此外，中國計算機學會計算機安全專業委員會委員呂延輝還表示：防範AI侵權問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面，要進一步完善相關立法，細化AI克隆技術的法律條款，明確侵權行為的定義和責任，同時加強執法力度。平臺層面，要強化相關政策法規的宣貫和執行，做好已有資料的保護，應用技術手段來規避AI克隆侵權問題的發生，同時也要建立健全內容稽核和侵權舉報機制，及時發現和處理侵權問題。
委員建議加強對AI生成虛假資訊治理
近日，也有政協委員針對AI生成虛假資訊治理表達了自己的關切。
全國政協委員、四川大學華西醫院教授甘華田表示，今年全國兩會期間，他擬提出加強對AI生成虛假資訊治理的建議。近些年，透過AI技術深度偽造影片、政府公告、企業宣告、名人言論、虛假金融資訊等行為，已嚴重干擾了公眾的判斷，損害了社會的公信力和穩定。這類虛假資訊不僅誤導消費者，還可能對社會秩序、國家安全甚至人民群眾的生命財產安全構成威脅。然而我國現行法律對AI生成內容的監管責任界定模糊，相關法律滯後，平臺稽核技術能力不足，違法成本低，治理難度大。因此，加強對AI生成虛假資訊的治理和打擊力度，已成為當前亟待解決的問題。
編輯|陳柯名 杜恆峰
校對|程鵬
封面圖片來源：影片截圖
本文轉載自中國新聞網（綜合都市快報、新聞晨報、央視新聞、紅星新聞等）
感謝關注每日經濟新聞，每天都有精彩資訊
推薦閱讀↓