來源丨鳳凰網科技（ID：ifeng_tech）
作者丨梁思琦
編輯丨董雨晴
圖源丨midjourney
定製換一張臉成本有多高？答案是——只需要一杯奶茶錢。在各大平臺上，換臉服務比比皆是，只需要9塊9，就能迅速獲得一個真假難辨的換臉內容。
隨著AI技術的迅速演進，有關DeepFake（深度偽造）的討論也愈演愈烈。
相關受害人，從全球知名藝人泰勒·斯威夫特、跨國公司高管、韓國未成年人，再到今年春節因AI配音刷屏的雷軍。2024年國慶期間，未經授權的雷軍AI語音包和換臉影片在網路上瘋傳，網友調侃：“十一放了七天假，八天被雷軍罵醒。”
不久之前，“雷軍稱AI換臉擬聲成違法重災區”話題也登上微博熱搜第二，相關討論量達到了1.4萬，足以見得DeepFake正成為困擾多數網友的一把利刃。
正如雷軍所言：“剛開始我覺得是網友喜聞樂見，拿我開涮我也能接受，但內容比較低劣，多到不得了的時候，就防不勝防，而且網友們也在投訴”。
深度偽造帶來的各類風險，該被重視起來了。
震驚一時的香港最大AI詐騙案
震驚一時的中國香港跨國公司詐騙案，曾經描述過如此戲謔的一幕。
跨國工程公司Arup香港分公司的一位員工，有一天突然收到了一封會議郵件，邀請他參加一場由總部高管發起的重要會議。
起初他有些懷疑，但隨著他進入會議，看到了一張張熟悉的高管面孔，警惕性也逐漸放了下去。包括該公司CFO在內的多位高管不僅入會了，還都開著影片和麥克風，在發言中他們談論到了一起秘密收購案件，討論過後這些高管還給中層佈置了任務。
這位員工在會議中未進行任何發言，但對此次會議的真實性已全然接受，散會後，郵件和即時通訊訊息就來了。其中的一位領導要求這名員工將2億港元（約合1.8億元人民幣）分別轉入5個賬戶中。
這名員工就這麼照做了，5天后，在與真正總部的溝通中，他發現，自己被騙了。
更為震驚的是，在這場神秘的會議中，這名員工其實是唯一的一名真人，其餘所謂的高管，均由犯罪分子根據高管們在公開平臺的影片資訊透過技術生成，是一個個虛擬數字人，卻做到了真假難辨的地步。
這件事發生在一年前。一年時間，對AI行業而言，意味著技術的飛躍已是指數級攀升。
由此引發的犯罪頻率也越來越高。
2025年1月，銀川某建材公司經理張先生接到“領導”影片電話，要求緊急轉賬。因AI換臉技術高度逼真，他分兩次轉出20萬元。《法制日報》日前報道，天津李先生被AI合成的“領導”影片誘導轉賬95萬元，警方與銀行聯動凍結83萬元。山西某犯罪分子甚至利用AI換臉透過人臉識別註冊虛假公司，虛開增值稅發票42餘萬元。
一面是不斷高發的詐騙案例，一面是消費者淺薄的防範意識。
“有沒有高手會AI換臉呀？”
鳳凰網科技在檢索各大平臺資訊中發現，仍有不少人對換臉技術缺乏風險意識。某社交平臺上“AI換臉服務”帖子下，回覆清一色：“影片，照片，隨便換”。某二手平臺上，使用者僅需提供5秒影片和清晰五官照片，支付9.9元即可獲得定製化換臉影片，2.9元的低價安裝包也讓粗糙的換臉工具觸手可及，而DeepFaceLab等專業開源軟體搭配全網傳播的教程，更使得技術濫用呈現全民化趨勢。這種技術平權背後，暴露出法律監管與犯罪手段之間的嚴重失衡。
法律規制與技術進步之間的時差正在製造監管真空。以杭州網際網路法院2023年審理的虞某案為例，犯罪嫌疑人利用AI換臉技術製作淫穢影片非法牟利，被告賠償6萬元並公開道歉。
鳳凰網科技在諮詢相關領域律師後發現，儘管現行法律與管理規定已明確禁止利用資訊科技偽造肖像，且動態影像也已經受保護。但在責任邊界的某些方面以及賠償計算標準上缺乏量化細則。且目前由於立法還不完全，所受的懲罰與牟利並不成正比，這就讓犯罪之人有了更大動機。
同時，技術濫用已衍生出專業化犯罪鏈條，詐騙組織透過社交平臺精準盜取目標物件的生物特徵資料，利用雲端合成技術生成克隆聲像，實施“數字分身”詐騙。
當然，AI換臉也並非真的無懈可擊。
現有技術仍存在可識別的生理破綻，例如微表情缺失，光影不匹配，皮膚過度平滑，聲音缺乏停頓，語速快等問題，這些技術侷限為公眾提供了關鍵辨識視窗。
平臺該不該承擔更大的責任？
AI技術的普及讓內容生產的門檻被極大地降低了，但也讓網路世界開始充斥著濃濃的AI味兒。尤其是一些AI產品愈演愈烈的幻覺率，讓虛假資訊隨之滋生，使用者稍不留意便會陷入真假難辨的困境。
目前，此類問題在短影片平臺尤為突出，大量違背常識與道德底線的AI生成內容正在汙染網際網路，如“甄嬛吃漢堡”“寵物貓狗說人話”“AI雷軍”等，透過演算法推薦迅速擴散，擠佔優質內容的生存空間。
更令人擔憂的是，部分使用者對AI“一本正經地胡說八道”盲目信任。如缺乏甄別能力的老年人群體，正在被各類“賽博乖孫”控制。有網友說自己的奶奶最近經常對著手機螢幕“哎”，仔細一看才發現影片中是手拿元寶，一口一個奶奶的AI生成乖孫。
但這一切，真的沒有遏制的手段嗎？
此前《人工智慧生成合成內容標識辦法（徵求意見稿）》曾對此提出明確規範。
如在生成環節，要在相關內容的特定位置，新增直觀可見的顯式標識，讓使用者一眼便能察覺內容的AI生成屬性。在傳播環節，平臺的責任更加重大，要有能甄別並提示AI內容的能力。抖音在2023年曾釋出《關於人工智慧生成內容的平臺規範》，要求創作者主動標註AI生成內容，違規者將面臨處罰。
另一內容平臺的相關運營也對鳳凰網科技表示，對於AI生成內容，內部一直持謹慎態度對待。“從生態治理的角度，AI內容的風險肯定是大的，但從使用者活躍的角度來說，在極大的降低生產門檻後，會讓一批新的賬號長出來”，也因此，平臺對AI類內容一直持搖擺態度。
但對於突發事件中的AI謠言，平臺更需要主動承擔起識別並扼殺的任務。
如近期微博上流傳“某男星連續七日豪賭輸光10.3億元流動資產並抵押資產”的訊息， 3月10日晚，微博CEO王高飛（賬號“來去之間”）就專門做出回應，稱“AI分析完判斷該傳聞缺乏實質性證據，且主要資訊源為匿名賬號及營銷號，存在動機和邏輯漏洞……”。隨後在3月11日，周杰倫經紀公司傑威爾音樂官方微博也釋出宣告正式闢謠。
AI換臉技術引發的社會震盪正在重塑人類與技術共處的邊界。當生物特徵資料成為可被9.9元交易的商品時，其背後暗藏的系統性風險已超出個體防範範疇。多方觀點都認為，其規範之路任重而道遠。
數字文明的真正考驗，在於能否在程式碼世界重建人文價值的錨點。不是簡單地安裝一個技術補丁，而是需要將技術向善的原則轉化為法律條款、演算法規則和公民意識。唯有如此，才能在日漸強大的數字世界裡，守住人們的底線。