大家好哇，木子九來值班啦~

想問大家一個小問題，大家用過AI換臉嗎？

我猜絕大多數人都是用過的

換臉龍媽

▲圖片來源：vidnoz.com

從這個角度來說，AI換臉這項技術的成熟確實是在豐富咱的網路生活。但從另外一個角度來看，潛在的危險也離我們越來越近……

2020年那場震驚世界的韓國「N號房」事件，大家還有印象嗎？就在最近，它重演了！就是以AI換臉的形式……

隨著2021年下半年的終審，主犯趙主彬被判處了42年有期徒刑，至此韓國N號房事件告一段落，相關立法也在同步進行。

2020 年 3 月，趙周彬被移交給檢察機關

▲圖片來源：Google

但N號房，就像是一隻被看到（且拍扁）的蟑螂，而這意味著在我們看不到的地方可能已經藏了千千萬萬只了……

就在N號房落幕的同一年，兩名首爾大學的畢業生，已經開始在通訊軟體Telegram上私密傳播用「deepfack」技術合成的色情照片或影片，也就是使用AI換臉的色情製品。

這些影片幾乎無需和受害人有多少接觸，僅僅是利用受害者的社交媒體甚至是畢業照，就可以完成一場真實的性剝削。

▲圖片來源：Google

從2021年7月至今，他們共製作了2100多段色情影片和圖片，受害者有60多人，其中不乏大學女生和未成年人。

而這些偽造的影片和圖片還會被擺在受害人面前，變成要挾她們接受線下侵害的威脅。

不敢想象，那些十幾二十歲的女生突然面對「自己主演」的色情製品時該有多崩潰。

▲圖片來源：koreatimes

也不只是國外，國內也早有例子證明，AI換臉或許早就可能觸及道德和法律的底線。

在2020年，杭州虞某就曾利用相關軟體製作大量的淫穢色情影片並傳播，受害人中有女性明星，也有被變態暗戀者定製換臉色情影片的普通女性。

▲圖片來源：微博

而關於「deepfack」濫用的事情，不僅是韓國，在全世界範圍內有很多很多

▲圖片來源：www.ctol.digital/news

雖然多數事件都以法律制裁收尾，但躲在暗處的情色霸凌真的停止了嗎？！處在這個AI技術迅速發展的時代，毫不誇張地說，每個人都可能是獵人，也都可能是獵物。

只要一串程式碼，就可以脫下任何一個人的衣服；只需要幾張臉部照片，就可以生成色情圖……

如此低門檻的方式，也意味著蕩婦羞辱和色情復仇的成本越來越低，而它們的受害者通常是女性。

2023年夏天的廣州地鐵中，一個女性乘客就曾被「AI一鍵脫衣」。

生成裸照只用了幾秒鐘，但隨即展開的賽博圍剿卻持續了十數天之久，有人說她是夜店舞女，也有人說她明碼標價，還有人對她的身體評頭論足……

▲圖片來源：herworld.com

在理性網友找到原圖後，後知後覺的人們才發現，這竟然是一次零成本的AI黃謠。造謠者不費吹灰之力，便可以讓受害者深陷難以自證的泥潭。

但即使涉事相關AI軟體已經被封禁，那張圖還在網際網路上能搜到，而製圖者依舊在茫茫人海中完美隱身……

而這只是AI繪畫中很基礎的操縱，更高階的AI可以根據不同的提示詞和多張圖片生成更多嶄新的圖片。

它和AI換臉/修圖還不一樣，換臉/修改就意味著有原圖，有原圖就可以證偽；但AI生成的圖片是沒有原圖的，女性要如何證明那張逼真的大尺度照片上的人不是自己呢？

而比AI繪畫更難辨別真假的，還有AI影片。

隨著AI技術的發展，一鍵換臉的功能也被一些綜藝節目使用，雖然看起來和五毛特效差不多，但是不難想象隨著技術的發展，真假的辨別也將會成為一個問題。

曾經我們認同眼見為真、影片為證，但是在AI如此發達的今天似乎不太成立了。

而這項讓人驚歎的技術，早就被不法分子盯上了。

今年2月就曾曝出，一家跨國公司香港分部的職員受邀參與總部的視訊會議，被要求將2億港元分別轉賬到5個賬戶中，轉賬後向總部查詢才發現受騙。

隨著警方的調查，該職員參加的多人視訊會議，只有他一人是真人，其他人都是AI換臉合成的。

▲圖片來源：微博

類似詐騙事件在陝西也出現過，受害者陳述時也提到，照片影片電話都有，很難判斷這是假的。

所以當這項技術用到了生成女性色情影片上，取證、追查、下架影片的難度又會有多大！對受害者的身心傷害又會有多大！我們真的不難想象。

那麼，當推動社會發展的技術可能變成斬向我們的利刃時，我們應該怎樣更好地保護自己呢？

2023年8月15日我國就已經透過並施行了《生成式人工智慧服務管理暫行辦法》 ，其中對人工智慧的技術發展方向以及使用規範做了明確的規定。

▲圖片來源：參考資料[5]

不過還是希望立法部門可以有更加明確細緻的立法，國家能加大宣傳普法力度，讓更多的人瞭解以AI為手段實施違法犯罪行為可能觸犯什麼型別的法律，如果做了會受到什麼懲罰以及受害者如何維權。

就目前來說，根據《中華人民共和國治安管理處罰法》第四十二條第六項，偷窺、偷拍、竊聽、散佈他人隱私的，處五日以下拘留或者五百元以下罰款；情節較重的，處五日以上十日以下拘留，可以並處五百元以下罰款。

同時，根據《中華人民共和國刑法》第三百六十四條規定，傳播淫穢的書刊、影片、音像、圖片或者其他淫穢物品，情節嚴重的，處二年以下有期徒刑、拘役或者管制；第三百六十三條規定，以牟利為目的，製作、複製、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，並處罰金；情節嚴重的，處三年以上十年以下有期徒刑，並處罰金；情節特別嚴重的，處十年以上有期徒刑或者無期徒刑，並處罰金或者沒收財產。

如果利用色情圖片對當事人採取恐嚇、威脅或要挾等方法進行索要錢款等行為，可能涉嫌敲詐勒索罪。此外如果利用照片和影片威脅、逼迫女性繼續與其進行性行為，可能涉嫌構成強姦罪。

逃避和妥協只會助長犯罪者的氣焰，如果真的遇到了這些情況，螢幕前的家人可以採用以下這些方式保護自己。

首先，立即儲存並備份所有涉及你的色情影片和照片的截圖、錄屏/原始檔案。

收集與這些影片和照片相關的所有資訊，如釋出時間、釋出平臺、釋出者ID賬號、瀏覽轉發數量、相關評論，儲存侵權主體的相關資訊及傳播資訊，以作為情節嚴重程度的判斷依據。

立即向當地公安機關報案，提供相關證據和資訊；詳細描述情況，包括如何發現這些影片和照片，以及可能的嫌疑人或動機。

如果這些影片和照片被髮布在某個線上平臺上，立即聯絡平臺管理員或客服，請求他們刪除相關內容。如果平臺不配合，可以向警察反饋，請求協助立即下架或刪除影片，避免進一步傳播。

如果有明確的犯罪者或犯罪平臺，可以諮詢專業律師，瞭解你受到侵害的法律權益和可能最大限度維護權益的法律途徑。根據律師的建議，採取進一步的法律行動，如提起訴訟或要求賠償。

如果情況嚴重且公開說明有助於保護你的名譽和權益，可以考慮在適當的時候釋出公開宣告。

在宣告中澄清事實和警察的調查進展，表明這些影片和照片是偽造的，並呼籲身邊人不要傳播或相信這些虛假內容。

《房思琪的初戀樂園》後記中有這樣一段話：

「任何關於性的暴力都是社會性的，或應該這麼說，任何關於性的暴力，都不是由施暴者獨立完成的，而是由整個社會協助施暴者完成的。」

當數字性暴力被簡單化為所謂的「資源」，一個從生產到消費的灰色產業鏈閉環就形成了。

如果螢幕前的你看過這樣的內容，希望大家可以反手就是一個舉報，不感興趣、不下載、不傳播，怎麼不算是對受害人的幫助呢，又怎麼不算是對灰色產業鏈說「不」呢。

今天就這樣啦，祝所有的女生/男生都可以不被惡意所擾~