來源：站長之家(ChinaZ.com)
5月6日，據 404 Media報道，網際網路最受歡迎的深度偽造色情內容線上網站 Mr. Deepfakes 於本週末永久關閉。
Mr. Deepfakes 網站一度吸引了大量“不良”使用者。研究人員指出，這些使用者願意支付高達 1500 美元的價格，讓創作者使用先進的 AI 技術，在未經名人或其他目標人物同意的情況下，使用她們的臉製作色情影片。研究人員發現，在巔峰時期，Mr. Deepfakes 有 4.3 萬條影片的瀏覽量超過了 15 億次。這些影片由近 4000 名創作者製作，這些所謂的“創作者”從這種不道德且如今已屬違法行為的交易中獲得了暴利。
不過，從本週起，這些影片再也無法觀看了，且曾用來供使用者提出製作新影片要求的論壇也已關閉。根據該平臺釋出的一則通知，當 “一家關鍵服務提供商”“永久” 終止服務時，網站就被關停了。
Mr. Deepfakes 證實稱：“資料丟失讓平臺無法繼續運營。” 同時他們警告，在其關閉後，不要相信任何之後出現的冒牌平臺。“我們不會重新上線。任何聲稱是我們的網站都是假的。這個域名最終會過期，我們不對其未來的使用負責。這條資訊將在一週左右後刪除。”
目前尚不清楚究竟是哪家服務提供商切斷了 “Mr. Deepfakes” 網站的服務。但，研究人員指出，深度偽造創作者要持續製作這類內容，“最關鍵的要素” 之一是透過谷歌 Colab 筆記本提供的 “免費層級的雲 GPU 訪問許可權”。
不過，谷歌方面暫時尚未對於媒體提出的“最近是否取消了該訪問許可權”這一問題作出回應。
Mr. Deepfakes 網站的倒閉正值美國國會透過《刪除法案》之後 —— 該法案規定，建立和傳播未經同意的私密影像（NCII）屬於違法行為，其中包括由 AI 生成的合成私密影像。任何收到有關 NCII 通知的平臺必須在 48 小時內將其刪除，否則將面臨美國聯邦貿易委員會的執法行動。執法行動要到明年春天才會開始實施，但該服務提供商可能是因為這項法律的透過而封禁了 “Mr. Deepfakes” 網站。據《連線》雜誌報道，去年，在英國宣佈有意透過類似法律後，“Mr. Deepfakes” 網站就搶先開始遮蔽來自英國的訪問者。
不過，“Mr. Deepfakes” 網站的關閉並不能解決深度偽造問題。2022 年，隨著 AI 技術使合成的 NCII 愈發逼真，深度偽造內容的數量急劇增加，這促使美國聯邦調查局在 2023 年發出警告，提醒公眾這類虛假內容正愈發頻繁地被用於性敲詐行為，但社會用來阻止其傳播的即時解決方案卻收效甚微。
據研究人員稱，“Mr. Deepfakes”（一個真實存在的人，身份匿名，但據報道是多倫多一名 36 歲的醫院工作人員）開發的程式推動了深度偽造內容的激增。研究人員發現，他開發的 DeepFaceLab 軟體迅速成為 “領先的深度偽造軟體，據估計，95% 的深度偽造影片都是由這款軟體製作的，且該軟體在 GitHub 上已被複制了 8000 多次”。對於普通使用者來說，他的平臺上有可供購買的影片，如果影片製作得很逼真，價格通常會超過 50 美元；而更有積極性的使用者則會透過論壇提出要求，或者提升自己的深度偽造技術，成為創作者。
“Mr. Deepfakes” 的非法交易最早始於 Reddit，但在 2018 年被封禁後，就轉移到了他自己的平臺上。在那裡，數千名深度偽造創作者分享技術知識，研究人員去年指出，“Mr. Deepfakes” 網站的論壇最終成為了 “製作深度偽造色情內容的唯一可行的技術支援來源”。
由於之前已經遷移過一次，這個群體應該還是會透過新的平臺來繼續製作非法內容，且“Mr. Deepfakes” 似乎想避開公眾的關注，因此可能會以一個新的名字重新出現。據悉，早在 2023 年，研究人員估計該平臺有超過 25 萬名成員，他們中的許多人可能會迅速尋找替代平臺，甚至嘗試搭建一個替代平臺。
“Mr. Deepfakes” 的恐怖統治可能還未結束，這一可能性進一步增加，因為 DeepFaceLab 在 GitHub 上的儲存庫（已於 11 月存檔，無法再進行編輯）仍然可供任何人複製和使用。
404 Media 報道稱，許多 “Mr. Deepfakes” 網站的成員已經在 Telegram 上取得了聯絡，據報道，在 Telegram 上也經常有合成 NCII 的交易。加州大學伯克利分校的教授、數字偽造影像領域的頂尖專家漢尼・法裡德表示：“雖然這次關停是一個好的開始，但類似這樣的平臺還有很多，所以我們不能就此止步。”
歡迎加入影片號會員！
