點選藍字 關注我們
SUBSCRIBE to US
如果你聽說過深度偽造（deepfakes），即人們做著從未做過的事或者說著從未說過的話的高度逼真影片，你可能會認為這是一種可疑的技術發展成果。例如，它們可能被用於高階網路釣魚詐騙中來冒充企業高管，在這類詐騙中，虛假語音郵件被用來向員工索要緊急資金。深度偽造技術逐漸進入我們的生活，在帶來驚喜和便利的同時，也暴露出一系列風險隱患，飽受爭議。
它們的存在引發了大量識別它們的方法的研究。
但深度偽造並非一無是處。事實上，它們可以被用於有益的用途。
它們可以讓跨國企業的高管用員工的母語傳達資訊，即時翻譯演講內容並且口型與所說的話相匹配。它們被用於建立逼真的模擬場景以促進員工發展，或者讓歷史人物重現生機，從而讓學校裡的複雜話題更通俗易懂。
為何研究人員需要“有益的”深度偽造技術
醫學領域是有益的深度偽造技術的最大使用者之一。這些深度偽造技術通常被用於為機器學習程式建立額外的訓練資料。例如，當研究人員訓練人工智慧（AI）在諸如磁共振成像（MRI）或X射線等醫學影像中檢測某些型別的癌症時，他們可能會使用深度偽造技術來為其資料集新增更多影像。
這是必要的，因為許多資料集規模較小或者不完整。訓練人工智慧模型需要對細節一絲不苟，需要大量的人工干預來標記資料集的某些特徵。有時，掃描結果標記不正確或者標記不一致，因為不同的人使用了不同的標準。這些問題可能會使人工智慧模型更難以準確學習。生成合成資料有助於克服這些挑戰，不過合成數據的質量也必須得到仔細監控。
製作深度偽造（作品）變得更容易了
IEEE高階會員Vivekanandhan Muthulingam表示：“雖然多年來製作深度偽造（作品）的技術變得更容易獲取了，但這仍然需要一定水平的專業知識。”
Muthulingam說：“現在有一些使用者友好型的工具和應用程式可供使用，這些工具和應用程式讓個人在沒有廣泛程式設計知識的情況下就可以嘗試製作深度偽造（作品）。然而，要獲得高質量的成果仍然需要對機器學習原理和影片編輯有更深入的理解。”
製作這些深度偽造（作品）的人也需要了解相關的主題內容。
IEEE會士Houbing Song說：“要製作‘有益的’深度偽造（作品），既需要人工智慧知識，也需要專業領域知識。”
倫理考量
專家警告說，僅僅因為深度偽造是出於善意目的而建立的，並不能免除倫理責任。負責任地使用它們意味著要誠實，並設定保護措施以支援學習和創新，同時又不危及信任或安全。在訓練資料方面可能也存在倫理考量，這些資料可能涉及版權或智慧財產權主張，或者是因為擔心將患者資訊用於訓練資料。
也可能存在一些灰色地帶，在這些地帶深度偽造的價值並非一目瞭然。
Song說：“一個深度偽造作品是好是壞將取決於其益處與社會期望的契合程度。從長遠來看，如果我們善用深度偽造技術，那麼該技術的益處將超過風險。”
瞭解更多：要深入瞭解研究人員如何使用機器學習在醫學影像中建立合成數據，請檢視IEEE的這篇文章：https://ieeexplore.ieee.org/document/10445413。
微訊號｜IEEE電氣電子工程師學會
新浪微博｜IEEE中國
· IEEE電氣電子工程師學會 ·
往
期
推
薦