美國出臺首個聯邦人工智慧監管法案

來源：東不亞橋研究院

4月28日晚，美國國會眾議院以409:2壓倒性通過了《刪除法案》（TAKE IT DOWN Act），並提交川普簽署。川普和第一夫人梅拉尼婭早就明確支援透過該法。今天白宮舉行的川普就職百日釋出會上，發言人萊維特開場就宣佈：“這項重要立法由第一夫人親自倡導並引導透過，總統期待立即簽署它”。所以，該法案成法生效已是板上釘釘。

《刪除法案》的核心內容，如果總結成一句話就是：把釋出未經同意的私密露骨影像（Non-consensual Intimate Imagery, NCII，俗稱“報復性色情”）的行為定為犯罪，並要求科技平臺限時48小時刪除相關內容，否則將被聯邦貿易委員會（FTC）處罰。

這是美國多年來第一部直接監管網路內容的法案，也是第一部聯邦層面的人工智慧監管法案。它表面上是在處理隱私和色情剝削問題，本質上則是在聯邦層級首次針對生成式人工智慧（特別是深度偽造技術）濫用行為專門立法，並設定了具體的責任、處罰和執法機制，是美國首個生效的AI治理法案。當然，需要明確的是，該法案只管特定領域的AI濫用（深偽色情），不是歐盟AI法案那樣的綜合性監管框架，比起我國的《生成式人工智慧服務管理暫行辦法》切口也要更窄。換言之，法案管的是“用AI做了壞事的結果”，而不是對AI技術開發過程、模型訓練過程等進行直接規範。但這一小步，卻是美國AI監管頗具突破意義的一步。

整個法案的內容可以拆解為“刑事定罪“+“通知-刪除”兩個版塊：

一、刑事定罪

1、故意釋出未經同意的私密影像構成犯罪

《刪除法案》修改了《1934年通訊法》，明確禁止故意釋出未經他人同意的私密影像。這裡所說的“私密影像”，不僅包括真實拍攝的照片或影片，還包括用人工智慧或其他技術製作的、看起來和真人無異的合成影像。無論是直接拍攝還是數字偽造，只要影像中能識別出受害者的面容或特徵，且未經其同意被髮布，就屬於違法行為。

如果釋出的是成年人的私密影像，需要滿足幾個條件才構成犯罪，比如影像是在當事人有合理隱私期待的情況下拍攝的，不是公開場合展示的內容，也不是公眾關心的事務，同時釋出該影像的行為要麼是出於傷害意圖，要麼實際造成了心理、經濟或名譽上的傷害。而針對未成年人的私密影像規定更加嚴格，只要釋出者是為了羞辱、騷擾、貶低，或滿足性慾，即構成犯罪。

不過，法律也列出了一些例外情況。比如，執法或情報機關依法進行的調查使用影像時，或出於善意向警方舉報、在法律程式中使用、醫學教育等正當目的下披露影像，不算違法。此外，如果受害者本人自願釋出自己的私密影像，或影像屬於兒童色情等更嚴重犯罪範疇，則適用其他專門法律。

2、釋出AI合成的數字偽造影像同樣違法

除了真實拍攝的內容，使用AI或其他技術偽造出的假冒私密影像，同樣受到法律禁止。如果未經當事人同意釋出了這些高度逼真的合成影像，同樣需要滿足一定條件，比如不是本人在公開場合展示的，不是公眾關注事項，並且釋出行為帶有傷害意圖或實際造成傷害，才會構成犯罪。但涉及未成年人的合成色情影像，無論目的為何，只要有辱罵、騷擾、滿足性慾的意圖，就直接違法。

這些規定也有例外，和上面已經提到的一樣，但如果影像涉及兒童色情或兒童性虐待表現，無論是否存在同意，都會受到更嚴厲的處罰。

3、違法釋出私密影像的處罰

如果違法釋出成年人的私密影像或合成影像，最高可被判罰款和兩年監禁；如果釋出的是未成年人的，則最高可判三年監禁。法院在判決時，還可以命令沒收用於釋出違法影像的材料、非法獲利和相關工具。

此外，釋出影像之外，單純威脅他人說要釋出也屬於犯罪。威脅釋出真實影像的，適用正常處罰；威脅釋出數字偽造影像的，如果物件是成年人，最高判18個月監禁，如果是未成年人，則最高30個月監禁。

法院也可以責令違法者向受害者支付賠償。同時，法案特別強調，就算當事人曾同意拍攝影像，或者曾把影像發給別人，也不等於同意被公開發布。

二、數字平臺的“通知-刪除”義務

1、在法律生效後一年內，所有受監管的網站、社交平臺或應用，必須建立一套流程，讓受害者可以舉報自己的私密影像未經本人同意被上傳的情況，並要求平臺刪除這段影像。一旦接到舉報，平臺要在48小時內刪除相關內容，並盡力清除所有副本。

2、受害者提交請求時，需要提供：1）個人的手寫或電子簽名（確認是本人或授權人）；2）明確說明是哪段內容被濫用了，提供能幫助平臺快速找到內容的線索；3）簡要說明為什麼相信這段影像是未經自己同意釋出的，並提供相關背景資訊；4）聯絡方式，方便平臺核實或反饋。

3、平臺必須在網站或APP上明顯位置展示清晰說明，比如透過一個簡單易懂的網頁連結，告訴使用者：1）平臺對於處理私密影像的責任是什麼；2）使用者如何提交舉報和刪除請求。這些說明要用簡潔、易懂的語言，不能複雜晦澀，讓使用者難以理解。

4、善意免責：即如果平臺是基於善意判斷，相信某段影像是未經同意釋出的，因此選擇刪除或者限制訪問，即使最終發現那段內容是合法的，平臺也不會因此被追責或被索賠。

聯邦貿易委員會負責執法，監督各大平臺認真執行“刪除違規私密影像”的義務。平臺如果拖拖拉拉，或者直接拒絕受害者的刪除請求，就會被認定為搞欺詐，違反了《聯邦貿易委員會法》。一旦被抓住，不僅可能被調查、罰款，還可能被強制整改。委員會可以動用它手裡的一整套執法武器來處理這些違規平臺，無論是一般企業還是非營利機構，只要觸犯規定，都逃不過。

過去，美國在科技監管方面一直是雷聲大、雨點小。無論是管人工智慧、平臺責任，還是搞反壟斷改革，國會總是談得熱鬧，真到了立法的時候就老是卡殼。即使是對深偽色情這種，國會也是多次嘗試卻無功而返。比如，紐約民主黨眾議員、現在民主黨的少壯派AOZ和南卡共和黨眾議員Nancy Mace就曾聯合推出的《反抗法案》（DEFIANCE Act），賦予受害者起訴權；還有Dick Durbin、Josh Hawley等議員提的配套法案，最後都因行業反對而夭折。

直到2024年6月，才由參議員Ted Cruz推出了《刪除法案》的第一個版本，7月眾議院也跟進了配套文字。雖然法案在參議院修訂後，於12月初透過，但因為政府停擺，眾議院來不及審議。原本想趁年末打包進預算案，但預算案又被否決，法案被擋了下來，只能等到第119屆國會重新來過。2025年1月，Ted Cruz以參議院商務委員會新任主席的身份，再次提交了《刪除法案》，參議員Amy Klobuchar也參與了共提。

這次《刪除法案》的再啟動其實是典型的逆風而上：川普政府正強調去監管，科技行業對白宮的影響力前所未有地增強，萬斯在巴黎AI峰會和慕安會等各種場合剛強調了言論自由、反對AI監管。但儘管如此，法案還是以驚人的速度迅速推進。

在參議院提出《刪除法案》幾天後，眾議員Maria Salazar和Madeleine Dean也在眾議院提出了配套版本。這次，參眾兩院都有大批兩黨議員聯署支援——眾議院有41位，參議院也有20多位。因為上屆國會已審議過一次，這回推進得異常順利。法案提交後不久，參院直接跳過了常規的委員會審查流程，2月13日以全票一致透過。眾議院的進展也十分順利。在眾議院能源和商務委員會的審議中，法案以49票贊成、1票反對的結果透過。隨後，眾議院在不進行辯論的情況下，透過“暫停規則”程式迅速表決通過了該法案。

前臉書、推特、谷歌政策顧問Nu Wexler曾經形容，在美國要推動一項科技監管法案成功，需要“天時地利人和”，而《刪除法案》可能正好踩準了所有條件。

首先，近年來生成式人工智慧廣泛應用，大幅降低了製作高度逼真深度偽造色情內容的門檻，導致此類侵害隱私的影像激增，對受害者造成了嚴重的心理、名譽和經濟傷害，社會反應很大。儘管美國幾乎所有州都立法禁止“深偽色情”，但各州法律標準不一，執法不均，受害者往往難以及時要求平臺移除影像。因此，支援出臺聯邦統一法案的呼聲很高，科技界、政界、公益組織幾乎是一邊倒支援。

一直對AI監管和平臺規制比較牴觸的主要網際網路科技公司和社交媒體平臺，這次也都公開支援法案。一些平臺的負責人甚至直接參與法案的推廣。應當說，平臺企業也有自己的算盤：有個統一的聯邦標準，總比各州對深度偽造和“報復色情”搞“碎片化”立法要好得多，如果一定要立法，那平臺們肯定更想要一個聯邦法，這樣合起規來也容易地多。此外，反對這樣一項旨在保護女性和未成年人免遭色情剝削的法案，公眾輿論和道德形象顯然是很差的。

其次，或許是最重要的一個因素，是這項法案獲得了第一夫人梅拉尼婭·川普的力挺。《刪除法案》和梅拉尼婭長期關注的兒童和青少年網路安全議題高度契合，成為獲得她支援的關鍵。川普第一任期，梅拉尼婭發起了名為 “Be Best” 的倡議，主打的三大主題之一就是“兒童網路安全”，特別是青少年在社交媒體上遭遇網路欺凌、騷擾、虐待，以及因隱私被侵犯、被傳播不當內容而造成的心理傷害。而《刪除法案》的核心，就是要打擊未經同意的私密影像（包括青少年受害人）的網路傳播，防止深偽色情內容擴散，對梅拉尼婭來說無疑很容易形成價值認同。

自Ted Cruz重提法案以來，第一夫人辦公室就深度參與了整個立法程序。參院透過《刪除法案》後，梅拉尼婭親自出席了Ted Cruz和Maria Salazar組織的一場跨黨派圓桌會，和“報復色情”、深偽受害者一起發聲，呼籲國會加速透過法案。她不僅發表了演講，還邀請一位15歲的受害人女孩作為貴賓出席並分享自己的經歷，跟其他幾位受害者也進行了私下交流。據媒體報道，梅拉尼婭在私下聽取受害者經歷時多次動容，眼眶泛紅。她向工作人員表示：“每一個受害者的故事，都讓我更加堅信我們必須立法。”她還直接建議川普在國情諮文演講中特別提一下《刪除法案》，明確總統對法案的支援。後來川普確實照辦了，還半開玩笑地說：如果可以的話，我自己也會用這項法律保護自己，因為我是受深偽傷害最多的人之一。

不過，對《刪除法案》也有一些批評和質疑。像電子前沿基金會（EFF）就擔心這個法案可能會傷害到言論自由，甚至給川普這種政治人物一把新武器，讓他們有機會去打壓批評者。民主與技術中心（CDT）也提了警告：法案搞了個“通知-刪除”的機制，可能不只是刪除那些真正未經同意的私密影像，還會順帶把一些本來合法、正常的內容也刪掉。這樣一來，很可能會踩到憲法紅線，變成對大家自由發言的打壓。

還有人特別擔心加密通訊。比如WhatsApp這種聊天工具，訊息是端到端加密的，平臺自己都看不到內容。要是有人在加密群組裡發了違規影像，即使受害者舉報，平臺也沒辦法不破壞加密就刪掉。這樣一來，平臺要麼違規挨罰，要麼就得動手破壞加密，最後倒黴的可能是所有使用者的隱私。技術專家們指出，目前《刪除法案》沒有明確豁免加密平臺，也沒想好在加密環境下怎麼操作，是個明顯的漏洞，以後很可能還得靠補充立法或者新技術手段來把這個問題補上。

在《通訊規範法》230條之後，美國已經很多年沒有透過限制平臺內容的國會立法。《刪除法案》大幅強化了平臺對未經同意的私密影像的刪除義務，有點像是走歐盟《數字服務法》的路徑，和230條的避風港規則形成了一定張力。而且法案也沒有像版權領域那樣設立反通知機制，平臺為避免風險可能傾向於“先刪後問”，擴大刪除範圍，損害網路言論自由。合規層面，大型平臺可能是有準備，但中小平臺和加密通訊應用面臨很大壓力，有可能導致誤刪合法內容或為了合規犧牲使用者的通訊隱私。

不過，法案畢竟沒有開放就深偽色情內容對平臺的民事索賠渠道，也保留了善意刪除的免責機制，終歸堅持了230條的基本價值，只能說是極其有限的調整而非根本背離。此外，平臺託管兒童色情、未經同意的私密影像，本來就因屬於230條的例外而不享有民事責任的豁免，實際上又和230條的旨趣、要保護的利益是對齊的。

特定網路內容入罪和“通知-刪除”機制，無疑還直接觸及了憲法第一修正案，引發了對法案合憲性的合理疑問。這也是一些反對法案的人的論點之一，覺得法案可能迫使平臺為規避風險而“過度刪除”，限制合法表達，並且因為缺乏反制濫用的機制產生壓制言論的效果。還有人警惕未來政府可能以類似法律擴大對網路言論的審查範圍。

從第一修正案的先例看，合法的成人色情內容（即成年人自願參與、製作、傳播的色情作品）也受憲法保護，例外非常狹窄：只有兒童色情（Child Pornography）和真正的猥褻內容（Obscenity），其中似乎不包括“報復色情”。但美國最高法院的先例一貫認為，極端有害的內容，比如兒童色情、淫穢猥褻言論，以及直接與犯罪有關的表達，不受第一修正案保護。大部分深偽色情或“報復色情”（特別是涉及未成年人或性勒索）實際上屬於犯罪的一部分，即使不完全構成言論自由的例外，也因社會價值極低，可以依法禁止。換言之，《刪除法案》針對的是幾乎沒有表達價值的內容，不影響新聞報道或合法的成人內容，立法目標是防止人格權侵害而非打擊觀點，符合”內容中立“原則，應該可以透過嚴格審查。

法案原文：https://www.congress.gov/119/bills/s146/BILLS-119s146es.pdf

法案中文版：