編譯 | 徐豫
編輯 | 心緣
全球首部AI法規前腳剛部分生效，後腳便有了具體使用指南。
智東西2月5日報道，昨天歐盟公佈了其《人工智慧法案》（AI Act）的指導方針草案，對僱主、網站、平臺等主體合規利用AI技術的方式和情景，作出了進一步的解釋說明。不過，這些指導方針並不具備法律約束力，主要是《人工智慧法案》的執行參考，最終解釋權歸歐盟法院。
依據新發布的指導方針，企業若濫用AI技術潛意識操控、欺騙誤導、“戴有色眼鏡”區別對待個人或群體，都有可能被處以最高3500萬歐元，或全球總營業額的7%的罰款
同時，指導方針中也提出了一些可豁免處罰的情況，比如涉罪犯抓捕、醫學治療、軍事使用、科研、個人非商用等。
歐盟這部《人工智慧法案》是全球首部全面監管人工智慧的法規，該法案把AI應用的風險分為了4類，包括不可接受風險、高風險、透明風險和最低風險。
其首批法規本月2日剛正式生效，這意味著法案中規定的“不可接受風險”行為被完全禁止，諸如上文提到的潛意識操控和歧視性對待。
整部法案則將於明年的8月1日正式生效。按照歐盟官網的資訊，這期間指導方針會根據實際執行經驗與技術進步定期更新。
該草案連結：
https://ec.europa.eu/newsroom/dae/redirection/document/112367
01.
誤導老人付費訂閱
未經許可抓取人臉照片，均涉違法
基於《人工智慧法案》第5條，歐盟界定的禁止性人工智慧行為主要有以下6種情形：
1、操控、欺騙與剝削
使用閃爍的視覺、聽覺訊號等潛意識技術，在未被察覺情況下影響行為。例如，在廣告中插入人眼無法察覺的“閃屏”影像，形成潛意識操控。
透過欺騙性技術誤導使用者，使其在非自願或未充分知情情況下做出決策。例如，利用情緒分析技術引發使用者購買某產品或服務，對使用者實施情感操控。
利用心理偏見、脆弱性或社會經濟因素進行操控或剝削。例如，針對老年人設計誤導性介面，誘導點選，從而剝削弱勢群體。
同時滿足以下所有條件，上述情況便構成禁止性人工智慧行為。它們分別是使用潛意識、操控性或欺騙性技術；使個人或群體行為發生實質性扭曲，無法做出知情決策；導致顯著傷害，或有合理可能性造成傷害。
2、社會評分
禁止基於社會行為或個性特徵，對個人或群體進行分類評分，特別是當評分涉及了以下兩種情況，一是資料來自無關社會情境，二是不公平或不成比例的差別對待。
例如，禁止某機構透過監控社交媒體行為評分，影響就業機會；禁止使用評分系統限制貸款發放。
同時滿足以下所有條件，上述情況便構成禁止性人工智慧行為。其包括公共或私人機構的評分系統，例如信用評分、教育評級等；也適用於帶有歧視性的應用，如基於性別、種族或經濟地位評分。
3、刑事風險預測
禁止僅基於個人特徵，包括性格、行為模式等，來預測犯罪風險的人工智慧系統，比如基於種族或文化背景預測犯罪傾向。
但如果符合以下情況可以予以豁免，即基於客觀和可驗證事實的人類評估，包括一些直接關聯某犯罪活動的證據，例如透過特定資料分析，支援人工審查犯罪行為。
4、面部影像無差別抓取
禁止透過網際網路或監控影片，大規模、無目標抓取面部影像，以建立或擴充套件面部識別資料庫。
例如，從社交媒體抓取公眾面部照片，用於訓練面部識別演算法，經使用者明確同意的合法抓取的情況除外。
5、情感識別
禁止在工作場所或教育環境中使用情感識別技術，例如透過攝像頭抓取資料，分析學生在課堂上的注意力或情緒。
若僅限於醫療診斷或安全目的使用該技術，則可以予以豁免。例如，涉及精神疾病診斷時，所用到的基於情感識別技術的醫療裝置。
6、即時遠端生物特徵識別（RBI）
禁止在公共場所即時遠端生物特徵識別（RBI），用於執法目的。
但如果是搜尋特定犯罪受害者，如拐賣兒童；預防迫在眉睫的威脅，如恐怖襲擊；追蹤特定犯罪嫌疑人等情景，則可以予以豁免。
02.
科研和國安領域不受法案監管
企業最高至少罰2.6億元
適用範圍方面，涉及以下3種情況的人工智慧系統不適用《人工智慧法案》：
1、專用於國家安全或軍事目的；
2、處於科研階段的人工智慧技術，但後續應用於實際場景或流入市場時，需完全符合法案要求；
3、個人非商業用途，例如家庭安全監控。
法案監督方面，參與《人工智慧法案》的成員國需指定市場監督機構，歐盟資料保護監督員負責監管歐盟機構的人工智慧系統。
處罰條款方面，最高罰款為3500萬歐元，或涉事公司全球總營業額的7%。以數額較高者為準。如果是公共機構，罰款上限則為150萬歐元。同一行為若違反多個條款，不得重複處罰。
03.
結語：全球首部AI法規落地
前方阻力重重
歐盟的《人工智慧法案》是全球首部管理維度較為全面的人工智慧法律框架，但自去年3月最終批准後，仍受到不少科技大廠和AI領域頭部公司的反對。據TechCrunch日前報道，Meta、蘋果、法國AI大模型獨角獸Mistral AI均未簽署該法案。
另據英國《金融時報》昨日報道，美國現任總統特朗普本月初警告稱，他認為歐盟對美國公司採取的任何行動，都是一種“稅收形式”。他在達沃斯世界經濟論壇（World Economic Forum in Davos）上講話時稱：“我們對歐盟有著非常大的抱怨。”
此外，各人工智慧系統設計符合《人工智慧法案》的同時，也需要遵守《通用資料保護條例》（GDPR）等資料保護法規、廣告法、醫療器械法規、數字服務法（DSA）等實際涉及到的法規。
來源：歐盟委員會官網、TechCrunch、英國《金融時報》、路透社
（本文系網易新聞•網易號特色內容激勵計劃簽約賬號【智東西】原創內容，未經賬號授權，禁止隨意轉載。）