言必談AI、文必查DeepSeek，生成式 AI 儼然成為今年的潮流所向。可在享受AI帶來諸多便利的同時，我們也應該注意它背後的風險。
以醫療行業為例，具備強大邏輯推理能力的AI很會編資料，它能生成不存在的規範條例，編造不存在的事實，同時讓人難以辨別真偽。比如說首次透過DeepSeek遠端手術系統完成顱腦血腫清除術。
一位醫生也曾告訴健康界，甚至根據病人的診斷記錄，利用演算法和邏輯推理出一段病理資料，完全看不出來是假的，甚至高年資的醫生也無法分辨出真假。
據報道，來自上海市兒童醫院的科普達人「志玲姐姐」李志玲就曾表示，科普人最大的煩惱就是「造謠一張嘴，闢謠跑斷腿」。在AIGC（人工智慧生成內容）技術的「加持」下，只需幾秒，就可批次生產偽科普作品。
AI生成的內容究竟能不能信？能不能用？這取決於使用者的判斷。因此，更多專家呼籲，必須要合理合法使用AI，正視AI的幻覺，出臺相關的法律規範做好監督引導。
3 月 14 日，國家網際網路資訊辦公室、工業和資訊化部、公安部、國家廣播電視總局聯合釋出《人工智慧生成合成內容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行。
該《標識辦法》將以內容標識為抓手，細化前期相關部門規章的標識相關要求，進一步發揮內容標識提醒提示和監督溯源的技術作用。
《標識辦法》明確規定，人工智慧生成合成內容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內容或者互動場景介面中新增的，以文字、聲音、圖形等方式呈現並可以被使用者明顯感知到的標識；隱式標識是指採取技術措施在生成合成內容檔案資料中新增的，不易被使用者明顯感知到的標識。
同時，《標識辦法》還強調，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得透過不正當標識手段損害他人合法權益。
有觀點指出，這項以「透明標識」為核心的管理制度，不僅是對技術狂飆的理性回應，更構建起數字文明時代的新型社會契約，其積極影響正在多個維度顯現。
《中國科學報》的一篇文章中這樣寫道，科學技術的發展史，也是一部科技倫理不斷對新技術進行必要約束的歷史。對AI生成內容進行顯著標識，一方面體現了對公眾知情權的基本尊重，能夠起到提醒作用；另一方面，也讓一些人不能掩耳盜鈴地把AI創作據為己有，盡到了起碼的倫理責任。
針對一些使用者過分仰仗簡單提示詞，隨意將 AI 生成內容用於商業目的，造成侵權。清華大學瀋陽教授在受訪時建議，一方面使用者要謹慎將 AI 生成內容用於商業目的，另一方面，如使用者想要將 AI 生成內容賦予智慧財產權，需融入自己的獨創性提示詞內容，在不侵犯他人 IP 和合法權益的前提下，透過相應渠道進行智慧財產權宣告，以此維護自身合法權益。
以下為《標識辦法》原文：
第一條 為了促進人工智慧健康發展，規範人工智慧生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，根據《中華人民共和國網路安全法》、《網際網路資訊服務演算法推薦管理規定》、《網際網路資訊服務深度合成管理規定》、《生成式人工智慧服務管理暫行辦法》等法律、行政法規和部門規章，制定本辦法。
第二條 符合《網際網路資訊服務演算法推薦管理規定》、《網際網路資訊服務深度合成管理規定》、《生成式人工智慧服務管理暫行辦法》規定情形的網路資訊服務提供者（以下簡稱“服務提供者”）開展人工智慧生成合成內容標識活動，適用本辦法。
第三條 人工智慧生成合成內容是指利用人工智慧技術生成、合成的文字、圖片、音訊、影片、虛擬場景等資訊。
人工智慧生成合成內容標識包括顯式標識和隱式標識。
顯式標識是指在生成合成內容或者互動場景介面中新增的，以文字、聲音、圖形等方式呈現並可以被使用者明顯感知到的標識。隱式標識是指採取技術措施在生成合成內容檔案資料中新增的，不易被使用者明顯感知到的標識。
第四條 服務提供者提供的生成合成服務屬於《網際網路資訊服務深度合成管理規定》第十七條第一款情形的，應當按照下列要求對生成合成內容新增顯式標識：
（一）在文字的起始、末尾或者中間適當位置新增文字提示或者通用符號提示等標識，或者在互動場景介面、文字周邊新增顯著的提示標識；
（二）在音訊的起始、末尾或者中間適當位置新增語音提示或者音訊節奏提示等標識，或者在互動場景介面中新增顯著的提示標識；
（三）在圖片的適當位置新增顯著的提示標識；
（四）在影片起始畫面和影片播放周邊的適當位置新增顯著的提示標識，可以在影片末尾和中間適當位置新增顯著的提示標識；
（五）呈現虛擬場景時，在起始畫面的適當位置新增顯著的提示標識，可以在虛擬場景持續服務過程中的適當位置新增顯著的提示標識；
（六）其他生成合成服務場景根據自身應用特點新增顯著的提示標識。
服務提供者提供生成合成內容下載、複製、匯出等功能時，應當確保檔案中含有滿足要求的顯式標識。
第五條 服務提供者應當按照《網際網路資訊服務深度合成管理規定》第十六條的規定，在生成合成內容的檔案元資料中新增隱式標識，隱式標識包含生成合成內容屬性資訊、服務提供者名稱或者編碼、內容編號等製作要素資訊。
鼓勵服務提供者在生成合成內容中新增數字水印等形式的隱式標識。
檔案元資料是指按照特定編碼格式嵌入到檔案頭部的描述性資訊，用於記錄檔案來源、屬性、用途等資訊內容。
第六條 提供網路資訊內容傳播服務的服務提供者應當採取下列措施，規範生成合成內容傳播活動：
（一）核驗檔案元資料中是否含有隱式標識，檔案元資料明確標明為生成合成內容的，採取適當方式在釋出內容周邊新增顯著的提示標識，明確提醒公眾該內容屬於生成合成內容；
（二）檔案元資料中未核驗到隱式標識，但使用者宣告為生成合成內容的，採取適當方式在釋出內容周邊新增顯著的提示標識，提醒公眾該內容可能為生成合成內容；
（三）檔案元資料中未核驗到隱式標識，使用者也未宣告為生成合成內容，但提供網路資訊內容傳播服務的服務提供者檢測到顯式標識或者其他生成合成痕跡的，識別為疑似生成合成內容，採取適當方式在釋出內容周邊新增顯著的提示標識，提醒公眾該內容疑似生成合成內容；
（四）提供必要的標識功能，並提醒使用者主動聲明發布內容中是否包含生成合成內容。
有前款第一項至第三項情形的，應當在檔案元資料中新增生成合成內容屬性資訊、傳播平臺名稱或者編碼、內容編號等傳播要素資訊。
第七條 網際網路應用程式分發平臺在應用程式上架或者上線稽核時，應當要求網際網路應用程式服務提供者說明是否提供人工智慧生成合成服務。網際網路應用程式服務提供者提供人工智慧生成合成服務的，網際網路應用程式分發平臺應當核驗其生成合成內容標識相關材料。
第八條 服務提供者應當在使用者服務協議中明確說明生成合成內容標識的方法、樣式等規範內容，並提示使用者仔細閱讀並理解相關的標識管理要求。
第九條 使用者申請服務提供者提供沒有新增顯式標識的生成合成內容的，服務提供者可以在透過使用者協議明確使用者的標識義務和使用責任後，提供不含顯式標識的生成合成內容，並依法留存提供物件資訊等相關日誌不少於六個月。
第十條 使用者使用網路資訊內容傳播服務釋出生成合成內容的，應當主動宣告並使用服務提供者提供的標識功能進行標識。
任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得透過不正當標識手段損害他人合法權益。
第十一條 服務提供者開展標識活動的，還應當符合相關法律、行政法規、部門規章和強制性國家標準的要求。
第十二條 服務提供者在履行演算法備案、安全評估等手續時，應當按照本辦法提供生成合成內容標識相關材料，並加強標識資訊共享，為防範打擊相關違法犯罪活動提供支援和幫助。
第十三條 違反本辦法規定的，由網信、電信、公安和廣播電視等有關主管部門依據職責，按照有關法律、行政法規、部門規章的規定予以處理。
第十四條 本辦法自2025年9月1日起施行。
點選底部“閱讀原文”檢視更多
國際在職“MBA/EMBA/DBA”課程
↓↓↓↓↓↓↓↓↓