◎ 胡定坤
近日，國家網際網路資訊辦公室等四部門聯合釋出《人工智慧生成合成內容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行，強制性國家標準《網路安全技術 人工智慧生成合成內容標識方法》也將同步實施。
近年來，人工智慧（AI）技術突飛猛進，AI生成合成的文字、圖片、音影片等在網路平臺迅速傳播，在豐富資訊內容的同時，也成為編造虛假資訊、擾亂傳播秩序、實施新型詐騙的幫兇。有利用AI撰寫假新聞、造謠博眼球者；有假手AI發表評論，打造“智慧水軍”者；還有深度造假知名院士影片，帶貨宣傳護膚品者；更有藉助AI假冒明星，騙取老人錢財者……
AI技術給虛假資訊披上高科技“偽裝衣”，使“耳聽未必為真、眼見未必為實”，且技術還在不斷迭代，迷惑性越來越強。防範AI造假，不僅僅是網路平臺的責任，依靠公眾的“火眼金睛”去識別造假行為更不現實。
給AI生成合成內容新增標識，是從源頭上治理AI造假的有效手段。如果把AI生成合成內容比作一種特殊產品，製作內容的AI服務商就是廠家，傳播內容的網路平臺就是商店。《標識辦法》規定，廠家在產品出廠時要貼上標識引起商店關注，商店也要在銷售時透過貼標識等方式提醒消費者注意。其作用就是從內容生產和傳播的源頭入手，給“AI造”打上識別碼，使其更容易被網路平臺檢得出、被社會公眾看得見。公眾知道眼前資訊源自AI，也就不會輕易上當受騙。
AI正在蓬勃發展，我們既要加強對其有違倫理方面的治理，但又不能因這種治理而阻礙技術進步。顯然，制訂《標識辦法》注意到了這種平衡。比如，並未強制要求AI服務提供者採取難度過大、成本過高的標識技術，而是創新提出多種低成本標識方法，以避免增加企業負擔、導致其對AI技術研發的投入受到影響。制訂強制性國家標準，也充分吸納了AI領域高科技企業的專業意見。相關部門的這些舉措，體現了“統籌發展和安全”的治理理念。
當然，治理AI造假，除了資訊標識，技術防範同樣不可忽視。比如，對網路平臺上沒有依規標識的AI生成合成內容該如何檢測？怎樣提升檢測能力？如果未檢測識別出來且造成不良社會影響的，責任應當如何劃分？還有，對那些我國法規約束之外的境外AI工具生成合成內容，其釋出和傳播該怎樣管理？這些，都是在《標識辦法》實施中值得關注和解決的問題。
AI可以擬人、助人，但不能騙人、坑人。我們相信，《標識辦法》的釋出和施行，將有效治理“AI造假迷人眼”的亂象，還網路空間以清朗，促AI發展之健康。
編輯：王宇
