來源丨新莓daybreak（new-daybreak）
作者丨何聆箏
編輯丨翟文婷
圖源丨Midjourney
一場針對AIGC作品的限制，正規模化地席捲各個平臺。
一些AIGC創作者在小紅書拉起群組，分享自己被限制的經歷。有人釋出12星座內容被判定「傳播封建迷信」，有人因為生成AI明星而遇到「侵權」提示。「虛構事件」和「假冒真人」是最常被引用的處罰理由。
同樣的情況也發生在影片號和抖音，大量AIGC作品遭遇下架和封禁。作品即便不被封禁，也會被限制流量曝光和商業權益。
許多人推斷，這一輪監管可能與9月1日即將實施的《人工智慧生成合成內容標識辦法》有關。該《辦法》要求所有AIGC內容需新增顯式標識（如文字提示、角標、語音宣告）和隱式標識（如元資料、數字水印）。
不過依然有創作者反映，標註AI水印後的作品，還是沒有被正常對待。
鼓勵AI創作的同時，也在限制AI。
平臺的這種矛盾心理讓創作者迷茫，困惑。他們不是明知故犯，挑戰規則，只是不知道邊界和紅線到底在哪，未來不知何去何從。
頻繁踩紅線？
AIGC創作者林聰最近有點煩。
她釋出在影片號的兩個AI人物影片，因為被判定非真人出鏡，影片推薦、私信和評論能力直接被停用。
按照要求，林聰詳細提交了個人身份驗證，選定AI製作選項，提交相關手機制作截圖。系統回覆，資訊不夠詳細，不能證明製作過程。
雖然她內心有些不情願，還是按照提示，再次把PC端所有制作關鍵流程截圖依序提交。這次驗證透過，而且系統提示：之後發表AI製作內容，選擇「內容為AI技術製作，虛構內容請謹慎甄別」等提示。
不過這次驗證只是恢復了影片評論功能，若需恢復私信功能，需要刪除所有AI製作內容後，再次提交申請。
刪除作品等於擦除個人名片，這讓她有些無法接受，所以至今她的私信功能都沒有恢復。
即便如此，林聰的體感是，這波針對AI作品的監管風潮，影片號不是最嚴苛的平臺。她告訴新莓daybreak，「好像除了快手打上AI標識沒什麼影響，幾個大的影片平臺都在清查AI創作的作品。」
林聰不是個例。小紅書關於AI限流的筆記數量超過3萬篇。從流量曝光，商業權益限制，到產品被下架，涉及不同程度的封禁。
短影片平臺風聲鶴唳，網文圈的行動其實更早。
今年2月，晉江打出「反AI」的第一槍，釋出了《關於AI輔助寫作使用、判定的試執行公告》，明確規定使用AI的邊界。接著，起點、番茄小說宣佈全面禁止AI，要求作品必須100%人工創作。
網文平臺整治力度之強，導致出現不少誤判的現象。甚至評論區出現「感覺像是AI寫的」，也有可能被編輯永久拉黑。
電商也加入行列，對「AI假圖」進行整頓。
3月27日，淘寶修訂了《淘寶網商品釋出規範》和《天貓商品釋出規範》，對「商品失真」做出明確的拓展解讀。其中一個重點的指向，便是利用AI等技術合成方式，呈現顯著失真的與實際不符的商品資訊效果圖。
整治力度空前，大有「寧殺錯不放過」的決心。
AI原罪？
過去兩年，在「AI暴富論」、「超級個體」的敘事邏輯下，「一鍵生成」的內容迅速在網際網路氾濫。
有人利用AI賣課，有人利用AI數字人販賣三無產品。淘寶上，大量AI生成的賣家秀誤導消費者購入，結果到手商品與圖片嚴重不符。AI亂象，AI汙染的聲音不絕於耳。
據林聰觀察，這一輪AI內容治理中，打擊較多的是同質化、低原創性內容。「現在有了AI，誰家的內容火了，大家就會快速大量地複製。」
一個典型的例子就是今年過年期間《哪吒》爆火後，抖音出現了大量跟風製作哪吒的現象。而這類題材往往使用的都是相似的提示詞或者同一個Lora生成的內容。
AI也讓一些機構的起號成本變低了，利用AI工具一天內可以生成了上百篇引發矛盾對立的筆記。小紅書去年三個月裡處置了超過100萬個黑灰產團伙，均為透過超大規模矩陣生成同質化內容。
為此，抖音從演算法層面切入，將「原創識別率」納入核心指標，AI生成內容若未標註或存在同質化「如重複率超25%」，會被判定為低質內容。而影片號則明確「禁止批次釋出透過近似的情景、文案、元素等編造的同質化內容」。
平臺重點整治的另一個方向便是，虛構真人形象和情節虛假誇大。
從平臺的角度，這一點不難理解。畢竟小紅書以「真實分享」為社群根基，影片號則要保障社交關係鏈中的資訊可信度。
這也是為什麼，小紅書去年就著手研發基於「分類器」技術的AI識別模型，對識別為疑似AI生成的內容進行標記。為了鞏固效果，小紅書還設定了機器識別與人工稽核的雙重屏障。
站在創作者的角度來看，這有些無奈。
因為「真實」這一特質天然就和AIGC背離，人物本身就是虛構的，情節自然也是虛構，所以這更像是貼附於自身的「原罪」。
平臺為「真實」所設立的門檻，還引發了另一個層面的「不公」：比起真實題材的影片，AIGC的稽核標準更為嚴苛。
半職業AIGC創作者藍心的作品最近也遭遇了違規提示。在小紅書上，她曾先後釋出了一系列真實的王一博的照片和AI生成的王一博影片。如今，前者仍掛在她的主頁，而後者已經被平臺要求刪除。同樣的題材，因為是由AI生成，便得到不同的判定結果。
值得一提的是，當下所有AI影片工具都在強調「真實感」。比如可靈的物理規律模擬、大幅度運動生成，比如即夢的質感提升、動作模仿，一切都在強調自身生成的效果接近真實。
從結果看，平臺不希望創作者利用AI復原人物真實感，假如AI創作一隻小貓、小狗，做出真實感，應該是會被接納的。
未來何去何從？
AI創作內容被嚴格限流的同時，各平臺的AI「軍備競賽」卻是日趨白熱化。
3月19日，小紅書才剛為旗下的AI應用「點點」上線了新入口，位於訊息頁面，且支援深度思考模式。幾天前，位元組開啟了「即夢3.0」的灰度測試，該版本在解析度上提升了50%，生成速度提升了30%。
更方便的入口、更新的版本、更強的效能，這些平臺投入了大量資源，推動了AI工具的發展。目的是為了搶佔下一代內容生產基礎設施，將創作者繫結在自身生態內。
但當大量創作者開始使用AI工具，並且湧入AIGC這個領域，平臺卻缺少一套清晰的規則和稽核標準來承接，這讓質疑聲頻出。
有人說平臺使勁拉人給AI工具做任務，搞了特別多相關的比賽和活動，然後大規模封禁，是一種誘導；也有人也說AI給平臺帶來不了利益，影響真人主播的收益，趁著政策出臺，正好「一刀切」比較痛快。
平臺既扮演AI工具提供者，又承擔內容稽核者角色，這種雙重身份本身就是一種挑戰。
有些平臺甚至還在主動催生矛盾，比如番茄小說為了訓練自己的AI，在簽約協議中曾新增AI訓練條款，引發過大量作者抵制和不滿。
自2023年生成式AI廣泛運用以來，伴隨AIGC作品而來的就是諸多質疑和限制。知名如AI繪畫作品《太空歌劇院》，曾兩次進行版權申請被拒絕。
AI作品不僅版權上得不到正名，「同行」之間的關係也愈發緊張。大量傳統內容創作者豎起了「反AIGC」的旗幟。這也使得2024年一款名為Cara的反AIGC社交產品，開始頻繁登頂美國App Store的下載榜單。
小紅書上也形成了一種「反AIGC」的氛圍，創作者唐飛對此感到無奈，「一些使用者看到AIGC作品就會點舉報，特別是繪畫圈的那群人。」
除了社會和法律法規層面的不被認同，對大模型廠商，AIGC還意味著一種危險：用AI生成的資料去訓練AI超過5次，模型效能會大減。萊斯大學和斯坦福團隊的研究人員將此稱之為「模型自噬障礙（MAD）」。
而當下的中文網際網路，AIGC作品正在走向氾濫。在已經公佈資料的平臺中，微信影片號AI生成內容佔比已經達到了30%。
其它平臺上，AI生成內容也肉眼可見地攀升。這一次封禁，小紅書上的一條評論得到了高贊：這是好事，每次搜資料搜素材出來全是大批大批的AI，想找到正經參考的都難。
大刀闊斧砍向AIGC的平臺，有點像是在治理一場數字領域的「蝗災」，目的不是為了「滅絕」，先從整體數量規模上減少，再從生態環境中防治劣質內容的生產。
面向未來，AIGC創作者又該何去何從？
有人總結了一條「532法則」，即：50%的人工，原創案例、真實情感、獨家觀點；30%的AI，資料整理、框架搭建、標題最佳化；20%的工具，用ContentAny等去除AI痕跡。
但這些經驗是否奏效，誰也無法保證。又或者說，當下奏效的經驗，幾個月後是否依然可行，沒人知道。
所有人都要習慣這種不確定性。