國內釋出首個AI停用令!用AI能被檢測出來?!

禁止使用 AI 寫作!近日,復旦大學下發的一紙禁令在網上引發熱議。這則訊息瞬間衝上熱搜。
在這個 AI 已經無孔不入的現在,人類真的能把 AI 創作關進籠子裡嗎?
更重要的是,我們真的能準確識別出哪些內容是 AI 生成的嗎?
還是咱們實際測一測吧,實驗的主角就是一款由人民網推出的 AI 識別工具:天目。
https://tianmu.people.cn/
它宣稱能準確識別出文本是否為 AI 生成,還能給出具體的 AI 生成率,準確率還賊高。
實話實說,作為一個 AI 圈子的愛好者,我對這個說法持謹慎態度。
畢竟現在但凡帶個 AI 字樣的東西,可信度都得打個對摺。

AI 檢測
看過我之前評測類文章的老粉都知道,為了得出一個相對可靠的結論,我通常會設計一個框架,目的只有一個,用有限的精力盡量多維度還原產品的產品效果,所以這次我是這麼設計的:
1.先用確認為 AI 生成的文章進行檢測,初步瞭解它的檢測能力;
2.再用確認為人類創作的文章進行檢測,反向進行驗證;

OK,那就開始吧。

AI 創作檢測
第一篇是前兩天我讓 AI 基於某個微信群聊的資料,模仿南周 1999 年新年獻詞的風格,寫一篇獻給群友的新年獻詞,當然這就是一時遊戲之作,結果呢:
檢測為 10% 的 AI 佔比率,實際上這是一字未改的原汁原味的 AI 寫的。
再來一個,這是抖音上有個影片,我列了個框架,讓它按要求寫出一篇短推文,我覺得這個文案寫的挺好的,完全符合我的要求。
經檢測 52% ,當然,這也是一字未改的原版 AI ,有意思的是,結尾最後幾段,正是我覺得文案寫的比較好的地方,被識別成了 AI 。
再來一個,前幾天寫了一篇關於 Soul 虛擬戀人的文章,這篇其實也是大部分由 AI 生成的,但是全網幾乎沒有任何文字資料,然後我是花了一天時間截了幾十張圖,分別餵給 AI ,然後我寫了個思路,讓 AI 根據這個框架分析圖片然後成文。
當然,這篇文章最後的成稿我修改了大概 10% 左右,保留了 90% AI 寫的內容,但是系統只檢測到了 20% ,這其中還有好幾句是我手寫的,但卻被標註為 AI 生成。

由此可見,這個檢測效果並沒有宣稱的那麼準確。

那到底什麼樣的內容容易被 AI 識別出來呢?
從被標紅的句子看,太規整反而容易露餡。人說話不會一直用那麼標準的措辭,寫得太工整反而不像人寫的。
AI 寫的少了點菸火氣,你看那些煽情的段落,形容詞堆得太整齊,情感渲染太刻意。真人寫東西哪有那麼講究,該跳就跳,該斷就斷,想到哪寫到哪。
還有,文章邏輯性特別強,每段都收收放放的。
總體的感覺是,這個系統的判斷策略比較激進,寧可錯殺一千,不可漏過一個。
既然是這樣,那麼不如試試純手搓的文章它會怎麼識別?
手寫文章檢測
為了進一步驗證,我又做了一組對照實驗。我找來幾篇完全是人工創作的文章來進行檢測。
第一篇選的是南方週末這篇著名的 1999 新年獻詞,被判定 AI 生成的內容的佔比達到了 29%。
一些比較工整的句子都被判定了 AI 生成。
第二篇是著名詩歌《致橡樹》,被判定 AI 生成的內容的佔比更高,41%。
就那麼多字,快要一半的內容都被判定是 AI 生成的了。
再放一篇白居易的《琵琶行》,居然 33%!目前的 AI 應該還寫不出這麼優美的詩句。
這兩組對照的實驗試下來,看來當你想用 AI 來抓 AI 的時候,往往會陷入一個荒謬的死迴圈。
寫在測試之後
那麼問題來了:為什麼這些號稱能識別 AI 生成內容的工具這麼不靠譜?是技術不夠完善,還是這件事本身就不太可能實現?
要回答這個問題,我們首先得先搞清楚大語言模型是怎麼寫作的。
說到底,AI 寫作就像一個博覽群書的語言藝術家。它在訓練階段讀過海量的人類作品,理解了詞句間的關聯,掌握了各種寫作手法。
當我們要求它寫作時,它會基於自己學到的模式,一個詞一個詞地推演出最合理的內容。
有意思的是,這個過程跟人類寫作驚人地相似。優秀的作家不也是透過大量閱讀和實踐,內化了寫作規律,然後再創作出新的作品嗎?
這就是為什麼高水平的 AI 生成內容,在行文邏輯和表達方式上都很人性化,因為它就是在模仿人類最優秀的寫作表現。
那麼,為什麼 AI 檢測工具難以識破 AI 生成的內容?
這其實就是一個悖論:這些檢測工具本質上也是 AI ,它們試圖從文字特徵中找出 AI 創作的痕跡,但問題是,現代 AI 已經學會了如何像人類一樣自然地寫作,它們生成的內容在統計特徵上與人類創作已經難以區分。
說到這裡,不知道大家發現了沒有:禁止使用 AI 寫作,或者執著於檢測 AI 生成內容,某種程度上都是在跟時代對抗。這就像當年有人試圖禁止學生使用計算器一樣,最終都會被歷史證明是徒勞的。
接受這個現實吧,人類已經進入不可逆的 AI 時代。
其實,與其糾結於如何識別和禁止 AI 創作,不如思考如何更好地利用 AI 提升創作效率,如何在 AI 輔助下創作出更有價值的內容。畢竟,AI 就像一把好用的工具,關鍵在於使用者如何運用它。
以及靜下心來思考:在這個 AI 已經不可避免滲透到創作領域的時代,我們應該如何提升自己的核心競爭力?
畢竟,決定內容價值的,永遠是背後的思想和創意,而不是它究竟由誰或什麼寫出來。

道理很簡單:關於 25*25=625 這件事,沒有人會去在乎你是在演草紙上算的,還是計算器算的。

彩蛋

在測試過程中,我生成了多篇文學作品,也算是這個測試的副產品吧,這裡面 AI 生成率有高有低,但是

有幾篇小說寫的是真不錯,我就存下來放在結尾,當成是彩蛋吧:

第一篇:《最後的晚餐》
向下滑動檢視全文
第二篇:《訪談錄:第七十三號實驗體》
向下滑動檢視全文
第三篇:《商品詳情:時光相框 SK-7 》
向下滑動檢視全文
你最喜歡哪篇?

相關文章