1245個字 閱讀時長：3分鐘
中產先生 | 洞見時代 發現價值 講述生活
必須重視了。
前天，我們寫了一篇文章，轉發很多：
主要講了兩個問題：
一個是AI幻覺，就是AI因為訓練機制的設定問題，可能跟語料也有關，就是存在迎合或者討好提問者而一本正經得瞎編亂造，長此以往，很可能顛覆整個人類的知識體系，雖然提高了很多人的認知下限，卻鎖死了大部分人的認知上限。
一個是資訊汙染
，因為AI在編小作文的方面又快又好，所以被很多灰產用來編爆文，我已經看到幾篇AI自己寫的10萬+爆文了，非常爽非常震驚，如果不細細推敲的話，根本辨別不出來。
比如下面這篇講深圳婚戀江湖的：
長此以往，我們很可能生活在一些被虛假資訊包圍的內容生態裡，這可比社交媒體的資訊繭房更可怕，因為真實成了稀缺品。
本來我以為這已經很驚悚了，沒想到這些人的膽子也太大了：
開始編造涉政涉軍的謠言了。
這幾天廣為傳播的一則涉軍謠言就是這個，一早被作者刪除了，但是截圖已經傳瘋了，相信很多人都看過：
這件事情本身是真的，但是網上傳播的細節，全是AI瞎編的，為什麼傳播這麼廣，也正是AI瞎編的細節和金句過於精彩離奇：
網路大V闌夕最早發現的，你看這些AI編的細節，連微博的CEO都震驚了。
在社交媒體混久了就知道：
這些是明顯的不能再明顯的紅線了，誰也不會去踩。
為什麼用AI造假的人膽子這麼大呢？難道不要命了？
才一萬的閱讀，也就100塊流量費不到，為了這點錢送自己一副銀手銬？肯定不值當嘛。
但是，對於有過新聞訓練或者網際網路使用習慣的人，當然知道其中利害，但如果是農村婦女或者大媽呢？
要知道，頭條風靡全網的時候，有專門的MCN機構去山東農村找婦女和大媽用洗稿軟體來批次製造資訊垃圾，一篇文章不毛錢都不到。
他們怎麼知道什麼紅線，我猜工作流程基本是模板化的：
發現一個熱點，直接把人名丟給DeepSeek，給我生成一篇文章，要有細節和金句，故事情節要離奇，標題要吸睛。
然後一分鐘文章就好了，然後網上瘋傳。
這已經是產業鏈化了，之前我們有一篇文章被網友發現可能被洗稿了，同意投訴也不透過，一氣之下發到行業交流群，大家覺得這就是個AI洗稿團隊，專門洗10萬+爆文。
標題和開頭都不變，然後下面就是AI各種編了，特別是格式都是小黑點序號，一看就是AI羅列的資訊。
而且業內小夥伴說：
這種情況已經非常普遍了，各大內容平臺的演算法分發加劇了AI洗稿、AI造謠和AI小作文的傳播
。
真是離大譜啊。
想象一個場景：
以後大家看到的內容主要都是一些低成本的農村大媽透過廉價的AI編造的資訊垃圾，關鍵可能還看得津津有味。
如果不加強監管的化，AI可能帶來的不是認知提升，而是全社會的降智。
希望有關部門及早重視起來，希望大廠們做好兜底的方案，還有就是使用者也要有質疑的精神。
AI是把雙刃劍，個人用不好的話，社會就要加以約束。
就這樣。
下週可能會出一個，想不到的超預期措施？
下週就是兩會，各路機構都前瞻的差不多了，今天兩會前夕政治局會議召開：
釋放了高層今年的優先事項，而且下週可能出一個大家沒想到的超預期措施。
是什麼呢？
可以繼續閱讀：可能出一個想不到的超預期？
喜歡此內容的人還喜歡