↑點選藍字 關注我們
凝視深淵過久，深淵將回以凝視。
—— 尼采
2022 年，全球最大的輕部落格網站 Tumblr 上發生了一件挺有意思的事情。
大量的 Tumblr 使用者對馬丁・斯科塞斯（就是拍《華爾街之狼》的那位）1973 年執導的電影 Goncharov 大加讚賞，稱讚這部鮮為人知的電影是有史以來最大的黑手黨電影 ——“Goncharov 遠勝於它的時代，卻從未贏得它應有的讚賞。”
但其實，馬丁・斯科塞斯根本就沒有拍過這部電影，人類歷史上也沒有一部名為 Goncharov 的電影！這意味著，一張掛名“Martin Scorsese”的電影海報，幾句網際網路背後的虛構影評，最終演變成了一場群體欺騙，直至現在還有人堅信這部電影的存在。
心理學將這樣的現象稱之為“媒體等同”（media equation），人類天生會傾向一些群體性認同事件，換言之，當群體對同一件事情表現出肯定時，個體對事件往往會丟失判斷。你或許會說，怎麼可能，難道我就沒有獨立思考嗎？
來看下面這張圖片👇
表面上，這是一個被壓廢墟的孩子，讓人憐惜，但細看，孩子左手為六根手指。
央視新聞後續為此事件闢謠，該影片為 AI 生成內容，並稱：AI 讓造謠變得更簡單和更“科學”。諸如此類的 AI 烏龍還有很多，比如川普被捕、AI 教皇，只要不是原則性問題，大家反而對這樣的“欺騙”趨之若鶩。
如果說 Goncharov 的群體欺騙，是藏在人性裡的戲謔因子，那麼，在人工智慧迭代如此迅速的今天，AI “欺騙”人類，是技術缺陷還是人為？AI 所掀起的全球狂熱，是否也該降降溫？既然 AI 存在一定的失準，我們如何與 AI 相處？筆者想靜下心來和大家聊聊。
技術之病：AI 幻覺
AI 本身就有“病”—— AI Hallucinations （即：“AI 幻覺”）。
簡單理解，它是指諸如 GPT4 、PaLM 、DeepSeek 等大語言模型“一本正經地胡說八道”，將編造的事實與多個段落的連貫性和一致性編織在一起，且稱之為真實資訊的情況。比如，人有三條腿（常識錯誤）、李逵大鬧五臺山（劇情混淆）、第一個登上月球的人是 Charles （實際上是 Neil ，歷史虛構）、阿聯酋的首都是迪拜（實際上是阿布扎比，資料干擾）… 大致分為兩類：
-
事實性幻覺：指模型生成的內容與可驗證的現實世界事實不一致
-
忠實性幻覺：指模型生成的內容與使用者的指令或上下文不一致
就拿現在很多企業普遍接入的 DeepSeek R1 來說，幻覺率高達 14.3% ，遠高於 V3 的 3.9% 。
如果說 AI 幻覺是病，這些病是如何來的呢？
首先，病從口入，大資料的資料缺陷，是導致 AI 產生幻覺的一大原因。這其中包括資料缺陷、資料中捕獲的事實知識的利用率較低。
具體來說，資料缺陷分為錯誤資訊和偏見（重複偏見、社會偏見），此外大模型也有知識邊界，所以存在領域知識缺陷和過失的事實知識 —— 即便大模型吃掉了大量資料，也會在利用時出現問題。
除了資料，訓練過程也會使大模型產生幻覺。
-
預訓練階段
【架構缺陷】：基於前一個 token 預測下一個 token，這種單項建模阻礙了模型捕捉複雜的上下文關係的能力；隨著 token 長度增加，不同位置的注意力被稀釋；
【曝露偏差】：模型推理時依賴於自己生成的 token 進行後續推測，錯誤的 token 會在整個 token 中產生級聯錯誤。
-
對齊階段
【能力錯位】：大模型內在能力與標註資料中描述的功能之間可能存在錯位。（邊界在哪裡，也就放大了幻覺的風險）；
【信念錯位】：基於 RLHF 等的微調，使大模型的輸出更符合人類偏好，進而犧牲資訊真實性。
簡言之，AI 的幻覺之病，並不是單一因素導致，而是資料集、架構、演算法、訓練、推理等等，一系列的發展態疊加而成。
圖片來源：《 DeepSeek 與 AI 幻覺》@清華大學
既然 AI 幻覺會帶來如此多不確定性，科學家為什麼不嘗試“去幻覺”？事實是，有些問題從根本上就無解，我們能做的：只有與幻覺共存。
不過，在某些特定的情況下，AI 幻覺也可能有一些“意外”的好處。比如，大衛・貝克團隊獲得 2024 諾貝爾化學獎，源於 AI 幻覺的“錯誤摺疊” 啟發出新型蛋白質結構；DeepMind 團隊發現，AI 在影像分割任務中產生的“超現實邊界”雖不符合真實場景，卻意外提升了自動駕駛對極端天氣的識別精度…
以至於，科學界目前正在構建“AI 幻覺 – 實驗驗證 – 理論重構”三階段研究流程，試圖透過 AI 幻覺卻發現一些人類尚未探索過的可能。
市場之病：AI 狂歡
從千模大戰，到 DeepSeek 一騎絕塵，AI 市場的狂歡背後，是每天少說都有十幾個 AI 新專案如雨後春筍一般誕生。筆者相信這些專案不單是追風口、蹭熱度，而是 AI 開闢出了新的道路、新的可能。
但高投入和低收益之間的“剪刀差”的背後，彷彿大家都開誠佈公地默認了一件事情：搞 AI 就能賺錢！這又何嘗不是一種病態！
根據摩根士丹利的計算，亞馬遜、谷歌、Meta 和微軟這四大科技巨頭整 2024 年的資本支出達到 2460 億美元，其中大部分資金流向了 AI 領域，大頭是資料中心和先進晶片的建設，但實際產生的收益卻不夠理想，反而在繼續加碼。
IT 桔子統計，34 家 AI 上市公司中，有 19 家在 2024 年上半年仍然處於虧損狀態。顯然，儘管 AI 技術發展迅速，但大多數 AI 公司仍未實現盈利。
反而，第一批吃螃蟹的人除了像英偉達這種提供晶片的公司，就是趕上 AI 風口利用資訊差割韭菜的自媒體博主。
為什麼搞 AI 難賺錢，市場上還是有那麼多狂熱分子？
首先，覆水難收。即便在大模型高唱降本的今天，想要研究一個大模型出來，所投入的資金、物力、人才都是極為龐大的。高昂的開發門檻，砸出了一個巨大的資金缺口，如果後面不持續投入，活到雲開見日的那一天，前面的所有心血都會打水漂。（還不如賭一把！對吧。）
來源：新浪財經
其次，市場開拓不足。俗話說，好馬配好鞍，我花了那麼多錢砸出來的 AI 產品，第一時間肯定是想開拓穩定的 ToB 、ToG 市場對吧。
但這類賽道，不僅決策期長，市場容量小，還伴隨一系列的人情邊際，一個招標檔案就能急死一大批 AI 老闆，誰能不發瘋？（如果 AI 老闆是技術出身，瘋得更快！）
那麼，ToC 賽道呢？
聊個人之常情的邏輯：有多少人用，才是 C 端市場的容積，一旦面臨經濟下行或消費轉移，就容易引發一系列的連鎖反應。
同時，在如此激烈的搶人環境下，許多 AI 公司不得不採取燒錢補貼、廣告曝光的策略來爭奪市場份額，實際利潤也就被稀釋了。
具體可以參考下圖👇
這些都是沉沒成本啊…
並且，AI 技術並不具備任何的商業邏輯，市場上的狂熱，也只能由市場去慢慢消化。筆者認為，市場之病，目前還只處於 1.0 階段，當大批次的 AI 公司擱淺，市場上僅剩下幾極之後，2.0 的 AI 市場才可能慢慢自愈。
個體之病：AI 依賴
AI 作為這個時代的新質生產力，確實帶給了人們很多的便利。比如，我要寫這篇稿子，可以找 AI 幫我寫個框架；開會要做總結，可以讓 AI 幫我劃重點；專業名詞不瞭解，交給 AI ，除了得到答案，還可以得到一些拓展性回答。
偷懶起來，簡直不要太爽！
但漸漸的，我發現：AI 其實只能幫助我們在短時間內提升一個領域的認知下限，對於一些專業性極強、需要實操，並伴生多種知識體系的領域（如：生命科學、國際經貿等），光是靠 AI 問問題，無異於管中窺豹。
並且，對於普羅大眾來說，目前的 AI 應用更偏重於提升效率，如 AI 搜尋、AI 總結、AI 寫作，越是將簡單的工作交給 AI ，人們的內心預判就越不會覺得 AI 做得不好（但其實 AI 的出錯率真的很高），就越容易產生 AI 依賴。
2024 年的最後一天，南方日報發了一篇《“AI依賴症”怎麼治》的文章，其中點名：大學生作業裡充滿了 AI 味，文科生快失去了原創寫作的能力。
據英國高等教育政策研究所釋出的調研，1250 名英國本科生中，有 53% 的學生正在使用 AI 寫論文，而在使用 AI 的學生中，25% 的人用 AI 來制定論文主題，還有 5% 的學生直接承認曾直接將 AI 生成內容複製貼上到論文中。
“這一現象已經不是新問題了。我們曾經發現，學生的畢業論文裡，有的段落的中文‘不像中文’，後來才知道，學生是將自己以前發表的英文論文用 AI 工具翻譯成中文貼上過來。” 南京大學人工智慧學院副院長戴新宇教授表示。
百度相關問題的索引
不僅如此，純靠 AI 在職場上也混不走。
今年 2 月，美國知名律所 Morgan & Morgan 向 1000 多名律師傳送了緊急郵件，警告稱 AI 可能生成虛假的判例資訊，若律師在法律檔案中使用這些虛構內容，可能會被解僱。
不可否認，生成式 AI 技術極大地縮短了律師研究判例和撰寫的時間，但 AI 也存在“編造事實”的風險。
反觀國內的醫療行業，則是在“AI 診療”上頻加紅線，北京市衛健委明確指出：醫療機構開展網際網路診療活動要加強藥品管理，嚴禁使用人工智慧等自動生成處方，且人工智慧軟體等不得冒用、代替醫師本人提供診療服務。
真是應了那句話：AI 能幫你上班，但不能幫你背鍋。那麼，在這個高喊 All in AI 的時代，普通人該如何相處呢？筆者總結為八個字：敬畏工具，保持懷疑。
AI 真的只是一個工具而已，當你在使用 AI 的同時，不妨也向 AI 學習，它的思考方式、思維廣度，與 AI 共舞更能促進 AI 的發展；其次，開篇也提到了，雖然在群體認同保持清醒很難，但保持懷疑，卻很簡單，不妨試試！
AI 有病，但它並不是我們的敵人，這一點需要明確。
之所以放在最後來說，是因為筆者在查資料的過程中，發現了很多科學家正在研究如何降低 AI 幻覺，已經有很多企業開始了 AI 商業的探索，並且身邊的很多人都開始將 AI 看作是對映自身的鏡子，透過 AI 這個時代產物去完善自身的缺陷。
AI 的未來，其實就是與人類共愈的過程。
相關連結
https://github.com/vectara/hallucination-leaderboard
http://views.ce.cn/view/ent/202412/31/t20241231_39252324.shtml
https://www.nju.edu.cn/info/1056/355561.htm
END
熱門文章
↓分享、在看與點贊~Orz