有競爭的思想，有底蘊的政治
【編者按】：郝珂靈（Karen Hao）是全世界最早報道OpenAI的記者。2019年8月7日，當她抵達OpenAI辦公室時，OpenAI還只是一家名不見經傳、但處於快速變化中的公司。那時她是MIT Technology Review報道人工智慧領域的資深記者，具有MIT工科學位和矽谷工程師工作背景。
報道過程經歷了一系列波折。透過在OpenAI的公司受限制地蹲點三天，以及對該公司前員工和現員工、合作伙伴、朋友和其他領域專家近三十次採訪，她觀察到的是OpenAI的野心如何使其偏離了最初的使命。這篇深度報道刊發後，OpenAI顯然並不滿意，此後三年再也沒有接受過她的採訪。
今年4月，在這本書面世之前，Sam Altman在社交媒體上發帖聲稱將會有人出書抹黑他和OpenAI, 並強調那本書的作者並未採訪他。郝珂靈回應道：我就是“那個人”，我在寫書的過程中一直尋求OpenAI可以出來接受採訪，他們說了幾個月“快了快了”，但始終沒有（接受採訪）。
5月，郝珂靈在持續的業內採訪基礎上出版了新書Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI（《AI帝國：薩姆·奧特曼的OpenAI的夢想與噩夢》），深入探討了這家引發AI軍備競賽的公司，以及這場競賽對我們所有人意味著什麼。6月24日晚，她在香港的線下文化空間“過濾氣泡工作室”做了一場新書分享，主持人是香港中文大學新聞與傳播學院助理教授方可成。以下是分享會的文字整理，我們將英文表述翻譯成了中文，並對口語表達做了適當的編輯。本文經講者審訂。
文｜方可成
（香港中文大學新聞與傳播學院助理教授）
OpenAI選擇“大力出奇跡”的發展路徑，為了最快搶佔先機
方可成：我想先請Karen來跟我們介紹一下Empire of AI這本書裡面一個非常核心的觀點，那就是：你對於OpenAI、對於Sam Altman發展AI產業的路徑持非常批判的態度。所以，Sam Altman的策略，他發展AI的方式，問題究竟在哪裡？OpenAI這個公司真的很糟糕嗎？如何幫我們理解這個問題？
郝珂靈：很多人第一次接觸人工智慧就是因為ChatGPT，所以很多人以為ChatGPT就是全部的人工智慧技術。但其實人工智慧是一個總稱，涵蓋了很多種不同的技術。ChatGPT這種生成式AI技術採用的是大規模AI模型開發的方法，最重要的特點是：在訓練這種模型的時候，要用很多資料、很多能源、很多資源來開發這種人工智慧。
方可成：所以之前大家並不是用這種方式去做的？
郝珂靈：以前的AI模型都是用在資料、計算、能源方面都更加高效率的方法。但Sam Altman和其他高管——前首席科學家Ilya Sutskever、Greg Brockman，還有Elon Musk——剛開始創辦OpenAI的時候，他們選擇了這個特定的發展軌道。他們當時認為，最快在AI發展方面達到第一的方法，就是採用規模化的方法，用很大的規模來訓練更好的模型。一旦他們選擇了這種規模化方法，就必須用很多能源、很多資源來做人工智慧。
方可成：所以就是“大力出奇跡”。他們其實也並不知道到底發生了什麼，但就是要用更多的資料和能源。
郝珂靈：是的，這是一種非常暴力的方法，沒有什麼技術上的創新性。當時OpenAI剛開始的時候，這種方法其實被很多比較有名的科學家看不起，因為他們覺得這不是真正在探索新的技術來發展人工智慧，而是用已有的技術來暴力突破，只是加更多資料、更多資源和能源，把規模擴大。
雖然當時那些科學家看不起這種方法，但後來OpenAI獲得了巨大成功，所以現在很多人都忘記了以前那種輕視的觀點，反而很羨慕OpenAI這種方法。我寫這本書，有一個原因就是想描述這段歷史，因為很多人已經忘記了以前人工智慧領域有非常多樣化的觀點。但現在，所有的大公司，特別是美國的所有大公司，在發展人工智慧時，都在用這種大規模模型開發的方法。
方可成：有人可能聽說過一些相關的術語，比如神經網路、深度學習之類。這些是屬於OpenAI的方法還是屬於更高效的方法？
郝珂靈：深度學習既包括OpenAI的方法，用很大的資料集，也可以用比較小的資料集，它們都是深度學習。OpenAI當時就是用的這個技術，但他們改變了規模的數量級。
方可成：你剛才說這是四個人的共同決定。
郝珂靈：也可以說不只是這四個人，但是這四個人每個人對於為什麼要用規模化的方法去做，都有不同的觀點。對於Ilya Sutskever來說，他是一個科學家，他的整個職業生涯都在做反主流的事情。當時這種大規模的方法被認為不足以開發AI，但他就想要這麼去做。作為四人團隊中唯一的科學家，他就自己做決定說，我們要追求這個方法。
至於Sam Altman、Greg Brockman和Elon Musk，他們都是矽谷企業家，喜歡閃電式擴張、創造壟斷的公司，所以他們也喜歡這種規模化方法。雖然他們沒有科學背景，但他們懂得如何籌款，如何聚集所有資源來建造超級計算機。所以，這種方法對Sam Altman來說特別合適，因為這符合他擅長的東西。
方可成：他最擅長什麼？
郝珂靈：他最乾的就是能講故事，講未來的故事，他可以想象未來是什麼樣子，然後創造一個非常引人入勝的故事，讓投資人、科學家、別的企業家都想加入他的使命，來構建他想象的未來。
但是他也是一個很有爭議的人，因為他給不同的人講的故事會不一樣，所以有時候他會說我們應該這樣做，因為人工智慧特別好，如果我們能更快地開發這個技術，它會把我們帶到烏托邦。有時候會跟別人說人工智慧是一個很可怕的技術，所以我們要拼命去開發人工智慧，然後控制這個發展，不要分享給別人，讓我們自己留著，慢慢地訓練出一個更好的版本。
所以有人認為他是這一代的喬布斯，但另一些人認為他是一個特別喜歡撒謊的人，會慢慢地不太信任他。但是因為他講故事講得特別強，就很能籌錢。籌錢這方面，他真的很擅長。
方可成：所以他們組成了這個團隊，有了一個其實當時堅信這樣一種方法的科學家，然後有這些企業家支援，特別是有一個非常會拿錢的人，因為這個方法顯然需要非常多的金錢投入才可以，所以這些才促成了OpenAI開發ChatGPT以及之後的所有這些模型。
你實際上是在2019年就已經去過OpenAI採訪，對吧？那個時候就已經是這個樣子了嗎？
郝珂靈：OpenAI是2015年底創立的，當時是一個非營利組織，他們說我們要做基礎AI研究，我們不要做什麼商業產品，也不要賣什麼東西，要用一個完全非營利的環境慢慢地去探索人工智慧，去發展這項科技。因為Elon Musk特別擔心，他覺得如果在一個營利的環境下發展人工智慧的話，事情會變得很糟糕——而他覺得糟糕的意思是：AI會發展出意識，會發展出情感，會失控並且殺死世界上的每一個人。
但是到了2017年，就是一年半之後，他們就開始確定這個規模化方法。他們開始討論要從非營利轉成營利，因為他們要錢，非營利如果想籌集那麼大筆錢是不可能的事情。但是當他們開始討論營利的時候，Elon Musk和Sam Altman都想當這個營利機構的CEO。當時其他兩位傾向於Elon Musk，因為他們覺得Musk會把公司做得更成功。但是，Sam Altman就慢慢地開始跟Greg和Ilya說，你是不是覺得Musk有點太不可靠了？如果我們把這個公司交給他，人工智慧以後發展的環境會不會不那麼好？所以慢慢地就說服了Ilya Sutskever和Greg Brockman選他當CEO，而Musk就離開了。
所以我2019年去OpenAI的時候，他們其實已經偷偷地開始做這個規模化方法，但是還沒有跟別人說。他們當時沒有完全轉成一個營利機構，而是在非營利組織里邊建立了一個營利部門。今天OpenAI還是那種結構，既有非營利也有營利。當時他們就跟我說，這種方法最好，因為我們確實要籌集很大一筆錢，但是我們還是想保持我們以前這個非營利使命，所以做了一個比較奇怪的結構來制衡自己。雖然我們確實會以後可能要討論怎麼樣去做產品，怎麼樣去商業化，但會被非營利的使命所管理。
方可成：那你在2019年採訪的時候，當時有沒有預料到後面這一系列從ChatGPT釋出開始的轟動和發展？你當時覺得能看到未來的一些端倪嗎？
郝珂靈：完全沒有看到，因為當時我覺得他們的技術沒有那麼有意思。當時就是GPT-2，比ChatGPT早兩代。GPT-2可以說可以寫，但是寫得也不好。這個模型本質上就是統計學，它講的這些話雖然可以看起來有點像我們寫的、說的，但它不是從同樣的內在意義產生這些話。所以，我當時就沒有意識到有了ChatGPT以後會那麼轟動。
機器要“喝”乾淨的水，人要“洗”髒資料
方可成：你剛才說到了這種規模化的方法所消耗的資源是非常誇張的，可不可以給大家一些比較直觀的例子，說明一下它是有多麼誇張？
郝珂靈：好的。最近麥肯錫的一份報告顯示，在5年之內，如果我們要繼續維持超級計算機的發展來支援這種AI開發方式，我們必須在全球電網中增加相當於加利福尼亞州（世界第五大經濟體）每年消耗能源的2到6倍的電力。而且，其中大部分必須來自化石燃料，因為這些資料中心不能只靠可再生能源來訓練這些模型，也不能只靠可再生能源來部署這些模型。所以，我們實際上正在單方面逆轉過去十年在氣候方面取得的許多進展。
方可成：所以就是因為大語言模型的這個技術，所以我們不得不又重新使用很多化石能源。
郝珂靈：沒錯。另外，目前這些工具的開發還需要大量純淨水來冷卻資料中心。而且必須是純淨水，因為其他型別的水會導致細菌滋生並腐蝕裝置。彭博社最近有一篇報道說，三分之二的這些資料中心已經進入了面臨水資源短缺問題的社群，所以訓練這些模型實際上是在與社群的水資源競爭。
我在書裡描述了南美洲的一個社群。我去的時候，他們正在經歷一場歷史性的旱災。就在那次旱災期間，市政府不得不開始將有毒的水混入公共供水系統，因為他們沒有足夠的公共用水。所以很窮的人就在喝有毒的水，而且當時有很多懷孕的女性，她們的流產率更高，因為她們在喝這種水。
方可成：而與此同時，機器卻要喝乾淨的水。
郝珂靈：那時，谷歌提議在那個城市的中心建造一個數據中心，這將消耗大量的純淨水資源。
方可成：為什麼會是這些地方呢？明明知道這些地方缺水，為什麼還會去這些地方提議要建資料中心呢？
郝珂靈：因為現在基本上沒有那麼多地方不缺水了，這是一場全球氣候危機。其實基本上就是沒有足夠的地方來滿足這些資料中心的需求了。隨著AI對資源需求的增加，氣候危機也在加速。我們看到這兩個軌跡的碰撞，所有這些資料中心現在都建在已經受到氣候危機影響的地方。
方可成：你剛才介紹了環境資源上的代價，你在書裡也提到了勞工方面的代價，這方面能不能給大家展開介紹一下？
郝珂靈：好的。OpenAI當時選擇去訓練這些大規模模型的時候，他們也做了另一個選擇，就是為了滿足大規模AI的資料需求，你必須從使用“乾淨的資料”轉向使用“被汙染的資料”，因為沒有足夠的乾淨資料。
方可成：什麼是乾淨的和被汙染的資料？
郝珂靈：乾淨資料指的就是，當你建一個數據集的時候，你知道里面是什麼，因為那些都是你自己挑選出來的；而被汙染的資料指的就是，從網上抓取大批資料，你也不知道里面到底有什麼、是誰製造出來的。
方可成：那可能舉個例子就是說，如果我選某一份報紙的資料，那我清楚地知道這份報紙上面有什麼內容，這就是乾淨資料；而如果我在一個網路論壇，或者我在微博、Twitter上面隨意地抓取一些資料下來，這就是汙染資料。
郝珂靈：對的。網際網路上什麼都有，資料很亂。但你需要大量資料。OpenAI這些公司，它們實際上不知道自己的資料裡有什麼。當我採訪研究人員時，除了資料來源之外，他們說不出資料的內容。
當你從使用乾淨資料轉換到使用汙染資料時，你必須開始做內容稽核。因為當你在汙染資料上訓練這些大規模模型時，裡面肯定會有很多雜亂的內容，模型就會開始表現得很奇怪，開始說一些有毒、辱罵、仇恨的話，這不會是一個好的消費者體驗。
我採訪的一個社群是肯亞的資料勞工，OpenAI在公司從基礎研究轉向商業化的時候，僱傭他們來執行這種內容稽核。那些肯亞勞工，他們日復一日地閱讀網際網路上最糟糕的內容，試圖訓練一個過濾器來識別那些內容，然後阻止它被生成給使用者。這是一個包裹在GPT模型周圍的過濾器，確保使用者永遠不會接觸到有毒內容。但這意味著，資料勞工在這個過程中受到了嚴重的心理創傷。
我採訪了一個人，他在涉性內容團隊。所以他在閱讀所有關於性虐待、兒童性剝削的內容。而且這不僅僅是從網際網路上抓取的內容，OpenAI還在提示其AI模型去想象網際網路上的性內容，最糟糕的那種性內容，以便有更多樣化的內容供他標記。每天這樣做幾個小時後，他的性格完全改變了，本來很外向，但後來變得很內向，不想和妻子、繼女說話。
他也無法跟他的妻子說他為什麼改變了，因為他不知道怎麼去解釋他的工作是來整天看性內容。聽起來不像真的工作，也聽起來是一個很羞恥的工作，所以他根本無法去解釋這些性格的改變。慢慢地，他的妻子就開始懷疑他們的婚姻。
有一天，他妻子說自己晚上想要吃魚，他就出去買了三條魚。他回家以後，發現她們所有東西都沒了，然後他妻子就給他發了一條簡訊，說我現在已經不認識你是誰了，我們不會再回來。
方可成：這種事情當時在發生，現在這些是否還在發生呢？技術發展到現在，是否還需要這麼多的資料標註勞工？以及，現在是不是用AI本身也可以去做內容稽核了？
郝珂靈：絕對還在發生。你不能讓AI來做內容稽核，除非你已經實現了真正的AI，也就是真正具有理解能力的AI。在社交媒體上，我們還沒有解決內容稽核的問題。你以為AI發展那麼好了，以後這些稽核問題都會消失，但是沒有消失，因為這些模型還沒有那麼聰明，它們並不能去真正地理解文字的實際意義。
所以我們還是要有人去做這些內容稽核。雖然基本上這些公司已經把所有以前網際網路的內容已經用光了，但是天天還有很多人在生成新資料，所以還是會有更多的內容稽核要做。而且，以前是文字生成模型，現在還有影像和影片生成模型，它們也要內容稽核。
我發現，OpenAI在印度還有另一個外包公司，僱傭當地人來做影像內容稽核。那些員工也是天天看這些內容，他們甚至不知道是真的還是假的影像，但是同樣的性虐待、兒童性剝削內容。他們根本不知道是從哪裡來的。現在你想想影片生成，他們也要做同樣的事情。而且永遠不會停止，因為使用者總會想新的方法去濫用產品，公司就要增加新的內容稽核層。所以這就像貓鼠遊戲一樣，永遠都會有越來越多的東西需要過濾掉。
創新投資的悖論：資金集中於大模型，更優AI技術難以實現
方可成：你剛才說到，幾年前當OpenAI選用這種方式的時候，很多人還是不相信的，甚至是有點鄙視他們的這種方式的。但現在他們好像獲得了巨大的成功，同時也有很多其他的AI公司也在發展。那如今AI行業裡面大概的情景是什麼樣？採用這種由OpenAI開創的這種方法，是不是已經成為一個絕對的主流了？還是說其實是有一些其他的不一樣的方式在開發AI？
郝珂靈：現在基本上沒有人在做其他的方式，因為沒有別的錢來做。
方可成：錢也用光了？我們什麼東西都用光了！
郝珂靈：是的。我前幾天瞭解到，基於現在初創公司的籌資資料，大約50%的投資都集中在OpenAI和Anthropic上。所以不只是沒有錢去做別的AI開發方法，甚至是沒有錢去做別的所有創新。所有的錢都集中在這兩家公司上面。
那些更大的科技公司，谷歌、微軟、Meta，他們也基本上全把所有的資源都投資在了大規模AI模型開發上，不再做別的事情。
比如，谷歌雖然收購了DeepMind，但是DeepMind還是可以做自己的研究，所以DeepMind幾年前開發了AlphaFold，就是一個AI模型能從氨基酸序列預測蛋白質摺疊，去年就得了諾貝爾化學獎。可是現在，他們基本上沒有那個資源去做這種發展了。OpenAI釋出ChatGPT後，谷歌和DeepMind就合併成了一個AI實驗室。
方可成：等於說其他的可能性其實是被吃掉了。
郝珂靈：是的，所有的資源都去了大語言模型開發。其實也不是因為他們覺得這個技術有多好，就是因為OpenAI的ChatGPT看起來是一個能殺死谷歌的產品——這個技術不是一個好的搜尋引擎，但是很多人會拿它當作搜尋引擎來用，所以谷歌投資這個技術其實不是來開發市場，而是為了保衛他們現在的市場。但是他們所有的資源已經用在了這個技術上面，所以別的創新像AlphaFold已經沒有那麼大的投資了。
百度是一樣的，當時ChatGPT出來的時候，我在《華爾街日報》報道百度。百度以前在AI醫療方面、AI藥物發現方面做了很多投資，因為李彥宏對那個方面比較有興趣，但是後來，他們所有的計算機晶片都轉到了文心一言開發。所以，那些做AI醫療、藥物的團隊沒有晶片去訓練他們的模型了。
方可成：大家可能會馬上想到DeepSeek。那麼，DeepSeek是不是有一點點不太一樣的地方呢？
郝珂靈：DeepSeek還是大語言模型，所以也不是完全不一樣，但它不一樣的地方就是，它用的計算資源少很多。OpenAI這樣的公司經常會說，我們必須得用這些資源去發展這個技術，而且這個技術特別重要，所以成本是值得的。但DeepSeek戳破了這個虛假的表象：其實我們可以得到這個技術的很多好處，而且不需要這麼大的成本。
如果我們繼續做研究，我們很可能能夠找到更好的技術來，用更少的成本開發AI。但是，我們沒有資源投資在這些其他方法上。
AI帝國之下，不合作的可能性？
方可成：我接下來的問題是帶有一點時間維度的，兩個有一點相關的問題。第一個就是，說如果我們回過頭看，當時如果不是Sam Altman的話，那歷史是不是會不一樣？歷史是被個人創造的嗎？還是說是必然發生的，不是Sam Altman也是一個John Altman或者另一個人創造出一樣的軌跡？另外一個問題就是，我們已經走到今天了，那我們之後還能怎麼去創造一個不一樣的明天？
郝珂靈：寫完這本書以後，我確實覺得：如果不是Sam Altman的話，我們可能不會在這個ChatGPT的世界裡。因為Sam Altman為並不make sense的生意籌集資金的能力是無與倫比的。如果是別的人在當時擔任OpenAI CEO的話，我認為他們會很快就達到資本上的限度，就是他們能說服投資者給這個技術的資金量的限制。但是，Sam Altman籌到的錢好像就是沒有限制，這真的很厲害，也很可怕。
現在ChatGPT釋出之後已經有差不多三年時間，OpenAI的業績記錄真的很平庸。我們沒有看到特別大的經濟生產力提升，沒有看到那麼多企業應用案例或成功的商業模式。所有這些公司，包括OpenAI都沒有盈利能力，它們每個月都在燒掉數十億美元，但是還是能籌款，錢仍然在源源不斷地湧入。
所以我不喜歡偉人敘事，就是一個人能給歷史發展軌跡帶來這麼大的區別，但是我是覺得他比較獨特。當然，有多個交叉的趨勢，但他恰好在正確的時刻定位自己，讓他的特定技能組合發光。
你的第二個問題就是我們現在可以做什麼。我認為同樣地，我們如果能從Sam Altman學一樣東西，就是每個人都可以產生深遠的影響。如果我們現在都能意識到，我們實際上在塑造AI的未來方面都有積極的作用，我認為我們可以在十年後擁有一個非常不同的世界。
方可成：如果我們不是那種會搞錢的，或者說我也不是一個AI工程師，那我還真的是有自己的作用嗎？
郝珂靈：我會想到AI開發和部署的完整供應鏈，需要各種不同的東西去創造它們的技術，資料、土地、能源、冷卻資料中心的純淨水，所有不同的空間用來部署他們的技術——學校、醫院、公司、政府機構，如果這些地方不購買它們的服務，那麼技術就不會在那裡。
所以這些公司，儘管它們很強大，但它們實際上需要人們的合作。它們需要我們所有人的合作，來給他們資源，並給他們進入這些空間的許可權。有很多社群記住了這個事實，他們不合作。這些公司就必須改變。
有藝術家和作家正在起訴這些公司侵犯他們拿走的智慧財產權，這就是他們不合作：不，你不能只是拿我們的資料，而不給我們回報。這不是說在任何情況下你都不能拿我們的資料，而是說，你不能在不向我們提供互利協議的情況下拿走我們的資料。
世界各地有數百個社群在資料中心開發方面做同樣的事情。他們說，不，你不能只是在我們的土地上建資料中心。你不能只是使用我們的能源和使用我們的水，提高我們的水電價格，讓我們的電網更不可靠，僅僅因為你想建造這個對我們沒有真正幫助的技術。你必須給我們一些互利的協議作為回報。
教師和學生也開始這樣做。學校開始實施AI治理政策：在什麼情況下，AI實際上會幫助培養我們的教育環境，提高下一代的批判性思維。其中一些學校已經決定完全禁止AI進入他們的學校環境。這是一種立場，為這些公司提供了一個壓力點，這是他們損失掉的客戶。
我認為我們每個人都接觸AI供應鏈的多個不同部分。如果我們都使用這些不同的接觸點來聲張我們對這種技術的要求，我們實際上會到達一個非常不一樣的世界。
方可成：是的。我聽你在回答的時候，我就想到你這本書的標題“AI帝國”。既然AI的帝國已經建立起來了，那麼在這種帝國之下，具體的個體還有沒有什麼反抗的空間？很多人會合作，有一些人會逃避，但是可能還有些人用各種各樣的方式反抗。但是帝國的崩潰到底是什麼原因導致，其實是非常難以預測的，有時候可能就是一些看起來很偶然的原因就導致它的崩潰了。
郝珂靈：是的，但是歷史上所有的帝國都會崩潰，因為它們的基礎其實特別弱，它們是建立在剝削和榨取的邏輯之上，這不是長期可持續的。沒有社會願意永遠存在於這種狀態下，這本質上是一種不穩定的承諾。
如果這些公司永遠不會給他們剝削和榨取的社群任何回報，這些社群當然會感到不滿並停止允許他們這樣做。這就是歷史上每一個帝國倒臺的方式——人們集體行動，抗議這種不公待遇和剝削，因為他們受夠了。
方可成：你過去一個多月都在做這個新書宣傳，會接觸到很多的人，你覺得現在大家對AI的態度是什麼樣子的？因為我在想，要導致變化的一個很重要的因素就是，公眾輿論可能需要一個很大的轉變才行。
一個類比是人們對社交媒體的態度。其實“過濾氣泡”這個空間本身的定位很大程度上就是基於我對社交媒體的很多反思和批判。五年前的時候我就在想，社交媒體五年之後大概應該消失吧？我們應該到下一個階段了。但是到了2025年，我們每個人還在社交媒體上，包括我在做這個空間，也不得不利用社交媒體來做推廣。我覺得好像望不到盡頭了，好像我們就是永遠都在社交媒體時代了。
但是當我私下跟Karen表達這些的時候，她當時就鼓勵我說：其實已經在發生變化了。其實做現在這個空間，包括很多人開始出書，各種各樣的方式來探討社交媒體對人的危害，心理上的危害、社交關係上的危害，虛假資訊的危害……其實這個事情已經是10年前、15年前不太能夠想象的。那時可能是一個非常樂觀主義的對社交媒體的描述，覺得它會讓所有人連線，它會讓獨裁政權倒臺，它會帶來各種各樣有益的變化，但是現在我們的這種普遍的感覺已經發生了很多的變化了。
所以我在想說，對AI的態度或許也會一樣。也許我們再過10年，回頭發現，哇，現在我們的態度已經發生了好大的變化，而也許這個變化的轉折點就是Karen Hao的這本書出版了。
郝珂靈：我寫這本書就是想讓公眾對話更有層次。而且我在新書宣傳的時候，確實發現很多人對我書中的資訊非常能夠接受。人們在讀我的書之前對人工智慧可能沒有什麼瞭解，而且更容易接受公司的典型敘事，這個科技有多麼好，但一旦他們讀了這本書，就立即連線到他們的一種已經有的感覺，那就是：他們越來越失去對技術的控制，他們不再過著一種技術為他們服務的生活，而是感覺他們在為技術服務。我真的不用說服人們，我對這真的覺得驚訝。就是我一開始講關於帝國的論證，他們基本上已經知道我要講什麼。他們已經有了那種感覺，而我是在闡述一種他們一直試圖描述的感覺。
薩姆·奧特曼被踢出公司的內幕
方可成：很多人還很關心的一點，就是關於Sam Altman中間一度被踢出公司的這一段故事八卦，我不知道Karen有沒有一些內幕跟我們分享。
郝珂靈：這個情況在書裡描述得挺詳細的，有三章都在講這個，有對話，有董事會成員互相說的話。簡單來講就是有兩個事情發生，一個是很多人覺得Sam Altman不是很值得信任的領導者。第二個是，在整個大規模AI開發的過程中，一直有一種意識形態衝突，就是在所謂的“繁榮派”和“末日派”之間，繁榮派認為AGI會帶來烏托邦，末日派認為AGI會殺死所有人。當這種衝突在OpenAI內部發生的時候，董事會更傾向於末日派，因此更傾向於認真對待關於Sam Altman不值得信任的指控。
同時，有兩位高管，首席技術官 Mira Murati和首席科學家Ilya Sutskever，由於各自獨立的原因感到Altman不再是經營公司的合適人選，並向董事會表達了他們對此的嚴重擔憂。董事會也獨立地，由於其他原因，對Altman失去了很大信任。所以基本上，有五個人都獨立地得出了同樣的結論，他們覺得Altman不應該被信任。每個人都有自己的意識形態觀點，自己與Altman的人格衝突。最終，經過一系列非常激烈的討論，董事會得出結論：他不是這個工作的合適人選。
但是這五個人中沒有人想到的挑戰是，正因為Sam Altman非常擅長籌錢，所以他一直是籌集大量資金的核心人物。有一個員工股權出售計劃，讓一些員工能夠以數百萬美元的價格兌現他們的股份。如果他離開，那麼所有的錢都會消失，這就讓組織變得不可持續。
所以，在投資者、微軟、員工的巨大壓力下，每個人出於各種原因，但都交匯在他是掌握金錢鑰匙的人這一事實上，所以他被帶回來並重新擔任CEO。
方可成：所以錢真的很重要。關心更多細節的朋友可以在書裡面詳細閱讀。
投稿郵箱：[email protected]
本文責編：楊小舟。本期微信編輯：朱凡。本文為思想市場原創內容，點選“閱讀原文”進入澎湃新聞網站閱讀更多精彩內容。