2023 年 11 月的一個星期三,我站在舊金山的一家昏暗餐廳裡。
餐廳裡有幾十個人,大家在參加的是一個 AI 會議後的聚會。人們三五成群地站著聊天,服務員端著托盤送上開胃小吃。當我在吃著一個小牛肝菌甜甜圈時,聽到有人低聲說,Sam Altman 進來了。
我試圖在昏暗的燈光下去找到他。多年來,我和 Sam 有過幾次簡短的交談。他在創業圈裡混跡了十多年,對記者很友好。隨著時間的推移,Sam Altman 幾乎成了矽谷的代名詞。
他是 OpenAI 的 CEO,一年前因 ChatGPT 的釋出而迅速崛起。他的公司市值 860 億美元,是全球最有價值的初創公司之一。
在過去的六個月裡,Sam 似乎無處不在,幾乎每個主要新聞媒體都爭相報道他,而他也幾乎每次都會接受採訪。
新聞標題稱他為「ChatGPT 之王」「當代奧本海默」和「AI 霸主」。
他像是 AI 未來的代言人,環遊世界,與各國領導人會面。他在國會作證,期間還特意來到這個 AI 會議的聚會,進行了一次小小的驚喜訪問。我看到他站在餐廳的一角,已經有幾個人圍在他周圍。我決定過去打個招呼。
他穿著西裝打著領帶,比平時顯得正式,他比我印象中要矮。我們握手時,他看了一眼我的胸牌,說了句「很高興見到你」。他的親切和友好讓我感到驚訝,彷彿他真的記得我似的。
他已經知道我在做這個播客,所以我對他說,我會向你的公關團隊提出採訪請求,看看是否能找到時間採訪你。他說:「當然,聽起來不錯」。幾個人在旁邊等著,希望能和他聊上一分鐘。所以我走開了,大約十分鐘後,他也離開了派對。
第二天,Sam 繼續他的 AI 外交之旅。他在 APEC 會議上談論了 AI:
我認為這將是人類迄今為止發明的最具變革性和最有益的技術。
我認為這是所有重大技術革命中最大的飛躍。我非常興奮。我無法想象有什麼會比這更令人興奮的了。能夠從事這項工作,是我職業生涯中的一大榮幸。
Sam 顯然認為世界將快速發生劇烈的變化,他也知道其中很大一部分變化將與他有關。
然而,就在我見到 Sam 後不足 48 小時後,也是他在會議上發言後不到 24 小時,他被解僱了:
突發新聞:Sam Altman 的 OpenAI CEO 職務被解除了。
這一訊息震驚了所有人,包括 OpenAI 最大的投資者微軟。董事會表示,在一次審查後,決定解除他的職務,原因是他「在與董事會的溝通中不夠坦誠」。
這件事讓人震驚的程度簡直難以形容。Sam Altman 被解僱了。這是年度最轟動的科技新聞,完全出乎意料。訊息在週五下午傳出,我和我的同事們當下就知道我們的週末泡湯了。
董事會暗示 Sam 對他們撒謊了。他們宣佈委任了一位新 CEO。隨後,解僱 Sam 的人出來公開道歉。同步發生的還有人們對 Sam 的忠誠誓言、員工對此的反抗。感覺 Sam 真的要回歸了,他在爭取員工和微軟的支援,看起來 Sam 可能會贏。
週二晚上,Sam 重新被任命為 CEO,而五天前,這家公司基本上是在試圖摧毀他。Sam 再次取得了上風。這真是高度戲劇性,令人瞠目結舌的轉折。但對於那些瞭解 Sam 的人來說,這其實很合理。
Sam 的導師之一是名為 Paul Graham 的投資者。他曾告訴一位記者,Sam 非常擅長變得有權勢:
對我來說,這似乎是能夠定義 Sam 的特徵。
在矽谷,我們經常談論那些程式設計天才或痴迷於產品設計細節的科技先驅。但那不是 Sam,他最強、最獨特的技能是掌握權力,這可能會對影響我們所有人。
你正在收聽「Foundering」。我是 Ellen Huet。在這一季的「Foundering」 中,我們將記錄 Sam Altman 的崛起,那也是傾盡全力去成為領先 AI 公司的一場軍備競賽。
我們將探討這項新技術是否真的如一些人所說,如果我們不謹慎,就會威脅到人類的生存,然後是幾乎毀了 Altman 的「政變」,以及他是如何成功重新掌權。
在這一季裡,你會聽到來自《彭博社》的我和我的同事們的報道,他們在過去幾年裡一直在報道 AI 的快速發展。我們採訪了一些 AI 領域的領先人物,試圖躲開炒作,試圖理解 AI 到底是會改善人類生活,還是會毀滅它。
但這也是關於 Sam 的故事,一箇中心人物。我們與 Sam 的朋友、家人和合作者進行了交談,試圖揭開他的面紗,瞭解他的崛起。
他是一個總能在正確的時間,和正確的幾個人一起出現在正確房間裡的人。瞭解 Sam 崛起的全過程很重要,因為了解他是誰和他的信念,將有助於揭示一個緊迫的問題 —— 我們應該相信這個人能勝任監督這項技術的任務嗎?
2023 年夏天,大約在他被解僱的五個月前,我的同事 Emily Cheng 在一次《彭博社》會議上直接就問了他這個問題:「此刻你擁有巨大到難以置信的權力。為什麼我們應該信任你?」他回答:
我對這個任務充滿激情。如果它真的成功了,這將是一項非常強大的技術。
你不應該信任單一家公司,當然也不應該信任單一個人。
你不應該信任我。
如果他真的相信這一點,那為什麼 Sam 要奮力回到 OpenAI 的金字塔頂端,重新掌握控制權,彷彿在堅持他應該是那個帶領這家公司儘快推進 AI 技術的人。對很多人來說,這個風險是讓人恐懼的。在矽谷裡,它比其他任何事情的風險都更高。
一些人把 AI 或通用人工智慧(AGI)稱為「最後的發明」,它強大得會讓它以後所有的東西看起來都面目模糊。在 OpenAI 內部,一些員工甚至稱之為自己正在建造「神」。
為了更好地瞭解 Sam 是怎樣的人以及他是如何走到今天的,我想帶你回到他的少年時代。
他是四個兄弟姐妹中最大的。他的母親是一名皮膚科醫生,父親是一名房地產開發商,他就讀於一所名為 John Burroughs 的私立高中。
那個時期有一個關於他的軼事讓人印象深刻,當一些學生想要抵制關於性取向的集會時,Sam 卻站在全校面前「出櫃」了。對於 2000 年代早期的青少年來說,這是一項非常勇敢的舉動,毫不意外的是,Sam 也非常聰明,通常表現都很優秀。
這是他的英語老師 Andy Abbott 說的,他現在是學校的校長。
這是一所很書呆子的學校,在這裡,取得好成績和成為高成就者是很酷的,即使在這種環境下,Sam 也很突出。Sam 天生就是個領袖,極具魅力和好奇心。
他與眾不同。你知道,他是年鑑的編輯,代表學校參加了模擬聯合國。他設計了我們的網站,在我們僱傭人來做網站之前,他就能做到這些。
Sam 甚至打水球,而且還打得不錯。我不是專家,但他打得很好。
聽起來 Sam 就是個特別的孩子。
嗯,他是房間裡最聰明的人,很有魅力。我記得當時想,這有點尷尬,我希望他不要進入科技行業,他太有創造力,寫作又很好,我希望他能成為一名作家之類的。
我是說,沒有人能預見到 OpenAI 的巨大影響。大家都知道這個人在大多數事情上都比我們大多數人強。
這也反映了一個將在 Sam 職業生涯中成為關鍵因素的模式 —— 他非常擅長打動人們,尤其是那些正確的人,年長的人,有影響力的人,有能力幫助他的人。
有人說,Sam 的超能力是找出誰是掌權的人,並讓他們喜歡他。
這就是年輕的 Sam。儘管他還是個少年,但他的行為像是更有主動權和自信的成年人。成年人會覺得他這種特質很厲害,他對三個弟妹也是這樣。
在《紐約客》的一篇特寫中,Sam 的弟弟說,他們還是孩子的時候,他們會玩一種「武士」棋盤遊戲,Sam 總是贏,因為他自封為領導者,說我必須贏,我負責一切。
14、15 歲的 Altman 和弟妹們的合照,圖自《紐約雜誌》
當 Sam 的弟弟講這個故事時,是一種打趣的語氣,但他們最小的妹妹 Annie 可無法認同。她和 Sam 以及其他直系家人疏遠了,但在她小時候,她記得 Sam 的這種控制慾。
從我九歲時的角度來看,這就是專橫,他非常想成為「第三個家長」,作為長兄掌控一切。
舉個例子,雖然是猶太家庭,但他們之前都會買聖誕樹,直到 Sam 堅決反對。
我沒有聖誕樹的記憶,因為 Sam 在 13 歲時決定我們作為一個家庭是猶太人,不能再慶祝聖誕節了。
他們的父親在 2018 年去世時,Annie 記得 Sam 規定了每個弟妹在葬禮上講話的時間。
參加你父親的葬禮,被告知我是大哥,所以我可以決定所有弟妹能講多久,這很奇怪。
表面上看,這種行為很滑稽,像是典型的長兄作風,但它也有很黑暗和深不見底的一面:這種行為在其他地方會怎樣表現?如果你認為自己有權決定一些你根本沒有權威的事情,這會有多可怕?
OpenAI 的發言人告訴我們,Sam 對這些事件的記憶有所不同,但她拒絕詳細說明。
當 Sam 高中畢業時,他走上了一條對科技行業來說非常典型的道路 —— 在斯坦福大學讀計算機科學,創辦一家初創公司,然後從斯坦福輟學。
他做了一個非常重要的決定 —— 申請了 Y Combinator。Y Combinator 是一個創業加速器,基本上是一個創業訓練營。
你和你的聯合創始人可以去申請,如果被接受,你會花三個月時間努力建立公司。在那之後,你要向投資者展示並嘗試籌集風險投資。
Sam 實際上是加入 Y Combinator 的首批創業者之一。(順便說一下,大家都叫它 YC。)那是 2005 年,YC 還沒變得家喻戶曉,更多隻是一群年輕人在馬薩諸塞州的劍橋花一個夏天寫程式碼。但 YC 最終會成為一個非常強大的網路。現在,它基本上是初創公司排名第一的精英專案,很難進入,校友網路非常強大。
Sam 加入 YC 時年僅 19 歲,再次給某個重要人物留下了深刻印象 —— Paul Graham,YC 的負責人。
第一批創始人中包括 Reddit 和 Twitch 的創始人等非常優秀的人,但有人說,Sam 立刻就成為了 Paul 的最愛。Paul 後來寫道:
約見他三分鐘內,我記得就在想,這就是 19 歲的比爾·蓋茨的樣子。
Loopt 是那個時代被遺忘的應用之一,2000 年代初,人們對手機上的 GPS 非常興奮,它使用位置資料將人們與他們的朋友和當地商家聯絡起來,有點像 Yelp 和 Foursquare 的混合體。
Loopt 是為了在路上的人建立連線,畢竟這就是你擁有手機的主要原因
我們會展示人們在哪裡,他們在做什麼,以及你周圍有哪些有趣的地方。
Sam 在 2005 年開始建立這個初創公司。那時還沒有 iPhone,所以 Loopt 試圖在翻蓋手機上實現這一點,但想要獲得吸引力有點困難。
2008 年的 Altman,圖片由 Mathieu Thouvenin 拍攝
在公司早期的一段時間,Sam 的公司陷入了絕境。他們非常需要與移動運營商達成協議。
他們得知運營商 Sprint 旗下的 Boost Mobile,正在尋找新增位置功能的合作伙伴,那時他們已經即將和其他公司簽約了。Sam 一下飛到 Boost 在南加州的總部。
在講述這個故事時,他說自己就是直接現身,在正確的高管辦公室門外等待,請求對方給自己 10 分鐘的時間。
根據我回憶,我接到了 Sam 的電話,他解釋了自己是誰以及 Loopt 是什麼。Sprint 裡的某個人叫他聯絡我們。
以上來自 Lowell Weiner,當時他是 Boost 業務的發展主管,他將講述一個有幾個插曲的故事,但我認為這個故事很好地展示了 Sam 早期的特點。
我們還有一兩天就要和另一家進展更快的初創公司簽約了。
他要求當天來,雖然這非常不尋常,但考慮到時間緊迫,我們處於最後時刻,他被我們的母公司推薦過來,至少值得見一面。
所以 Sam 帶著 Loopt 的其他一兩個傢伙出現在辦公室。我們坐在會議室裡,分享我們準備要做的事情。
他當時 19 歲,可能穿著工裝短褲,雙腿交叉坐在會議室的椅子上,感覺有點想吸引大家去注意他。
網友在 X 分享自己和 Altman 的合照,那時 Altman 還是很愛他的工裝褲
Sam 年輕時經常穿工裝短褲,幾乎總是穿,人們也會開玩笑取笑他,以至於他在一個叫「Masters of Scale」的播客中感到有必要解釋:
老實說,我不認為它們有那麼醜,我覺得它們非常方便:你可以裝很多東西,我喜歡隨身帶平裝書。我喜歡平裝書。我的 iPhone 7 Plus 也很適合放在工裝口袋裡。
我隨身帶電腦充電器、線纜,它們就是高效。
為什麼人們對這個事這麼在意,我無法理解。
這是 Sam 的典型表現,會去評論說正常人可能會談論的事情沒有意義或者不合邏輯。
他沒有耐心去考慮大多數人認為有趣的事情,他有更重要的事情要想。總之,他 19 歲時,在一個行動網路高管的會議上,穿著工裝短褲,雙腿交叉坐在會議室椅子上。
儘管這次會面已經過去了將近 20 年,Lowell 仍然清晰地記得 Sam 當時的樣子,因為那是一個非常奇特的畫面。
他個頭很小,我覺得現在他也不是個大個子,但當時他非常瘦小,雙腿交叉坐在會議室椅子上並不容易。他看起來像是還在上高中。
我聽別人描述過 Sam 奇怪的坐姿,他現在年紀大了,所以不再那麼做了,但一個認識他的人告訴我,他過去常常像鳥兒一樣蹲在椅子上,膝蓋靠近下巴。
儘管這種表現方式不合常規,或者正因為如此,他幾乎立刻說服了 Lowell,Boost Mobile 應該在最後時刻改變計劃,選擇這個新的合作伙伴。
會議開了半小時,Loopt 和 Sam 看起來顯然才是正確的合作伙伴。
既有興奮也有「我們必須在內部推動」的感覺,但我記得和一起開會的同事走出房間時對他說,我們需要改變方向。
Lowell 仍然記得 Sam 的樣子,看起來不起眼,但並非如此。
一方面,他看起來非常年輕,但如果閉上眼睛,僅聽他說話,他對材料的掌握和溝通能力與我在職業生涯中遇到的任何人不相上下。
這是怪異的,是的,這很怪異,不是外貌,而是他的鎮定和掌控能力,對於那個年紀來說。
Sam 的堅持得到了回報。他知道自己必須達成那筆交易,所以做了所有必要的事情,包括飛越整個州去驚動辦公室裡的某個人。
Sam 後來表示,他學到了一個重要的教訓:做事的方法就是要非常堅持。所以他簽下了這份與 Boost Mobile 的合同,將為 Boost Mobile 提供位置共享服務。YC 的同行對他能做到這一點感到驚訝。
Loopt 的商業模式相當搖擺,產品也不怎麼樣,但 Sam 的特殊才能開始顯現出來。很明顯,Sam 在促成交易上非常了不起。
這是 Emmett Shear 在一次部落格採訪中所說的,他是 YC 最早的一批成員之一。
你可以聽出他對 Sam 特殊才華的欽佩之情:「但他怎麼做到的,我還是不知道。這是唯一明顯的事情,他很有野心,但我們大多數人也很有野心,而且他很擅長出城交易。」在接下來的幾年裡,Loopt 繼續成長。
Emmett Shear,他在「OpenAI 宮鬥」中也曾短暫地被命名為 OpenAI 的臨時 CEO
Sam 在 2008 年蘋果開發者大會上展示了他非常獨特的穿著。他穿了兩件馬球衫,疊穿在一起 —— 他穿著一件亮粉色的馬球衫,裡面露出一件檸檬綠色馬球衫的的衣領。
我們對 iPhone 上的 Loopt 非常興奮。Loopt 是用來和他人以及你周圍有趣地方連線的應用。
上面的橙色圖釘是我現在的位置,藍色圖釘代表我的朋友。我們可以創造奇遇。
當你聽 Sam 介紹 Loopt 時,你可以感受到他另一部分特質 —— 真誠和樂觀。
我聽過很多 Sam 的採訪,他總是用「超級」和「興奮」這兩個詞,有時是「超級興奮」。
但他對接下來發生在 Loopt 的事情並不「超級興奮」。
經過幾年發展,Loopt 最終沉寂了。Sam 出售了公司,數額不大。2012 年,他離開了公司,據報道賺了 500 萬美元。大多數人會對這個結果感到滿意,但在矽谷的標準下,Loopt 算是失敗的。
但沒關係,因為到那時,Sam 已經贏得了其他可以幫助他的人。一個是 Peter Thiel,他是億萬富翁投資者和 PayPal 和 Palantir 的聯合創始人。他也是矽谷最有權勢的同性戀者之一,這使他與 Sam 之間有一種同盟感。
Sam 離開 Loopt 時,Peter 給了他一大筆錢去投資,他們關係密切,Sam 的同行們也注意到這一點,因為 Peter Thiel 以悲觀和虛無主義著稱。Sam的公眾形象則相反,他顯得相當真誠和樂觀。
與此同時,Sam 正在加深與 YC 負責人 Paul Graham 的關係,這種親近關係給了 Sam 可見的實際好處。當 Paul 有機會投資非常早期的 Stripe 時,他邀請 Sam 也投資。
Sam 後來說,從某些角度來看,這是他賺最多的一次天使投資,而他能得到它純粹是因為他建立的這種個人關係。
Paul 以寫關於如何建立初創公司的文章著稱,文章充滿了直率、易記的創業智慧。在那些文章中,他經常讚揚 Sam,他建議年輕、有抱負的創業者效仿 Sam,Paul 也曾說出一個關於 Sam 的最著名的評論:
你可以把他空降到一個滿是食人族的島上,過五年後再去看,他將成為那裡的國王。
最初,這句話聽起來像是讚美,但最近我開始懷疑這是否真的如此。
總之,大約在 2012 年,YC 變得非常有影響力。它將總部從劍橋搬到了矽谷,那也是一些最成功的網際網路企業的溫床。Airbnb、Dropbox 和 Stripe 都在 YC 起步。
在外界看來,Sam 似乎開始模仿 Paul 去當創業導師。他也在 YC 指導年輕創始人,並且像 Paul 一樣開始寫文章,講述神秘和讓人令人費解的創業建議:
比如,最成功的創始人並不是為了建立公司而努力,他們的使命是創造一種接近宗教的東西。
或者另一條,一個巨大的秘密是,在很多時候,你可以將世界按你的意志彎曲,大多數人甚至不會嘗試。
在一篇名為《如何成功》的部落格文章中,Sam 告訴創始人,他們應該有幾乎過多的自信:「我認識的最成功的人幾乎相信自己到了一種錯覺的地步。」
對於瞭解 Sam 的人來說,這最後一點聽起來很熟悉。有人告訴我,Sam 有完全的自信,給人一種他 100% 相信自己的印象,沒有那種大多數人都有的煩擾感覺,就像恐懼或不確定的聲音。
前 Boost Mobile 主管 Lowell 說:
他極其自信,不是那種自大的方式,而是非常自我安定,對自己的能力,無論是智力還是人際關係,都很有信心。
多年來,Paul 一直在搭建 Sam 的形象,使他成為一種創業半神。然後,他決定徹底為他加冕。
2014 年,Paul 辭職,任命 Sam 為 YC 總裁。這是一個大事。YC 是矽谷的中心,現在 Sam 是它的領導者。
他年僅 28 歲,同時得到 Peter Thiel 和 Paul Graham 的支援,Sam 與掌權者建立了密切的關係,然後他們給予他金錢、關係、影響力、頭銜,實質上他們直接將他們的一些權力轉移給他,這反過來給了 Sam 思考大事的能力,即便他在做的是一些看起來相當荒謬的事情,比如 Loopt。
Paul 注意到了這一點,這是他在一次會議上解釋為什麼選擇 Sam 作為接班人的原因:
它(YC)已經變成了一個龐大的事物,我不擅長管理龐大的事物。而 Sam 則擅長管理龐大的事物。
然而,到此為止,並沒有證據表明 Sam 可以管理一個龐大的事物,甚至是中型的事物,但一旦接手,Sam 確實將 YC 做得比以前更大,更廣泛。他給更多的初創公司更多的錢,並且擴充套件到了海外。
John Coogan 是 YC 的兩次參與者,他創辦的公司是Soylent,也就是為科技圈的人制造代餐粉的公司。他注意到,
在 Sam 領導的 YC 時期,YC 從一個像是初創公司的夏令營的地方變成了涵蓋各種專案,風險投資與連續性基金,非盈利工作與 YC 研究的地方。確實有一種感覺,YC 到底應該做多少事,這個組織應該做一切嗎?
在 YC 期間,John 注意到 Sam 的幾個特點:
他非常擅長切換話題,並且專注地傾聽。我認為這是他的超能力。我聽過有人形容他是「聆聽屆的邁克爾·喬丹」。
很多人向我描述了 Sam 的這種專注。他在聆聽的時候,也會盯著對方看,這幾乎會讓人感到不安。現在 Sam 在執行 YC,他可以成為一種隱秘的操作者。他擁有從 Loopt 時期就已獲得的促成交易技能,現在他的人脈和影響力更大。如果出現問題,他可以打個電話就快速解決。
在我商業生涯的非常早期,我有一個非常艱難的談判,我給 Sam 發了一封郵件說,「嘿,我在處理這個談判,我只是想和你核實一些事情。」
他立刻打電話給我,我們談了五分鐘,他完全解決了我的問題,那是我人生最好的商業交易之一。它確實對我產生了很大的影響。
我親眼見過 Sam 在 15 分鐘電話裡解決了價值一億美元的問題,這真是了不起的,我認為 Sam 只是從人類的角度考慮,這個人想要 X,那個人想要 Y,我們如何把這兩個人結合在一起。
他成為總裁後,開始做一些「愛好專案」。他對核聚變感興趣,為了鼓勵更多人建立這一領域的初創公司,他擴充套件了 YC 的範圍,包括「硬科技」初創公司,即那些在技術上存在某些不確定性的問題公司。
在那之前,YC 幾乎專注於網際網路軟體。他還在 YC 成立了一個研究部門,並指派研究人員進行他想探討的專案。例如,普遍基本收入(UBI),即無條件給每個人提供定期收入,所以在 Sam 的指揮下,YC 在奧克蘭進行了一個研究專案,向家庭無條件提供資金。
這是 Sam 經常使用的方法:他會有一個想法,認為某些東西應該存在,然後他拉來人和錢,鼓勵某人去做,把世界按他的意願彎曲。
正如他在部落格中寫道,他有點像一個交響樂團的指揮,不是自己演奏樂器,而是指揮他的交響樂團。在 2015 年,他將有機會再次這樣做。這次的重點是 AI。
通常人們會說,2015 年,Elon Musk 感到擔憂,或者至少 Elon 到處告訴大家他對人工智慧的狀態非常憂慮。
當時,AI 領域做最大的 Google。他們有很多錢,聘請了最好的研究人員。他們有 Google Brain,然後他們還收購了 DeepMind,這是一個英國實驗室,正在進行一些當時最令人興奮的 AI 研究,讓 AI 能夠更流暢地自學。
Google 的早期領先特別讓 Elon 擔憂,因為他擔心 AI 可能會變得太強大,尤其是一個 AI 實體開始自我改進時。他非常擔心手握著一切的人:
我曾經和 Larry Page 是好朋友,會住在他家。我們經常聊到 AI,晚上聊很久,我一直敦促他注意 AI 的危險。他對 AI 的危險並不擔心,態度非常隨便。
他每次講述這個故事都會讓我感到驚訝,因為他講述的方式非常隨意,但他講述的是自己結束了一段友誼。
不過,他喜歡這個軼事,因為它讓他顯得聰明和有前瞻性:
當時 Google,特別是在收購 DeepMind 之後,擁有世界上三分之二的 AI 人才。他們顯然有很多電腦和很多錢,但掌控這些的人似乎或者至少曾經對 AI 安全毫不關心。那聽起來像個真正的問題。
最終的導火索是 Larry 稱我為「物種主義者」,因為我支援人類意識而不是機器意識。我說,好吧,是的,我確實是。
當時,許多專家認為,開發出強大得足以威脅人類的 AI 這個想法是可笑的,因為 AI 仍然難以區分吉娃娃和藍莓鬆餅的照片。
但對 Elon 來說,這是一個真實的威脅。這是他與 Walter Isaacson 在會議上的對話。他聽起來很嚴肅,甚至很驚慌。
我不認為大多數人瞭解機器智慧的發展速度有多快,比幾乎任何人預料的都要快。即使在矽谷,人們真的沒有意識到,為什麼這很危險。
如果有某種數字超級智慧,尤其是如果它進行遞迴自我改進,其最佳化或效用函式對人類有害,那麼它將產生非常不好的影響。
可能只是一些像消除垃圾郵件之類的東西,最好的方法是消除人類。為什麼?因為人類是所有垃圾郵件的源頭。
實際上,臺下的觀眾甚至在嘲笑他,因為他所說的在當時聽起來太過離奇。所以 Elon 越來越覺得他必須做些什麼來削弱 Google 的力量。但他也可能是被另一種東西驅動。
我在《彭博社》的同事 Ashlee Vance 是 Elon 傳記的作者:
在 2013年,Elon 並不是我們今天所熟知的那個人。他過得還不錯,但特斯拉剛剛開始嶄露頭角。SpaceX 做得不錯,Elon 的淨資產可能有幾十億美元,但絕對不是世界上最富有的人。
Elon 當時的朋友們是世界上最富有的人,Larry Page 和 Sergey Brin,Google 的聯合創始人。
我那時經常採訪 Elon,正在為他寫一本書,很明顯,他在看著他的朋友們,他們的一切都很成功,他們擁有這些軟體帝國和這個不斷增長的AI帝國。我的感覺是,Elon 對 AI 的想法一部分來自嫉妒?
我認為他看著 Google 以及他的朋友們在 AI 方面的成功,感到自己沒有這樣的東西。但他永遠不會公開承認他嫉妒。
好的,AI 在 Elon 的心頭,在 2015 年,他參加了在 Rosewood Hotel 的一次晚餐會。Rosewood Hotel 是 Menlo Park 桑希爾路上一家豪華酒店,就在矽谷一些最大的風險投資公司附近。晚餐會上大約有 10 個人,但對我們的故事來說,最重要的是四個人:Elon、Sam,還有 Ilya Sutskever 和 Greg Brockman。
Ilya 在 Google 工作,是 AI 領域非常受尊敬的研究人員。Greg 曾是 Stripe 的關鍵人物,將其從一個五人團隊發展成了一個價值數十億美元的公司。
在晚餐上,他們非常認真地談論了 AI 和它可能被濫用或導致災難的威脅。他們討論瞭如何建立一個可以與 Google 競爭的公司。他們有這些要素:Ilya 的 AI 技能,Greg 的運營經驗,Elon 的錢,而 Sam 則可以指揮這一切。
在那次晚餐上,Elon 承諾為這個專案提供 10 億美元的資金。他還想出了名字。在 CNBC 上的講話中,你可以聽到他聲音中透露出的自豪:
OpenAI 指的是開源,所以初衷是,反 Google 會是什麼?一個開源的非盈利組織,因為 Google 是封閉原始碼的盈利公司,而利潤動機可能在經濟上是危險的。
這就是 OpenAI 的誕生。他們有一個最初的願景,OpenAI 將是一個研究實驗室,會公開分享其研究成果,而不是為了自身利益而保密。它將是一個非盈利組織,不以獲取利潤為目的,而是致力於建立一個安全的 AI,為全人類帶來好處。
這在理論上聽起來很好,但這些非盈利和開源的理想很快變得複雜起來。OpenAI 的聯合創始人很快發現自己陷入了權力鬥爭,並且急需籌集數十億美元。
Sam 再次成功掌控了局勢,以一種進一步鞏固他權力的方式。