3 萬字全文翻譯，被披露的不只是內鬥。
文丨賀乾明
翻譯、校對丨GPT-4o、Claude-3.5-Sonnet、賀乾明
編輯丨 黃俊杰
“創業公司的內部全都是車禍現場。只是有的你能在媒體上看到，有的看不到。” 山姆·阿爾特曼（Sam Altman）的導師，矽谷孵化器 YC 創始人保羅·格雷厄姆曾這麼總結他看過的千百家創業公司。
得益於阿爾特曼和特斯拉 CEO 埃隆·馬斯克的爭鬥和訴訟，現在我們也能看到 OpenAI 早年的真實樣子。雙方各自公佈了數批共 75 封內部郵件以及簡訊記錄，時間跨度從 2015 年 OpenAI 籌備到 2019 年組建營利實體，展示了一群矽谷名流和天才 AI 研究者如何因為理想聚在一起，又如何隨著 OpenAI 的發展爭權奪利。
這些長達 3 萬多字的內部記錄也像是一堂 OpenAI 出品的創業課，涉及這家全球最大的 AI 創業公司早期如何講故事、組建精英陣容，到薪酬設計、股權分配的方方面面；從低價與 Google 爭奪人才到與微軟談判合作，甚至還包括曾考慮過的加密貨幣融資方案。而且，我們還能看到首席科學家伊利亞·蘇茨克維 (Ilya Sutskever) 如何寫雙週報，制定 AGI 研究計劃，以及阿爾特曼如何一步步控制 OpenAI，推動轉型的過程。
我們全文翻譯了這些內部交流記錄，在保留語言風格、不改變原意的前提下適當編輯，並按照時間線整理，以儘可能完整呈現他們交流的情況。
2015 年：邀約馬斯克 – 從 YC AI 到 OpenAI – 初始團隊
問題
參與者：
山姆·阿爾特曼（Sam Altman），2014 年接任矽谷孵化器 YC 總裁，2019 年全職擔任 OpenAI CEO。
埃隆·馬斯克（Elon Musk），時任特斯拉、SpaceX CEO，為 OpenAI 出資 4000 多萬美元，2018 年 2 月退出 OpenAI 董事會。
主題：問題
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間：2015 年 5 月 25 日 21:10（週一）
我一直在思考，是否有可能阻止人類開發 AI。
我認為幾乎不可能。
既然它遲早會發生，最好是讓 Google 之外的其他人先做這件事。
你覺得 YC 啟動一個類似曼哈頓計劃的 AI 專案怎麼樣？我覺得我們可以讓排名前 50 的頂級人才中的很多人參與其中。我們可以設定一個架構，讓這項技術透過某種形式的非營利機構屬於全世界。如果專案成功，參與其中的人能獲得類似加入創業公司的報酬。當然，我們會遵守並積極支援所有的監管規定。
山姆
Re：問題
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間：2015 年 5 月 25 日 23:09（週一）
這可能值得進一步討論。
Re：Re：問題
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間：2015 年 6 月 24 日 10:24（週三）
我們的使命是，創造用於增強個人的能力的第一個通用人工智慧（AGI）——即那個未來看起來最安全的分散式版本。更寬泛地說，安全應當是我們的首要追求。
我覺得，理想的啟動團隊是 7 到 10 人，然後逐步擴大。我們在山景城有一棟空餘的建築，他們可以用。
至於治理架構，我建議從 5 個人開始，我提議你、比爾·蓋茨、皮埃爾·奧米迪亞（eBay 創始人）、達斯汀·莫斯科維茨（Facebook 聯合創始人）和我。技術由基金會擁有，用於 “全人類的福祉”。如果遇到不確定如何應用的情況，我們 5 個人做決定。研究人員有可觀的財務回報，但與他們開發的技術無關。這樣可以減少一些衝突（我們會付他們有競爭力的薪水，並給他們 YC 股權）。我們將持續討論哪些工作成果應該開源，哪些不應該開源。某個時候，我們會找一個人領導團隊，但他 / 她可能不該在治理委員會內。
除了治理之外，你是否會參與其中？我認為這非常有助於工作朝著正確的方向發展，並招募到最優秀的人才。理想情況下，你可以每個月（或者類似的頻率）來看看他們的進展。我們通常會稱那些以某種有限的方式參與 YC 的人為 “兼職合夥人，Part-Time Partner”（比如我們和彼得·蒂爾 [Peter Thiel，Paypal 聯合創始人] 的合作就這樣，儘管他現在非常積極），你可以隨意決定我們該怎麼稱呼你。即使你不能投入太多時間，能公開表示支援，對招募人才也非常有幫助。
我覺得關於監管信的正確做法是，等到這項工作啟動後，我可以釋出一條訊息，類似於 “既然我們已經開始做這件事了，我最近也在認真思考世界需要什麼樣的約束來保障安全。” 如果你不想簽字，我也很樂意把你從簽署名單中去掉。我覺得，信釋出之後，會有更多人願意支援它。
山姆
Re：Re：Re：問題
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間：2015 年 6 月 24 日 23:05（週三）
我同意所有的提議。
AI docs
新增參與者：
伊利亞·蘇茨克維 (Ilya Sutskever)，Google 原資深研究科學家，放棄數百萬美元年薪加入 OpenAI，擔任首席科學家，2023 年 11 月聯合 OpenAI 董事驅逐阿爾特曼，今年 5 月離職。
主題：AI docs（OpenAI 披露）
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間：2015 年 11 月 20 日 11:48（週五）
埃隆-
我們的計劃是讓你、我和伊利亞三個人組成 YC AI （注：OpenAI 早期名稱）的董事會，它將是一個位於特拉華州的非營利組織。我們還會描述清楚，由董事會成員選舉兩位外部人士加入董事會。
我們會在章程中寫明，任何可能危害人類安全的技術，必須經過董事會的同意才能釋出。我們也會在研究人員的聘用合同中提到這一點。
整體來說，你覺得這個方案怎麼樣？
我抄送給了我們的法律顧問 <****>（OpenAI 隱藏的內容，下同），請問你那邊是否有人可以跟他對細節？
Re：AI docs（OpenAI 披露）
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間：2015 年 11 月 20 日 12:29（週五）
我認為它應該由 YC 支援並獨立於 YC，而不是聽起來像 YC 的一個子公司。
另外，當前的架構似乎不是最理想的。特別是，YC 的股權和非營利組織的薪水，會讓激勵機制變得模糊。更好的做法，可能是設立一個標準的 C 型公司（注：可以理解為營利公司），並同時設立一個非營利組織。
電話內容跟進
新增參與者：
格雷格·布洛克曼（Greg Brockman），矽谷金融科技獨角獸 Stripe 原 CTO，後擔任 OpenAI 總裁。
主題：電話內容跟進
發件人：格雷格·布洛克曼
收件人：埃隆·馬斯克
時間：2015 年 11 月 22 日 18:11（週日）
嗨，埃隆
很高興剛才和你聊了下。
正如我在電話中提到的，這是部落格文章的最新版本：https://quip.com/6YnqA26RJgKr。（山姆、伊利亞和我正在考慮新的名字，如果你有任何建議，非常歡迎。）
顯然，還有很多細節需要修改，但我很好奇你對這樣傳遞資訊的看法。我不想避重就輕，如果你覺得合適，我會更直白地傳遞資訊。我認為最重要的是，我們的資訊能吸引到做研究的人（或者至少是我們想要招聘的那部分人）。我希望我們能作為一箇中立的團隊進入這個領域，廣泛合作，將對話引導到 “人類的勝利” 上，而不是某個特定的團隊或公司。（我認為這是我們成為領先研究機構的最佳途徑。）
我附上了我們一直在用的 offer 模板，年薪為 17.5 萬美元。以下是我發給候選人的郵件模板：
附件是你正式的 YC offer！請按照你方便時間簽署日期。我們還會發送另外兩份檔案給你：
1. 一封單獨的信，向你提供每期 YC 訓練營 0.25% 的股份（作為 YC 顧問的報酬）。
2.《自由僱傭協議》《資訊保密協議》《發明轉讓協議》《仲裁協議》
（由於這是我們首次發出正式 offer，如果過程中有任何不順暢之處，請多多包涵，若有任何疑問，隨時告知！）
我們計劃提供以下福利：
-
健康、牙科和視力保險
-
無限制的假期，建議每年休假四周
-
帶薪育兒假
-
當你在會議上展示 YC AI 的工作成果，或者受 YC AI 邀請參加會議，相關費用由 YC AI 支付。
我們也很樂意提供簽證支援。如果您準備好討論簽證相關事宜，隨時聯絡我，我可以為你對接 YC 的 Kirsty。
如果你有任何問題，請隨時聯絡我——我隨時願意聊！期待一起工作 :)。
gdb（注：格雷格·布洛克曼名字的縮寫）
Re：電話內容跟進（OpenAI 披露）
發件人：埃隆·馬斯克
收件人：格雷格·布洛克曼
時間：2015 年 11 月 22 日 19:48（週日）
部落格內容看起來不錯，但需要調整為中立視角，不要過於偏向 YC。
我傾向於將部落格調整為更吸引公眾的方向——得到公眾的支援對我們的成功非常重要——同時，為招聘準備一個更長、更詳細、更加專業的版本，在面向公眾的版本結尾附上指向該版本的連結。
我們需要提出一個遠大於 1 億美元的數字，否則在 Google 或 Facebook 的支出面前，我們會顯得毫無競爭力。我建議宣佈一個 10 億美元的資金承諾。這是切實可行的，我會承擔其他人未能提供的部分。
模版總體不錯，只需將預設獎勵調整為分期發放的現金獎金，同時允許轉化為 YC 的股權，或者可能是 SpaceX 的股權（需要進一步確認具體金額）。
開頭段落的草稿
主題：開頭段落的草稿
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間：2015 年 12 月 8 日 9:29（週二）
把開頭的總結部分寫好非常重要。這是大家首先閱讀的內容，也是媒體通常會引用的部分。釋出它就是為了吸引頂尖人才。我不確定格雷格真的明白這一點。
——
OpenAI 是一家非營利的 AI 研究公司，目標是以最有可能造福全人類的方式推動數字智慧的發展，不受追求財務回報的束縛。
我們公司的基本理念是，儘可能廣泛地傳播 AI 技術，將其作為每個人意志的延伸，確保在自由精神的指導下，數字智慧的力量不被過度集中，並朝著全人類共同期望的未來演化。
這一專案的結果尚不確定，薪酬也比其他公司低。但我們相信，我們的目標和架構是正確的。我們希望這是最優秀的人才最看重的東西。
Re：開頭段落的草稿
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間：2015 年 12 月 8 日 10:34（週二）
這個怎麼樣？
——
OpenAI 是一家非營利的 AI 研究公司，目標是以最有可能造福全人類的方式推動數字智慧的發展，不受追求財務回報的束縛。
由於我們沒有財務壓力，可以專注開發對人類影響最大、影響最積極的 AI 技術，並儘可能廣泛地傳播。我們相信 AI 應該是個人意志的延伸，並且在自由精神的指導下，避免將其集中在少數人手中。
這一專案的結果尚不確定，薪酬也比其他公司低。但我們相信，我們的目標和架構是正確的。我們希望這是最優秀的人才最看重的東西。
剛剛得到訊息 ……
主題：剛剛得到訊息 ……
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間：2015 年 12 月 11 日 11:30（週五）
剛剛得到訊息，DeepMind 明天會給 OpenAI 的每個人提供高價 offer，試圖打壓我們。
你是否介意我主動提高大家的薪酬，每年增加 10 萬到 20 萬美元？我認為他們都受到使命的激勵，但加錢會向大家傳遞一個積極的訊號——我們會長期關心並照顧他們。
看起來 DeepMind 打算開戰，他們甚至在 NIPS （注：AI 領域頂級學術會議）上直接堵人。
Re：剛剛得到訊息 …
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間：2015 年 12 月 11 日（週五）
伊利亞有沒有給出確切的答覆？
如果有人表現出一丁點猶豫，我都很樂意親自給他們打電話。我已經告訴 Emma，這件事是我全天候待命的首要任務。
Re：Re：剛剛得到訊息 ……
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間：2015 年 12 月 11 日 12:15（週五）
是的，已經承諾了，剛剛拿到了他的承諾。
Re：Re：Re：剛剛得到訊息 ……
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間：2015 年 12 月 11 日 12:32（週五）
太棒了
Re：Re：Re：Re：剛剛得到訊息 …
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間：2015 年 12 月 11 日 12:35（週五）
大家感覺都很好，還在說一些話，類似 “儘管讓 DeepMind 報價好了，遺憾的是，他們沒有 ‘堅持做正確的事’ 的價值觀支援”。
訊息（注：OpenAI 成立）將在太平洋標準時間下午 1:30 釋出
OpenAI 公司
新增參與者：
帕梅拉·瓦加塔（Pamela Vagata），Facebook 原 AI 研究工程師，2016 年離職
維琪·張（Vicki Cheung），多鄰國、醫療保健公司 TrueVault 原工程師，2017 年底離職
迪亞德里克·金瑪（Diederik Kingma），當時博士未畢業，2018 年離職
安德烈·卡帕西（Andrej Karpathy），當時博士未畢業，2017 年離職加入特斯拉，2023 年重返 OpenAI，2024 年再次離職
約翰·舒爾曼（John D. Schulman) ，當時博士未畢業，2024 年離職
特雷弗·布萊克威爾（Trevor Blackwell）， YC 原合夥人，2017 年離職
主題：OpenAI 公司
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維、帕梅拉·瓦加塔、維琪·張、迪亞德里克·金瑪、安德烈·卡帕西、約翰·舒爾曼、 特雷弗·布萊克威爾、格雷格·布洛克曼
抄送: 山姆·阿爾特曼
時間：2015 年 12 月 11 日 16:41（週五）
祝賀大家邁出了偉大的第一步！
我們在人數和資源上遠不及一些大家熟知的機構，但我們站在正義這邊，這一點非常重要。我覺得我們有很大的機會。
我們需要考慮的最重要的事是招募頂尖人才。任何公司的成就，最終都是團隊成員共同努力的結果。如果我們能持續吸引到最有才華的人，並且方向和目標一致，那麼 OpenAI 一定能夠成功。
因此，請大家好好想想，應該讓誰加入我們。如果在招聘或其他方面我能提供幫助，請隨時告訴我。我建議特別關注那些尚未完成研究生甚至本科學業，但顯然非常聰明的人。最好在他們取得突破性成果之前讓他們加入。
期待與大家合作，
埃隆
2016 年：組建團隊 – 薪酬架構 – 微軟的千萬美元訂單 – 馬斯克的反對
祝賀獵鷹 9 號成功
主題：轉發：祝賀獵鷹 9 號成功（OpenAI 披露）
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼、伊利亞·蘇茨克維、格雷格·布洛克曼
時間：2016 年 1 月 2 日 8:18（週六）
[轉發郵件]
——
嗨，埃隆，
祝你新年快樂，███！（注：█ 是 OpenAI 隱藏的資訊，下同）
恭喜獵鷹 9 號著陸，這真是一個了不起的成就，現在是時候開始打造艦隊了！
最近我看到你（還有山姆和其他 OpenAI 的人）頻繁接受採訪，稱讚 AI 開源的優點，但我想你也清楚，這並不是某種萬能的方案，它總不能神奇地解決安全問題吧？實際上，有許多有力的證據表明，你們採取的這種方法可能非常危險，甚至可能增加世界的風險。一些顯而易見的觀點在這篇部落格文章中有很好的闡述，我相信你已經看過了，但還有一些其他的重要因素值得考慮：http://slatestarcodex.com/2015/12/17/should-ai-be-open/
我很希望能聽到你對這些觀點的反駁意見。
Re：轉發：祝賀獵鷹 9 號成功（OpenAI 披露）
發件人：伊利亞·蘇茨克維
收件人：埃隆·馬斯克、伊利亞·蘇茨克維、格雷格·布洛克曼
時間：2016 年 1 月 2 日 9:06（週六）
文章的重點是 “迅速突破” 場景：如果發生迅速突破，並且開發一個安全的 AI 比開發一個不安全的 AI 更難，我們開源所有內容，就可能讓擁有大量硬體資源的惡意行為者輕易開發出一個不安全的 AI，而這個 AI 將迅速突破。
隨著我們離開發 AI 越來越近，減少開放會變得更加合理。在 OpenAI 的語境中，“開放” 意味著 AI 開發完成後，所有人都可以從中受益。但不分享成果是完全可以接受的（不過短期乃至中期，為了招聘，分享所有成果無疑是正確的策略）。
Re：Re：轉發：祝賀獵鷹 9 號成功（OpenAI 披露）
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維
時間：2016 年 1 月 2 日 9:11（週六）
沒錯。
後續想法
主題：後續想法（OpenAI 披露）
發件人：伊利亞·蘇茨克維
收件人：埃隆·馬斯克
抄送：格雷格·布洛克曼、山姆·阿爾特曼
時間： 2016 年 2 月 19 日 10:28（週五）
幾點說明：
-
解決了 “概念” 問題，並不意味著我們就能獲得 AI。還需要解決的其他問題包括無監督學習、遷移學習和終身學習。目前我們在語言理解方面的表現也相當差。這並不意味著，這些問題在未來幾年不會取得顯著進展。但我們不能說，只有一個問題阻礙著我們實現完全達到人類水平的 AI。
-
我們今天無法開發 AI，是因為缺乏關鍵想法（也可能是計算機太慢了，但我們現在還無法確定）。強大的想法來自頂尖的人才。大規模的計算叢集確實有幫助，非常值得投入，但作用相對較小。
-
接下來 6 到 9 個月內，我們有望取得傳統意義上的重要成果，因為我們已經有了一支非常優秀的團隊。要想取得改變整個領域的突破性成果更難、風險更大，需要更長時間。但我們也有合理的計劃來應對這些挑戰。
Re：後續想法（OpenAI 披露）
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維
抄送：格雷格·布洛克曼、山姆·阿爾特曼
時間： 2016 年 2 月 19 日 12:05（週五）
坦率地說，AI 社群花了這麼長時間才弄清楚這些概念，讓我感到驚訝。這看起來並不算太難。將大量深度網路在高層次上連線到一起，聽起來像是正確的方法，或者至少是正確方法的關鍵部分。███████████████████████████████
DeepMind 創造出深度智慧的機率每年都在增加。也許在 2 到 3 年內它不會超過 50%，但很可能會超過 10%。考慮到他們的資源，在我看來，這個想法並不瘋狂。
無論如何，我認為高估競爭對手總比低估好得多。
這並不意味著，我們應該著急地招聘不夠優秀的人才。這麼做無法取得任何好結果。我們需要做的是加倍努力，去尋找世界上最優秀的人才，採取一切必要的手段將他們吸引到公司裡，並給他們高度的緊迫感。
在接下來的 6 到 9 個月內，OpenAI 必須取得一些重要的成果，來證明我們真正有實力。不一定非得是重大突破，但至少應該足夠讓全球的關鍵人才注意到它，併產生興趣。
████████████████████████████████████████████████████████████████████████████████████████████████████████████
薪酬框架
主題：薪酬框架
發件人：格雷格·布洛克曼
收件人：埃隆·馬斯克
抄送：山姆·阿爾特曼
時間： 2016 年 2 月 21 日 11:34（週日）
大家好，
我們正在進行成立以來的第一輪全職招聘。這顯然非常重要，因為這將對未來產生長期影響。我現在還不太有把握單獨做決定，希望能得到一些指導。
以下是我們當前的安排：
創始團隊： 年薪 27.5 萬美元 + 0.25% 的 YC 股權
-
也可以選擇把年薪永久轉為每年固定的 12.5 萬美元獎金，或者等值的 YC 或 SpaceX 股權。我不確定是否有人選了這個。
新聘人員： 17.5 萬美元年薪 + 12.5 萬美元年終獎或等值的 YC 或 SpaceX 股權。獎金根據績效評估，可能為 0% 或大於 100%。
特殊情況： 格雷格 + 伊利亞 + 特雷弗
我們的計劃是基本薪資保持大體一致，用浮動的獎金獎勵表現優秀的員工。
一些說明：
-
股權 8 年內歸屬完成，我們使用 20% 的年化折算，12.5 萬美元的獎金相當於 0.12% 的 YC 股權 。因此，最終價值大約為 75 萬美元。雖然這個數字聽起來更有吸引力，但估值很難精確。
-
創始團隊最初每人 17.5 萬美元年薪。在實驗室啟動的第二天，我們主動將每個人的薪水加了 10 萬美元，告訴他們，我們在實驗室成功時會在財務上全力支援他們，並要求他們承諾忽視所有 offer，相信我們會照顧好他們。
-
我們目前正在面試 Brain （注：Google 的研究部門）的伊恩·古德費洛（Ian Goodfellow），他是我們這個領域內頂尖的兩位科學家之一（另一個是 DeepMind 的亞歷克斯·格雷夫斯［Alex Graves］）。他是 Brain 中最優秀的人，所以 Google 肯定會全力爭取他。我們計劃將他納入創始團隊的薪酬方案。
一些薪資資料：
-
約翰在 DeepMind 的年薪總包為 25 萬美元，他認為自己可以輕鬆談到 30 萬美元。
-
FAIR（Facebook AI 實驗室）口頭上給 Wojciech（沃伊切赫·薩倫巴）的報價是每年 125 萬美元（但沒有具體的書面資訊）。
-
安德魯·圖洛克（Andrew Tulloch）在 Facebook 的年薪為 80 萬美元（大部分是股票，還在歸屬中）。
-
伊恩·古德費洛目前在 Google 的薪酬是 16.5 萬美元現金 + 每年 60 萬美元股票。
-
蘋果公司有點急著招人，提供 55 萬美元現金（加股票，推測還有額外補償）。不過，我認為沒什麼優秀的人會接受。
我目前在關注的兩個具體候選人：
-
安德魯很有可能接受我們的報價，但他擔心薪資差距太大。
-
伊恩說，薪資不是他最關注的事，但灣區的生活成本很高，他希望能買得起房子。如果 Google 給他開出像給伊利亞那樣的薪資，我不確定會發生什麼。
我現在的問題是：
1. 我預計安德魯會嘗試提高薪資。我們是否應該堅持現有的 offer，並告訴他只有在他非常願意接受這個薪資後才能加入（並告訴他其他人也放棄了更高的收入）？
2. 伊恩將在週三面試並（我相信）收到 offer。我們是否應該把他的 offer 視為最終方案，還是應該根據 Google 的 offer 調整？
3. 根據 1 和 2 的問題，我在思考這種平衡薪資的策略是否可行。如果我們繼續保持現狀，我覺得我們可能需要特別強調浮動獎金的價值。或許可以考慮使用簽約獎金作為槓桿吸引人才？
4. 雖然不太重要，但我們的實習生薪資低於市場：每月 9 千美元。（Facebook 提供 9 千美元 + 免費住房， Google 提供約 1.1 萬美元的月薪）。對實習生來說，薪資並不是最重要的，經驗才是重點。但我認為我們可能因此失去了一些合適的候選人。考慮到實習生每小時的薪資比全職員工低很多，我們是否應該考慮提高薪資？
隨時可以討論這些問題。
gdb
Re：薪酬框架
發件人：埃隆·馬斯克
收件人：格雷格·布洛克曼
抄送：山姆·阿爾特曼
時間： 2016 年 2 月 22 日 0:09（週一）
我們必須全力以赴爭取頂尖人才。就提高薪資吧。如果某個時候需要重新調整現有員工的薪資，那也沒問題。
我們要麼吸引到世界上最優秀的人才，要麼被 DeepMind 打敗。
不惜一切代價吸引頂尖人才，我完全支援。
DeepMind 正在給我帶來極大的心理壓力。如果他們贏了，後果將非常嚴重，他們 “一心統治世界” 的價值觀讓我非常擔心。
顯然，他們正在取得重大進展，畢竟那邊的天才實在太強了。
Re：Re：薪酬框架
發件人：格雷格·布洛克曼
收件人：埃隆·馬斯克
抄送：山姆·阿爾特曼
時間： 2016 年 2 月 22 日 0:21（週一）
明白，完全理解你的意思。計劃已經定了。我會繼續和山姆一起處理具體細節，如果你想了解最新情況，請隨時告訴我。
gdb
《連線》雜誌採訪
新增參與者：
山姆·泰勒（Sam Teller），時任馬斯克首席助理
主題：《連線》雜誌採訪
發件人：格雷格·布洛克曼
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間： 2016 年 3 月 21 日 0:53（週一）
嗨，埃隆，
我接受了《連線》雜誌關於 OpenAI 的採訪，事實核查員向我提出了一些問題。我想特別和你同步兩點，確保回答合理並與你的立場一致：
1. OpenAI 是否會公開所有的研究？
在任何時候，我們都會採取最有可能最大化造福世界的行動。短期內，我們認為最好的方式是公開我們的研究成果。但從長期來看，這可能不是最好的方法：例如，某些有潛在危險的技術可能不適合立即共享。無論在任何情況下，我們都會無償分享我們所有研究的所有成果，並希望這些成果能惠及整個世界，而不是集中於某個特定機構。
2. OpenAI 是否認為，讓儘可能多的人掌握最先進的 AI 技術，是防止過於強大的 AI 落入私人手中並威脅世界的最佳路徑？
我們認為，用 AI 擴充套件個體意志，是確保 AI 始終造福人類的最有前景的路徑。這種方法的吸引力在於，有許多能力相當的智慧體存在時，它們可以相互制衡，防止單一壞人的影響。但我們不會聲稱已經有了所有的答案：相反，我們正在建立一個能夠尋找這些答案的機構，而且無論答案為何，這個機構都能採取最佳行動。
謝謝！
gdb
Re：《連線》雜誌採訪
發件人：埃隆·馬斯克
收件人：格雷格·布洛克曼
抄送：山姆·泰勒
時間： 2016 年 3 月 21 日 6:53（週一）
沒問題。
關於莫琳·多德的問題
新增參與者：
莫琳·多德（Maureen Dowd），時任《紐約時報》專欄作家
亞歷克斯·湯普森（Alex Thompson），時任莫琳·多德的助理
主題：關於莫琳·多德的問題
發件人：山姆·泰勒
收件人：埃隆·馬斯克
時間： 2016 年 4 月 27 日 7:25（週三）
[轉發亞歷克斯·湯普森的郵件]
——
嗨，山姆，
希望你今天過得愉快，很抱歉再次打擾你。我想確認莫琳是否可以瞭解馬斯克先生對扎克伯格先生一些公開評論的回應。特別是扎克伯格稱馬斯克對 AI 的擔憂 “過於誇張”，並批評那些 “危言聳聽” 者關於 AI 危險的言論。我在下方附上了扎克伯格先生的評論細節：
最近在德國，當被問及馬斯克的擔憂時，扎克伯格稱這些擔憂 “過於誇張”，並讚揚了 AI 的突破，其中包括一個系統。他聲稱，這個系統可以用手機診斷皮膚病變是否是癌症，準確性堪比 “最好的皮膚科醫生”。
“除非我們真的搞砸了，” 他說，機器將始終服從於人類，而不會成為 “超人”。
“我認為，我們可以開發一種 AI，它為我們工作，幫助我們 …… 有些人渲染 AI 是一種巨大威脅，但我覺得這種擔憂過於牽強，遠不及疾病、暴力等造成的災難。” 在 4 月的 Facebook 開發者大會上，他將自己的理念概括為：“選擇希望，而不是恐懼。”
亞歷克斯·湯普森
《紐約時報》
Re：關於莫琳·多德的問題
發件人：埃隆·馬斯克
收件人：山姆·泰勒
時間： 2016 年 4 月 27 日 12:24（週三）
歷史明確表明，任何強大的技術都是一把雙刃劍。假設 AI——可以說是所有技術中最強大的——僅僅只有一面，是非常愚蠢的。
微軟最近的 AI 聊天機器人就是一個例子，展示了它如何在短時間內迅速產生負面影響。明智的做法是，對 AI 的到來保持謹慎，確保其力量被廣泛分配，而不是被任何一家公司或個人掌控。
這正是我們創立 OpenAI 的原因。
微軟託管協議
主題：微軟託管協議
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間：2016 年 9 月 16 日 14:37（週五）
以下是微軟的條款：用 1000 萬美元，購買價值 6000 萬美元的計算資源，我們也可以對他們在雲上部署的內容提出建議。如果你有什麼反饋，請告訴我。
山姆
微軟 /OpenAI 條款
微軟與 OpenAI：加速 Azure 和 CNTK 上深度學習的發展
此《非約束性條款清單》（以下簡稱 “條款清單”）由微軟公司（“微軟”）與 OpenAI（“OpenAI”）共同擬定，列出了雙方潛在商業合作關係的條款。該條款清單用於討論，並未涉及在簽署具有法律約束力的商業協議（“商業協議”）之前需要達成一致的所有事項。該條款清單的存在及內容，以及與之相關的所有討論，均屬於雙方於 2016 年 3 月 17 日簽署的保密協議（“NDA”）下所定義和約束的保密資訊。除保密義務外，本條款清單本身並不具約束力。
合作目的
OpenAI 專注於以造福人類的方式推動深度學習發展。微軟希望與 OpenAI 合作，加速微軟 Azure 上的深度學習發展。為此，微軟將以優惠價格向 OpenAI 提供 Azure 的計算資源，使 OpenAI 能夠有效地推進使命。
合作目標
微軟
-
加速 Azure 上的深度學習發展
-
吸引下一代開發者群體
-
共同宣傳並推動 Azure 上的深度學習發展
OpenAI
-
在協議期內（3 年）獲得大幅折扣的 GPU 計算資源：價值 6000 萬美元的計算資源，僅需支付 1000 萬美元，用於其非營利研究
-
宣傳和推廣 OpenAI 使用 Azure
參與方（法律實體）：微軟、OpenAI
擬定協議簽署日期：2016 年 9 月 19 日
擬定協議生效日期：同協議簽署日期
法律檔案起草方：微軟
合作期限： 3 年
工程條款
-
計算資源： 微軟將按照商定的價格向 OpenAI 提供 GPU 計算資源，支援他們在 Azure 上執行任務。
-
地理位置： 微軟將根據容量和可用性自行決定計算資源的位置，並向 OpenAI 提供部署策略和時間表。
-
服務水平協議： 微軟保證，OpenAI 在同一可用性集（Availability Set）部署兩個或更多例項的虛擬機器，在 99.95% 的時間內，至少有一個可用。微軟會遵守 Azure 官方網站上的服務水平協議 。[連結失效]
-
評估、推廣和使用 CNTK v2、Azure Batch 和 HD-Insight：OpenAI 將評估 CNTK v2、Azure Batch 和 HDInsight，用於研究並提供改進建議。OpenAI 與微軟合作，在其研究和開發者生態系統中推廣這些工具，並將微軟 Azure 作為首選的公共雲平臺。在適合研究的前提下，OpenAI 可自行決定採用這些產品。
-
擴充套件計劃：微軟和 OpenAI 合作制定擴充套件計劃，以平衡各叢集的容量。初始擴充套件時間表為至少 30 天，並根據微軟未來的容量擴充套件計劃調整。
-
容量分配：OpenAI 將在短期內獲得位於美國南部中部的試用叢集的容量。2016 年四季度上線的 K80 GPU 叢集將為 OpenAI 提供配額，預計 2017 年一季度（自然年）進一步擴大容量。
財務條款
-
微軟以大幅折扣的方式提供價值 6000 萬美元的計算資源（包括 GPU），OpenAI 在合作期內支付 1000 萬美元。如果合作期結束時，OpenAI 使用的計算資源少於 1000 萬美元，OpenAI 要支付未使用部分的差價。
營銷與公關條款
微軟和 OpenAI 承諾共同推廣 Azure 平臺的深度學習能力，並達成以下共識：
-
Ignite：在微軟 Ignite 活動中宣佈合作伙伴關係，由雙方高管（OpenAI 的山姆·阿爾特曼和微軟的薩提亞·納德拉）共同見證合作啟動。
-
公關：微軟和 OpenAI 將共同釋出關於合作伙伴關係的聯合新聞稿，並製作部落格文章和影片等宣傳材料。
Re：微軟託管協議
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
抄送：山姆·泰勒
時間：2016 年 9 月 16 日 15:10（週五）
這真讓我感到噁心。這太扯淡了，完全符合我對他們的預期。
可以這麼說，我們願意讓微軟把閒置的計算資源捐贈給 OpenAI，並讓外界知道這一點，但我們不想簽署任何合同或同意 “推廣”。他們可以隨時終止支援，我們也可以隨時退出。
Re：Re：微軟託管協議
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間：2016 年 9 月 16 日 15:33（週五）
讀到那部分我也有同樣的反應，他們已經同意刪除這一條。
我們最初只是希望得到捐贈閒置計算資源，但團隊希望確保有足夠的資源。我會和微軟談，確保沒有任何附加條件。
Re：Re：Re：微軟託管協議
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
抄送：山姆·泰勒
時間：2016 年 9 月 16 日（週五）
我們應該低調處理這事。不要有任何承諾，也不籤合同。
Re：Re：Re：Re：微軟託管協議
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間：2016 年 9 月 16 日 18:45（週五）
好的，我會看看這個方向上能爭取到多少資源支援。
Re：Re：Re：Re：Re：微軟託管協議
發件人：山姆·泰勒
收件人：埃隆·馬斯克
時間：2016 年 9 月 20 日 20:05（週二）
以 “由 OpenAI 全權決定、努力保證誠信” 為前提，微軟現在願意達成一項總額為 5000 萬美元的協議，並且雙方可隨時終止合作。沒有推廣要求，沒有附加條件，也不會讓我們看起來像微軟的營銷工具。可以推進了嗎？
Re：Re：Re：Re：Re：Re：微軟託管協議
發件人：埃隆·馬斯克
收件人：山姆·泰勒
時間：2016 年 9 月 21 日 0:09（週三）
只要他們不在宣傳中主動提到這件事，我沒意見。如果能避免看起來像微軟的 “營銷工具”，這比 5000 萬美元更有價值。
2017 年（上）：首席科學家的雙週通報 – 確定 AGI 研究計劃 – 初步成果
雙週通報
主題：雙週通報（OpenAI 披露）
發件人：伊利亞·蘇茨克維
收件人：格雷格·布洛克曼、埃隆·馬斯克
時間：2017 年 6 月 12 日 22:39（週一）
這是我們雙週通報的第一篇。我們的目標是讓你隨時瞭解最新情況，並幫助我們更好地利用你到公司的機會。
計算資源：
-
“計算資源” 有兩種用處：一種是快速執行大型實驗，另一種是並行執行多個實驗。
-
95% 的進展來自能快速執行大型實驗的能力，並行執行多個實驗的用處要小得多。
-
在過去，一個大型叢集可以幫你執行更多實驗，但它不能幫你快速執行單個大型實驗。
-
因此，學術實驗室曾經能與 Google 競爭，因為 Google 唯一的優勢是能並行執行多個實驗。這並不是一個很大的優勢。
-
最近，將數百個 GPU 和數百個 CPU 結合起來變成可能，可以執行一個比單機實驗大 100 倍的實驗，花的時間也大致相當。這得益於許多不同團隊的努力。結果是，為了保持競爭力，最小計算叢集的規模要比以前大 10 到 100 倍。
-
目前，僅僅是用非常小的神經網路策略開發的小型 1v1 模式，每個 Dota 實驗就要使用超過 1000 個核心。僅僅是為了贏得 1v1 模式，我們就需要更多計算資源。要贏得完整的 5v5 模式，我們只要執行更少的實驗，但每個實驗的規模至少大一個數量級（可能更多！）。
-
總結：關鍵在於我們實驗的規模和速度。在過去，一個大型叢集無法讓任何人快速執行更大的實驗。今天，藉助大型叢集，我們可以將一個大型實驗的執行速度提高 100 倍。
-
想要在理論上完成我們的專案，我們要在接下來的 1 到 2 個月把 GPU 的數量增加 10 倍（我們已有足夠的 CPU）。我們將在面對面會議中討論具體細節。
Dota 2：
-
我們將在 1 個月內解決遊戲的 1v1 版本。遊戲粉絲們非常關心 1v1 模式。
-
我們現在已經到了這樣一個階段：* 單個實驗 * 消耗數千個核心，增加更多的分散式算力能夠提高效能。
-
這裡有一個很酷的影片，展示了我們的機器人做了一些相當聰明的事情：[連結失效]
快速學習新遊戲：
-
基礎設施工作正在進行中
-
我們達到了幾個基準線
-
根本來說，我們還沒有達到理想狀態，正在調整。
機器人：
-
當前狀態：HER 演算法（[連結失效]）可以快速學習解決許多之前無法解決的低維度機器人任務。它並不是顯而易見的，但簡單且有效。
-
6 個月內，我們將用 HER 演算法和 sim2real 方法（如 [連結失效]）完成以下至少一個目標：單手解魔方、轉筆（[連結失效]）、健身球（Chinese ball rotation）（[連結失效]）。
-
上述任務將在機器人手上應用：[Google Drive 連結] [這個影片是人工控制的，而不是演算法控制。需要登入 OpenAI 賬戶才能檢視影片]。
自我對弈作為通向 AGI 的關鍵路徑：
-
多智慧體環境中的自我對弈是神奇的：如果你將智慧體放到一個環境中，無論它們多聰明（或不聰明），環境都會給它們恰到好處的挑戰，它們只有打敗競爭對手才能應對。例如，如果你有一群孩子，他們會覺得彼此是競爭關係；同樣，一群具有相似智力的超級智慧體也會如此。因此，自我對弈的 “解決辦法” 就是變得越來越聰明，沒有界限。
-
自我對弈讓我們 “從無到有”。一個競爭遊戲的規則可以很簡單，但玩這個遊戲的最佳策略卻可能極為複雜。（激勵示例：[連結失效]）。
-
在模擬環境中訓練智慧體，可以用對抗戰鬥（如摔跤）培養出非常強的靈活性。這裡有一個我們訓練的螞蟻機器人的搏鬥影片：<****>
-
當前的自我對弈工作：讓智慧體學習開發一種語言。（動圖在 [連結失效] 中）智慧體正在做 “工作中的事”，這還是一個進行中的工作。
我們還有一些更酷的小專案，將在取得重要成果時提供更新。
Re：雙週通報
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維
抄送：格雷格·布洛克曼
時間：2017 年 6 月 12 日 22:52（週一）
謝謝，這是一個很棒的更新。
Re：Re：雙週通報
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維
抄送：格雷格·布洛克曼
時間：2017 年 6 月 13 日 10:24（週二）
好吧。讓我們找出最便宜的方式，確保計算資源不會成為瓶頸……
研發 AGI 的事項
主題：研發 AGI 的事項
發件人：伊利亞·蘇茨克維
收件人：埃隆·馬斯克、格雷格·布洛克曼
時間：2017 年 7 月 12 日 13:36（週三）
我們總是認為問題很難，因為聰明人已經在這些問題上努力了很長時間，卻沒有成功。人們很容易認為 AI 也是這樣。然而，過去 5 年的進展表明，關於 AI 的最早、最簡單的想法——神經網路——一直是正確的，而我們需要現代的硬體來讓它們發揮作用。
從歷史來看，AI 的突破總是發生在那些花 7 到 10 天訓練的模型上。這意味著，硬體定義了 AI 突破的潛在邊界。這更多是關於人類心理的說法，而不是關於 AI 的。如果實驗時間超過這個範圍，就很難把所有狀態都記在腦海中，並反覆迭代和改進。如果實驗時間更短，你只要用更大的模型就行了。
AI 的進步不完全是一個硬體遊戲，就像物理學不完全是粒子加速器的遊戲一樣。但如果我們的計算機太慢，再多的聰明人也無法實現 AGI，就像如果粒子加速器太小，我們就無法弄清楚宇宙是如何運作的。足夠快的計算機是一個必要條件，過去所有的失敗可能都是因為計算機速度不夠，無法支援 AGI 實現。
直到最近，還沒有辦法將許多 GPU 結合起來加速實驗。因此，在 “有效算力” 上，學術界與工業界是相同的。但今年早些時候，Google 使用了比通常情況下多兩個數量級的計算資源改進了分類器架構，這通常需要研究人員花大量時間。幾個月前，Facebook 釋出一篇論文，展示如何在 256 個 GPU 上以接近線性加速的方式訓練一個大型 ImageNet 模型（前提是使用一個特別配置的叢集，具有高頻寬的網際網路絡）。
過去 1 年，Google Brain 取得了令人印象深刻的成果，因為它們擁有比其他機構多一個或兩個數量級的 GPU。我們估計，Brain 擁有大約 10 萬塊 GPU，FAIR 擁有大約 1.5 萬到 2 萬塊，DeepMind 為每個研究員分配 50 塊 GPU，並從 Brain 為 AlphaGo 租用了 5000 個 GPU。 顯然，當有人在 Google Brain 執行神經網路時，它會消耗掉 DeepMind 所有人的配額。
我們仍然缺少研發 AGI 需要的幾個關鍵想法。我們如何利用系統對 “事物 A” 的理解來學習 “事物 B”（例如，我能否教會一個系統先學會計數，再學會乘法，然後解決文字問題）？我們如何開發具有好奇心的系統？我們如何訓練一個系統，去發現各種現象的深層次原因——讓它像科學家一樣工作？我們如何開發一個沒有經過精確訓練，就能夠適應新情況的系統（例如，在陌生的情境中應用熟悉的概念）？但是，如果有足夠的硬體，能花 7 到 10 天執行相關實驗，歷史表明，就能找到正確的演算法，就像物理學家只要擁有足夠大的粒子加速器，他們就會迅速弄清楚宇宙是如何運作的一樣。
有充分的理由相信，在未來 4 到 5 年，深度學習硬體每年都會加速 10 倍。世界已經習慣了相對悠閒的摩爾定律節奏，並且沒有準備好迎接這種硬體加速帶來的能力劇變。這種加速的發生，並不是因為晶片有了更小的電晶體或更快的處理速度。而是像大腦一樣，神經網路本質上是可以並行化的，正在開發中的高度並行硬體將會做好這一點。
接下來 3 年，機器人技術應該能徹底解決，AI 應該會解決一個長期未被證明的定理，在程式設計競賽中穩定獲勝，應該會出現令人信服的聊天機器人（儘管沒有哪個能透過圖靈測試）。僅僅 4 年，每一個過夜的實驗，都可能使用巨大的算力，如果擁有正確演算法，人們一覺醒來可能會面臨 AGI 的到來——接下來的 2 到 4 年內，可能會在對抗的多智慧體模擬實驗中找出這個演算法。
要從事研發安全 AGI 的工作，OpenAI 需要：
-
每年都取得最好的 AI 成果。尤其是隨著硬體效能指數級增長，我們要取得更好的成果。以當前的算力水平，我們的 DOTA 和魔方專案將取得令人矚目的成績。明年的專案更能突破常規，但主要取決於我們能有多少算力。
-
儘快將我們的 GPU 叢集從 600 塊 GPU 增加到 5000 塊。按照上限估算，明年需要 1200 萬美元的資本支出和 500 萬到 600 萬美元的運營支出。接下來每年，我們都需要翻倍增加硬體投入。但我們有理由相信，最終實現 AGI 需要的硬體成本不會超過 100 億美元。
-
擴大我們的團隊規模：2017 年 7 月是 55 人，到 2018 年 1 月增加到 80 人，再到 2019 年 1 月的 120 人，最終在 2020 年 1 月達到 200 人。我們已經學會了如何組織當前的團隊，現在的瓶頸主要是能嘗試新想法的聰明人不多。
-
鎖定壓倒性的硬體優勢。<****> 說，他可以在 2 年內開發出等效於 TPU 3.0 的算力晶片，（如果數量足夠）可以讓我們的算力與 Google 持平。Cerebras （注：成立於 2015 年的 AI 晶片公司）的設計遠遠領先於它們倆，如果 Cerebras 的設想成真，擁有它的獨家供應將讓我們大幅領先競爭對手。經過更多的盡職調查，我們對如何做到這一點有了完整的想法，最好透過電話討論。
2/3/4 最終都需要大量資金。如果我們能夠籌集到資金，就有機會為 AGI 的誕生設定初始條件。資金需求將與成果規模擴大一起增長。我們需要討論獲得相關資金的選項，這是我們當前最大的不可控因素。
本週進展：
-
我們已經擊敗了我們最強的 1v1 測試玩家（他在北美 1v1 排名前 30，能以大約 30% 的勝率擊敗北美第一的 1v1 玩家）。但機器人仍然可以被一些特殊的玩法利用。我們正在研究這些漏洞並努力解決它們。週六會再賽一場，這是我們擊敗頂級測試選手的第一場比賽：[連結失效]
-
每多訓練一天，機器人就會變得更強大，也更難被利用。機器人解決魔方問題取得進展。
-
改進後的解魔方模擬情況，由人類遠端操控：<****>我們防禦對抗性樣本（注：迷惑 AI 系統的資料）的研我們將在 8 月底前，完全解決對抗性樣本問題。
████████████████████████████████████
██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████
███████████████████████████████████████████████████████████████████████████████████████████████████████████████
簡訊交流記錄
新增參與者：
希馮·齊里斯（Shivon Zilis），2016 年加入 OpenAI，2017 年加入特斯拉，擔任專案總監，後持續在 OpenAI 活躍，同時幫馬斯克監管 Neurlink 等公司；2019 年加入 OpenAI 董事會；2021 年為馬斯克生下雙胞胎；2023 年退出 OpenAI 董事會。
簡訊交流記錄（OpenAI 披露）
參與人：格雷格·布洛克曼、希馮·齊里斯
時間：2017 年 7 月 13 日（週四）
OpenAI 注：格雷格向希馮·齊里斯（她是馬斯克和 OpenAI 的聯絡人）傳送了當天與馬斯克會面的要點。
希馮·齊里斯（22:35）：
格雷格·布洛克曼（22:35）：
希馮·齊里斯（22:43）：
雙週通報
主題：雙週通報
發件人：伊利亞·蘇茨克維
收件人：埃隆·馬斯克、格雷格·布洛克曼
時間：2017 年 7 月 20 日 13:56（週四）
-
機器人手已經能在模擬環境中解開魔方：
[網頁連結]（需要 OpenAI 登入）
實體機器預計 9 月也能完成同樣的任務
-
1v1 機器人已經沒有容易利用的漏洞
現在無法用 “非傳統” 的策略擊敗它
有望 1 個月內擊敗所有人類
-
運動競技機器人：
-
釋出了一個對抗示例，能從所有角度同時欺騙攝像頭：
-
DeepMind 直接用我們的演算法生成跑酷結果：
DeepMind 的結果：https://deepmind.com/blog/producing-flexible-behaviours-in-simulated-environments/
DeepMind 的技術論文明確提到，他們直接使用了我們的演算法。
關於我們演算法的部落格文章：[連結失效]（DeepMind 使用的是舊版）。
-
接下來的計劃：
設計營利架構
與 Cerebras 談判合併條款
對 Cerebras 進行更多盡職調查
2017 年（下）：馬斯克提出轉型營利架構 – 爭控制權 – 阿爾特曼贏了
北京希望 2030 年在中國製造 AI
主題：北京希望 2030 年在中國製造 AI （OpenAI 披露）
發件人：埃隆·馬斯克
收件人：格雷格·布洛克曼、伊利亞·蘇茨克維
時間：2017 年 7 月 21 日 3:34（週五）
他們會想盡辦法拿到我們開發的東西。這可能是要改變路線（注：指更封閉、轉營利公司）的另一個原因。
[新聞報道連結]
Re：北京希望 2030 年在中國製造 AI
發件人：格雷格·布洛克曼
收件人：埃隆·馬斯克
抄送：伊利亞·蘇茨克維
時間：2017 年 7 月 21 日 13:18（週五）
100% 同意。我們認為發展路徑必須是：
AI 研究非營利組織（到 2017 年底）
AI 研究 + 硬體營利公司（從 2018 年開始）
政府專案（時間：？？）
█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████
-gdb
Re：Re：北京希望 2030 年在中國製造 AI
發件人：埃隆·馬斯克
收件人：格雷格·布洛克曼
抄送：伊利亞·蘇茨克維
時間：2017 年 7 月 21 日 13:18（週五）
我們週六或週日聊一下吧。我有一個初步的計劃跟你們討論一下。
明天下午
主題：明天下午（OpenAI 披露）
發件人：埃隆·馬斯克
收件人：格雷格·布洛克曼、伊利亞·蘇茨克維、山姆·阿爾特曼
抄送：<****>、希馮·齊里斯
時間：2017 年 8 月 28 日 00:01（週一）
████████████████████████████████ 你們明天下午可以見面或電話聊一下嗎？
是時候讓 OpenAI 邁出下一步了。這就是觸發事件。（注：OpenAI 的 AI 在 Dota 1v1 比賽中擊敗了人類最強選手。）
OpenAI 筆記
主題：OpenAI 筆記
發件人：希馮·齊里斯
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間：2017 年 8 月 28 日 00:01（週一）
埃隆 ,
正如我之前提到的，格雷格提議這個週末討論一些事項。伊利亞也加入了討論，他們基本上分享了他們在想的所有內容。這是那次對話的概要，歸為以下 7 個未解問題，我附上了他們的評論。請注意，我並不是支援這些，只是將我聽到的資訊整理並分享出來。
1. 短期控制結構？
-
是否需要絕對控制權？他們在想，是否可以設定某種創造性的 “否決條款”，在幾乎其他人都反對既定方向時進行干預（不只是他們 3 人 [注：指格雷格、伊利亞和阿爾特曼]，還可能是更廣泛的董事會）？
2. 控制權的持續時間和過渡安排？
-
非談判條款，似乎要必須達成一個堅不可摧的協議，以確保 AGI 創造出來時，絕不會由某一個人擁有絕對控制權。這意味著無論他們 3 人發生什麼情況，都必須保證 2-3 年之後，公司控制權將被分散。
3. 投入的時間？
-
埃隆計劃投入多少時間，實際上能投入多少時間？時間範圍是多大？是每週一小時、十小時，還是介於兩者之間？
4. 如何安排投入的時間？
-
他們不確定，埃隆在其他公司是如何安排時間的，以及他希望如何在這裡安排時間。格雷格和伊利亞有信心可以處理軟體 / 機器學習方面的工作，但在硬體方面不太自信。他們希望埃隆能在這方面投入時間，因為這是他們的薄弱環節，但同時也希望他能在他感興趣的所有領域提供幫助。
5. 投入的時間與控制權的比例？
-
他們可以接受投入更少時間 / 更少的控制權，或投入更多時間 / 更多的控制權，但無法接受投入更少時間 / 更多的控制權。他們擔心如果投入時間太少，就無法充分討論相關的資訊做出正確的決策。
6. 股權分配？
-
格雷格本能地傾向平等分配。我個人不贊成，他也尋求並願意聽取其他觀點來調整他的想法。
-
格雷格提到，伊利亞放棄了在 Google 賺錢的機會，實際上已經貢獻了數百萬美元。
-
他們擔心團隊規模太小。
7. 融資策略？
-
他們的直覺是，一開始就籌集超過 1 億美元。他們認為單是資料中心的成本就需要這麼多，因此他們傾向於籌集更多資金。
結論：
不確定這些是否可行，但根據他們丟擲的所有資料點，以下情況似乎能打消他們當前的顧慮：
-
每週投入 5-10 小時，擁有近乎完全的控制權，或者投入更少時間，擁有更少的控制權。
-
在極端情況下，為格雷格 / 山姆 / 伊利亞之外的人設立一個創造性的短期否決權。
-
無論格雷格 / 山姆 / 伊利亞的情況如何，都要確保一個為期 2-3 年的有限控制協議。
-
初步籌資 2 億到 10 億美元。
-
格雷格和伊利亞的股權最終稍微高於埃隆的 1/10（這一點仍然模糊）。
-
擴大團隊規模。
Re：OpenAI 筆記
發件人：埃隆·馬斯克
收件人：希馮·齊里斯
抄送：山姆·泰勒
時間：2017 年 8 月 28 日 00:08（週一）
這太煩人了。請鼓勵他們去創辦一家公司吧。我已經受夠了。
簡訊交流記錄
簡訊交流記錄（OpenAI 披露）
參與人：格雷格·布洛克曼、希馮·齊里斯
時間：2017 年 9 月 4 日（週四）
OpenAI 注：此前六週，布洛克曼等人與馬斯克就營利組織條款談判。馬斯克要求獲得多數股權。馬斯克在一次電話中說，他不關心股權，而是要為在火星上建城市積累 800 億美元。
格雷格·布洛克曼（20:19）：
希馮·齊里斯：
格雷格·布洛克曼：
希馮·齊里斯：
Re：當前狀態（OpenAI 披露）
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維
抄送：格雷格·布洛克曼
時間：2017 年 9 月 13 日 12:40（週三）
聽起來不錯。這三個普通股董事席位（你、格雷格和山姆）應該由普通股股東選舉產生。實際上這些席位都是你們的，除非發生不太可能的情況：要麼是隨著時間推移，你們失去了大部分普通股股東的信任，要麼是你們自願離開公司。
我認為 A 輪優先股（我佔絕大多數）應該有權任命四個（而不是三個）董事席位。我不會想立即任命這些董事。就像我說的，我會擁有公司起步階段的控制權，但這種情況很快就會改變。
初步的目標是組建一個 12 人的董事會（如果這個董事會最終真的要決定世界命運的話，可能會達到 16 人），每位董事都要深入理解技術，至少要對 AI 有基本認識，並具有堅定且明智的道德觀。
除了 A 輪的四個席位和普通股的三個席位之外，每有一個新的領投方 / 盟友可能都會有一個董事席位。但是，新增的董事會成員不能有兩個或更多董事會成員反對。移除董事會成員也遵循同樣的規則。
我們還會想要增加一些與投資方無關的獨立董事。適用相同的規則：增加或移除都不能有兩個或更多董事會成員反對。
我太累了，不想把事情搞得太複雜。這個安排看起來基本是對的。如果董事會有 16 人，我們將擁有 7/16 的投票權，而我將擁有 25% 的控制權，這是我的底線。對我來說，這聽起來是合適的。如果我們邀請的所有董事會成員最後都反對我們，那我們可能確實該接受失敗。
如前所述，根據我的董事會經驗（假設董事會由優秀、聰明的人組成），他們都是理性且通情達理的。基本不會出現依靠單個董事投票來決定勝負的激烈對抗情況，所以這些（投票權的安排）幾乎肯定（希望如此）會變成一個無關緊要的問題。
最後說一句，跟你們討論股權和董事會的事情，我覺得特別順暢，心裡很有底。
如果你們對上面的安排有什麼想法，直接跟我說。
埃隆
OpenAI 注：馬斯克說，他要當 OpenAI 的 CEO。2017 年 9 月 15 日，馬斯克安排下屬創辦名為 Open Artificial Intelligence Technologies, Inc. 的營利公司。
坦誠的想法
主題：坦誠的想法
發件人：伊利亞·蘇茨克維
收件人：埃隆·馬斯克、山姆·阿爾特曼
抄送：格雷格·布洛克曼、山姆·泰勒、希馮·齊里斯
時間：2017 年 9 月 20 日 14:08（週三）
埃隆，山姆，
這是格雷格和我參與過的最重要的對話，如果專案成功，這將是全世界見證的最重要的對話。同時，對我們每個人來說，這也是一場深刻且私密的對話。
昨天，當我們考慮最終承諾時，我們意識到我們犯了一個錯誤。我們有一些重要的擔憂沒向你們提出。我們之所以沒有提出來，是因為我們害怕：害怕傷害彼此的關係，害怕你們會看低我們，或者失去與你們合作的機會。
我們的擔憂可能是無法解決的。我們真心希望不是這樣，但我們知道，如果我們現在不討論這些問題，我們肯定會失敗。我們也相信，如果我們能夠共同努力，還是有希望解決這些問題，繼續合作下去。
埃隆：
我們真的很想與你合作。我們相信，如果我們聯手，成功的機會將是最大的，潛力也是最大的，這一點毫無疑問。我們想和你一起工作的願望非常強烈，以至於我們願意放棄股權、個人控制權，甚至讓自己隨時可以被解僱——只要能和你合作，我們不惜一切代價。
但我們意識到，我們思考控制權對世界的影響時過於草率了。似乎太自大了，我們沒有認真考慮成功可能帶來的影響。
當前的架構為你提供了一條路徑，你最終能擁有 AGI 的單方面絕對控制權。你說過，你不想控制最終的 AGI。但在這次談判中，你向我們表明，絕對控制權對你來說極其重要。
例如，你說你需要成為新公司的 CEO，這樣每個人都會知道你是負責人，儘管你也說過你討厭做 CEO，寧願自己不是 CEO。
因此，我們擔心，隨著公司在 AGI 方面取得真正進展，你會選擇保留絕對控制權，哪怕你現在說不想這麼做。我們不同意你的說法——即我們能夠選擇離開公司是我們最大的權力——因為一旦公司真正走向 AGI，公司將比任何人都重要。
OpenAI 的目標是讓未來變得美好，避免 AGI 獨裁。你擔心 Demis （傑米斯·哈薩比斯，DeepMind 創始人）可能會創造一個 AGI 獨裁。我們也是。所以，創造一個你可能成為獨裁者的架構顯然是個壞主意。尤其是我們還可以創造一個避免這種可能的其他架構。
我們還有一些較小的擔憂，但我們認為在這裡提出來是有意義的：
如果我們決定收購 Cerebras，我強烈感覺這將透過特斯拉完成。但如果我們也可以透過 OpenAI 做到這一點，為什麼要用特斯拉呢？具體來說，問題在於，特斯拉有為股東最大化收益的責任，這與 OpenAI 的使命不一致。因此，最終結果可能不會對 OpenAI 最有利。
我們認為，OpenAI 作為非營利組織之所以成功，是因為你和山姆都參與其中。山姆真正地起到了制衡你的作用，這非常有效。至少到目前為止，格雷格和我在制衡你方面要差得多。我們認為這一點甚至在這次談判中就得到了體現：我們差點準備擱置長期 AGI 控制權的問題，而山姆堅持了自己的立場。
山姆：
當格雷格和我遇到困難時，你總能提出深刻而正確的答案。你已經非常深入和徹底地思考了這個問題的解決方案。
格雷格和我懂技術執行，但我們不知道架構的決策在接下來的 1 個月、 1 年或 5 年內將如何發展。
但在這個過程中，我們無法完全信任你的判斷，因為我們不瞭解你的權衡邏輯。
我們不明白為什麼 CEO 的頭銜對你如此重要。你提到的理由一直在變，我們很難理解什麼在驅動它。
AGI 真是你的主要目標嗎？它與你的政治野心有什麼關聯？你的想法如何隨著時間變化？
格雷格和伊利亞：
在這次談判中，我們也有失敗之處，我們在這裡列出一些（埃隆和山姆，我們確信你們會有很多補充 ……）：
在這次談判中，我們意識到，我們讓 2-3 年後的財務回報影響了我們的決策。這就是為什麼我們在控制權問題上堅持——我們覺得股權已經足夠好，為什麼還要擔心呢？但這種態度是錯的，就像那些認為 AI 安全不是問題的 AI 專家一樣，因為他們根本不相信自己會開發出 AGI。
我們在談判中沒有完全說出真相。雖然我們有各種藉口，但這種行為對整個過程造成了傷害，我們可能會因此失去山姆和埃隆的支援。
目前的問題已經足夠多，因此我們認為非常有必要見面並談清楚。如果我們不這麼做，我們的合作就不會成功。我們四個人今天能見面嗎？如果我們都說出真實的想法，並解決問題，我們要創立的公司更有可能承受它未來將面對的強大挑戰。
格雷格 & 伊利亞
Re：坦誠的想法
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維
抄送：山姆·阿爾特曼、格雷格·布洛克曼、山姆·泰勒、希馮·齊里斯
時間：2017 年 9 月 20 日 14:17（週三）
各位，我受夠了。我已經忍無可忍了。要麼你們自己去做點什麼，要麼繼續以非營利組織的形式運營 OpenAI。在你們做出明確承諾留在 OpenAI 之前，我不會再為 OpenAI 提供資金。否則我就是一個傻瓜，白白資助你們創業。討論到此為止。
Re：Re：坦誠的想法
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維
抄送：山姆·阿爾特曼、格雷格·布洛克曼、山姆·泰勒、希馮·齊里斯
時間：2017 年 9 月 20 日 15:08（週三）
明確一點，這並不是要求你們接受之前討論內容的最後通牒。那些內容已經不再是可選項了。
Re：Re：Re：坦誠的想法
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克、伊利亞·蘇茨克維
抄送：格雷格·布洛克曼、山姆·泰勒、希馮·齊里斯
時間：2017 年 9 月 21 日 9:17（週四）
我對非營利架構仍然充滿熱情！
非營利組織
新增參與者：
霍爾登·卡諾夫斯基（Holden Karnofsky），美國專注研究和資助的非營利組織 Open Philanthropy 的聯合創始人。2017 年向 OpenAI 捐贈 3000 萬美元，成為董事，後來退出
主題：非營利組織
發件人：希馮·齊里斯
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間：2017 年 9 月 22 日 9:50（週五）
嗨，埃隆，
簡單彙報一下，格雷格和伊利亞說他們希望繼續保持非營利組織架構。他們明白，要讓這個架構發揮作用，他們需要提供一個保證，（你們）不會去做其他事情。
我還沒有和阿爾特曼談過，但他說今天下午可以聊，之後我會彙報我聽到的任何訊息。
如果有任何我能幫忙的地方，請告訴我。
Re：非營利組織
發件人：埃隆·馬斯克
收件人：希馮·齊里斯
抄送：山姆·泰勒
時間：2017 年 9 月 22 日 10:01（週五）
好
Re：Re：非營利組織
發件人：希馮·齊里斯
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間：2017 年 9 月 22 日 17:54（週五）
來自阿爾特曼：
架構：非常願意保持非營利組織並繼續支援。
信任：他承認，在這個過程中，他和格雷格、伊利亞之間失去了大量信任。他覺得，他們的資訊溝通經常不一致，有時顯得幼稚。
休假：山姆告訴格雷格和伊利亞，他需要休假 10 天來思考。他需要弄清楚自己對他們的信任程度，以及是否願意繼續與他們合作。他說會在 10 天后回來，到時候決定他想投入多少時間。
融資：格雷格和伊利亞認為，如果有明確的努力方向，可以透過捐贈籌集到數億美元。山姆認為籌集數千萬美元是可行的，但更多的資金無法明確。他提到霍爾登（Holden）對轉向營利架構不滿，所以可能在 OpenAI 保持非營利架構的情況下提供更多資金，但尚未給出明確承諾。山姆隨後提到，樂觀來看，金額可能達到 1 億美元。
溝通：格雷格和伊利亞在整個過程中，將團隊的每個動態告知所有成員，讓山姆不滿。他認為這分散了團隊的注意力。另一方面，在過去的一天裡，幾乎所有人都被告知不會實行營利架構，對此他感到有些滿意，因為他希望團隊能夠重新專注工作。
希馮
2018 年：考慮發幣 – OpenAI 憲章 – 馬斯克退出董事會
ICO
主題：ICO
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
抄送：格雷格·布洛克曼、伊利亞·蘇茨克維、山姆·泰勒、希馮·齊里斯
時間：2018 年 1 月 21 日 17:08（週日）
埃隆—
提醒一下，我和一些安全團隊的成員談過，他們對 ICO 以及未來可能出現的意外影響有很多擔憂。（注：ICO ，Initial Coin Offering 是企業或專案方發行基於區塊鏈的數字代幣，向投資者籌集資金。）
我計劃明天和整個團隊討論，並徵求意見。我會強調需要保密，但我認為讓大家早點參與討論並表達意見非常重要。
山姆
Re：ICO
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
抄送：格雷格·布洛克曼、伊利亞·蘇茨克維、山姆·泰勒、希馮·齊里斯
時間：2018 年 1 月 21 日 17:56（週日）
完全同意
頂級 AI 機構現狀
主題：頂級 AI 機構現狀
發件人：安德烈·卡帕西
收件人：埃隆·馬斯克
抄送：希馮·齊里斯
時間：2018 年 1 月 31 日 13:20（週三）
ICLR 會議（這是專注於深度學習領域的頂級會議，雖然 NIPS 規模更大，但研究主題更分散）剛剛公佈錄用和拒稿的決定。有人做了很好的圖表，展示了當前深度學習 /AI 研究的分佈狀況。雖然這不是一個完美的衡量標準，因為並非所有公司都會優先考慮發表論文，但它具有一定的參考意義。
以下是一個圖表，展示了各個機構論文的總數（按口頭報告、海報展示、研討會和拒稿分類）：
簡單來說，Google 以 83 篇論文提交量佔據主導地位。學術機構（伯克利 / 斯坦福 /CMU/MIT）緊隨其後，每個機構的提交量在 20 至 30 篇之間。
我只是覺得這是一個有趣的切面，展示目前研究活動的集中情況。完整資料可以在這裡看到：[連結失效]
-安德烈
Re：頂級 AI 機構現狀
發件人：埃隆·馬斯克
收件人：格雷格·布洛克曼、伊利亞·蘇茨克維、山姆·阿爾特曼
抄送：山姆·泰勒、希馮·齊里斯、安德烈·卡帕西
時間：2018 年 1 月 31 日 14:02（週三）
與 Google 相比，OpenAI 顯然走在了一條必敗的道路上。如果不立刻採取重大行動，除了 Google 之外的所有人，都將變得無足輕重。
我已研究過 ICO，不會支援它。在我看來，這隻會導致 OpenAI 及所有與 ICO 相關的人名聲變差。如果某件事情看起來好得不像真的，那它很可能就不是真的。在我看來，這是不明智地偏離方向。
我能想到的唯一齣路是大幅擴張 OpenAI 和特斯拉的 AI 部門。也許兩者可以同時進行。對於 OpenAI 來說，這需要大幅增加捐贈資金並吸引非常有公信力的人加入董事會。目前的董事會情況非常糟糕。
我會安排明天的時間和你們討論。需要說明的是，我非常尊重你們的能力和成就，但我對當前的管理方式感到不滿。這就是為什麼我最近幾個月難以深入參與 OpenAI 的原因之一。要麼我們解決問題，我會增加投入的時間；要麼我們不解決，我就幾乎完全退出，並公開減少 OpenAI 與我的關聯。我不會接受我的影響力和實際投入時間不匹配。
Re：Re：頂級 AI 機構現狀
發件人：埃隆·馬斯克
收件人：安德烈·卡帕西
時間：2018 年 1 月 31 日 14:07（週三）
FYI
你覺得怎樣比較合理？如果電話溝通更方便的話，我也很樂意。
Re：Re：Re：頂級 AI 機構現狀（OpenAI 披露）
發件人：格雷格·布洛克曼
收件人：埃隆·馬斯克
抄送：伊利亞·蘇茨克維、山姆·阿爾特曼、希馮·齊里斯
時間：2018 年 1 月 31 日 22:56（週三）
嗨，埃隆，
謝謝你這些深思熟慮的想法。我一直很佩服你能看到大局，我也完全同意，要實現我們的目標必須改變現在的路線。我們明天談吧，下午 4 點及以後任何時間都可以。
我認為，想創造最好的未來，就需要讓 OpenAI 大規模擴張。我們的目標和使命從根本上是正確的，隨著 AGI 越來越近，這會變得越來越重要。
募資
我們的募資交流表明：
-
伊利亞和我能夠說服有聲望的人相信 AGI 真可能在未來 10 年內實現
-
他們對捐款有興趣
-
他們對投資的興趣非常大
我尊重你們對 ICO 想法的決定，這也符合我們的想法。山姆·阿爾特曼一直在研究一個不依賴 IPO 的融資結構，我們很想聽聽你的反饋。
一直與我們交流的人中，以下這些是我目前建議的董事會成員人選。我也很想聽聽你們推薦的、不在此名單上的最佳人選，我們可以一起商討如何接觸他們。
<****>
<****>
<****>
<****>
未來 3 年
未來 3 年，我們必須建設三樣東西：
-
定製 AI 硬體（比如 <****> 計算機）
-
大規模 AI 資料中心（可能需要多次迭代）
-
最優秀的軟體團隊，在演算法開發、公開演示和安全之間取得平衡
我們討論最多的是定製 AI 硬體和 AI 資料中心。在軟體方面，我們有一個可信的路徑（讓多智慧體在競爭環境中自我對弈），這已經在 Dota 和 AlphaGo 中得到驗證。我們還發現了當今深度學習中少量但確實存在的限制，這些限制阻礙了模型從人類水平的經驗中學習。而且我們相信，我們正獨特地走在解決安全問題的路上（至少在大方向上），預計在未來 3 年內取得成果。
我們希望按以下方式擴大團隊規模：
-
2017 年初：約 40 人
-
2018 年底：100 人
-
2019 年底：300 人
-
2020 年底：900 人
████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████
█████████████████████████████████████████████████████████████ █████████████████████████████████████████████████████████████
道德制高點
我們最大的工具就是道德制高點。為了保持這一點，我們必須：
-
盡最大努力保持非營利性質。AI 將撼動社會結構，我們應該對全人類負責。
-
將更多精力投入到安全 / 控制問題上，而不是你在其他機構看到的裝裝樣子。如果所有人都死了，誰贏都沒有意義。與此相關的是，我們需要傳達一個 “寧為生存讓步，不要同歸於盡（better red than dead）” 的態度——我們在努力開發安全的 AGI ，我們不願在激烈的競賽中毀滅世界。
-
與政府接觸，提供可信的、無偏見的政策建議——我們經常聽說他們不信任 ████████████ 等公司的建議。
-
讓外界認識到我們是一個為研究社群創造公共價值的組織，並透過以身作則來促使其他參與者保持誠信和開放。
過去 2 年
我很想聽聽，你如何評價我們過去 2 年在現有資源條件下的表現。以下是我的看法：
-
過去 5 年，業界只有兩個重要的實用系統演示：AlphaZero [DeepMind] 和 Dota 1v1 [OpenAI]。（在研究人員中廣受關注的 “技術突破” 突破更多，其中最具代表性的包括：ProgressiveGAN [英偉達]、無監督翻譯 [Facebook]、WaveNet [DeepMind]、Atari/DQN [DeepMind]、機器翻譯 [伊利亞，前 Google，現 OpenAI ]、生成對抗網路 [伊恩·古德費洛，學生時期開發，現 Google ]、變分自編碼器（VAE） [德克·金馬（Durk Kingma），學生時期開發，現 OpenAI]、AlexNet [伊利亞，學生時期開發，現 OpenAI ]）。按這個標準來衡量，我們的表現相當出色。
-
我們在 2016 年經歷了快速擴張，2017 年逐步摸索出了一個有效的管理架構。現在只要有足夠資源，我們就可以大規模擴張了。目前我們確實會因為薪資低導致人才流失，但基本上也僅限於薪資問題。我正在恢復早期的招聘方式，我相信結果能比之前更好。
-
我們的團隊在這個領域人才密度最高，並因此享有聲譽。
-
我們不鼓勵寫論文，所以論文錄用率不是我們要改進的指標。對於安德烈發來的 ICLR 圖表，我預計我們的（錄用論文數）/（提交論文的人數）比率應該是該領域最高的。
-gdb
Re：Re：Re：頂級 AI 機構現狀
發件人：安德烈·卡帕西
收件人：埃隆·馬斯克
時間：2018 年 1 月 31 日 23:54（週三）
很不幸，在 AI 前沿領域工作成本高昂。例如，DeepMind 在 2016 年的運營費用大約為 2.5 億美元（不包括算力成本）。隨著他們團隊的擴張，現在可能每年約 5 億美元。但 Alphabet 在 2016 年的淨利潤約為 200 億美元，即使 DeepMind 沒有收入，這些費用對於 Alphabet 的整體財務狀況來說仍然相對較低。除了 DeepMind， Google 還有 Google Brain、Research 和 Cloud。還有 TensorFlow、TPU，他們在 AI 研究領域佔據了約三分之一的份額（實際上，他們舉辦自己的 AI 會議）。
我也有強烈感覺，計算能力將是達到 AGI 的必要條件（甚至可能是充分條件）。如果歷史趨勢有參考價值，那麼 AI 的進步主要由系統——計算能力、資料和基礎設施——驅動。我們今天使用的核心演算法自 1990 年代以來幾乎沒有重大變化。不僅如此，任何發表在論文中的演算法進展，幾乎都可以被立即復現並整合進現有系統。反過來說，單純的演算法進步如果沒有足夠的規模支援，也只是無力的存在，無法達到令人驚歎的效果。
在我看來，OpenAI 目前正在燒錢，而現有的融資模式無法達到可以與 Google（一個市值 8000 億美元公司）真正競爭的規模。如果你們無法真正與其競爭，卻繼續以開放的方式研究，實際上可能會讓情況變得更糟，等於 “免費” 幫助了他們。因為任何進展對他們來說都很容易複製並迅速大規模整合。
轉向營利模式，可能會隨著時間的推移創造出持續的收入來源，而且以當前團隊的實力，可能會吸引大量投資。然而，從零開始打造一款產品會分散對 AI 研究的關注，這將耗費很長時間，同時尚不清楚公司是否能 “趕上”Google 的規模。而且投資者可能會在錯誤的方向上施加太多壓力。
我之前提到過，我認為最有前景的選擇是讓 OpenAI 依附於特斯拉，將特斯拉作為 “現金牛”。我相信依附其他大公司（例如 蘋果？亞馬遜？）會失敗，因為公司的 DNA 不相容。用火箭的類比來說，特斯拉已經用 Model 3 的整個供應鏈、車載計算機和持續的網際網路連線構建了 “第一級”。“第二級” 將是基於大規模神經網路訓練的全自動駕駛解決方案，OpenAI 的專業知識可以顯著加快這一程序。如果能夠在大約 2-3 年內推出一個功能完善的全自動駕駛解決方案，我們可以賣出大量的汽車和卡車。如果我們做得非常好，交通行業足夠大，我們完全可以將特斯拉的市值提升到大約 1000 億美元或更高，並利用這部分收入為 AI 研究提供適當規模的資金支援。
我看不到其他方案，能在 10 年內達到 Google 級別的資本規模，而且是可持續的。
-安德烈
Re：Re：Re：Re：頂級 AI 機構現狀
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維、格雷格·布洛克曼
時間： 2018 年 2 月 1 日 3:52（週四）
[轉發安德烈的郵件]
安德烈說得完全正確。雖然我們可能希望情況有所不同，但在我和安德烈看來，特斯拉是唯一一條可能勉強與 Google 相抗衡的道路。即便如此，成為 Google 的對手的可能性也很小。只是不為零。
AI 更新
新增參與者：
亞當·德安吉洛（Adam D'Angelo），Quora 創始人，2023 年 11 月與伊利亞等人聯合驅逐阿爾特曼，目前仍在 OpenAI 董事會
主題：AI 更新
發件人：希馮·齊里斯
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間： 2018 年 3 月 25 日 11:03（週日）
OpenAI
籌資：
-
不再採用 ICO 或 “預支購買算力” 這類方法。阿爾特曼正在設計一種新的方法，讓 4～5 個對 OpenAI 感興趣的大公司投資，如果 OpenAI 最終實現某種盈利的 AGI，回報上限為 50 倍。據說這些企業似乎願意參與，僅僅是為了獲取相關研究成果。他希望能和你更詳細地討論這個方案。
正式退出董事會：
-
按照規定，你仍然在董事會中，需要發一封簡短的郵件給山姆·阿爾特曼，內容類似於：“透過此郵件，我正式辭去 OpenAI 董事職務，自 2018 年 2 月 20 日起生效。”
未來的董事會：
-
阿爾特曼說，他不介意我加入董事會，後面因利益衝突退出也沒關係，但他擔心其他人會將我退出視為 “斷了後路”。我認為，目前最好的選擇是先不要加入董事會，而是以一個模糊的顧問身份參與 OpenAI。如果你有不同意見，請告訴我。他們考慮亞當·德安吉洛（Adam D'Angelo）來接替你的位置，這看起來還可以？
特斯拉 AI
-
安德烈正在考慮三個候選人，其中一到兩位可能會在週二前來與你見面。他將給你傳送他們的簡報。另外，他正在起草一份可能釋出的文章初稿，週二可以一起討論。這篇文章將沿用我們之前討論過的 “全棧式 AI 實驗室” 角度，但如果你覺得這個方向不合適，請及時調整 …… 資訊傳達確實比較棘手。
Cerebras
-
他們計劃在 8 月份測試晶片，計劃 9 月向其他人開放遠端訪問。Cerebras 的那位還提到，最近許多客戶對他們感興趣，因為他們不滿英偉達更改服務條款（迫使公司從消費級 GPU 轉向企業級的 Pascal/Volta）。斯科特·格雷（Scott Gray，OpenAI 工程師） 和伊利亞繼續與他們密切合作。
OpenAI 憲章
主題：OpenAI 憲章
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
抄送：希馮·齊里斯
時間： 2018 年 4 月 2 日 13:54（週一）
我們計劃下週釋出這個——有什麼建議嗎？
——
OpenAI 憲章
OpenAI 的使命是確保通用 AGI）——我們指的是在大多數有經濟價值的創造性工作中表現超過人類的高度自主系統——能夠惠及全人類。我們將嘗試直接開發安全且有益的 AGI。如果我們的工作幫助他人實現這一目標，我們會認為我們的使命完成了。為此，我們承諾遵循以下原則：
利益廣泛分配
我們承諾，利用我們部署 AGI 的任何影響力，確保其用於造福全人類，並避免 AI 或 AGI 用於損害人類或權力過度集中。
我們首先要對人類負責。我們預計調動大量資源來完成使命。但我們始終會盡最大努力，減少員工和利益相關者之間的衝突，以免妨礙實現廣泛的利益。
長期安全
我們承諾開展必要的研究，確保 AGI 的安全，並推動此類研究在整個 AI 社群廣泛應用。
我們擔心後期的 AGI 開發可能演變為一場缺乏充分安全措施的競爭。因此，如果一個與我們價值觀一致、注重安全的專案在我們之前接近開發出 AGI，我們承諾停止與其競爭，並轉向協助該專案。我們將在具體情況下制定具體協議，但觸發條件通常可能是 “在接下來的 2 年內成功的機率超過 50%”。
技術領導力
為了有效應對 AGI 對社會的影響，OpenAI 必須處於 AI 技術能力的最前沿——僅靠政策和安全倡導是遠遠不夠的。
我們相信，AGI 出現之前，AI 就會對社會產生廣泛影響。因此，我們將努力在那些與我們的使命和專業能力相關的領域發揮領導作用。
合作導向
我們將積極與其他研究機構和政策機構合作，努力建立一個全球的合作社區，共同應對 AGI 帶來的挑戰。
我們致力於提供有助於社會應對 AGI 發展的公共資源。目前，這包括髮布我們的大部分 AI 研究成果，但我們預計，出於安全和保密的考慮，未來可能會減少傳統研究成果的公開發布，同時更加看重分享與安全、政策和標準相關的研究成果。
Re：OpenAI 憲章
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間： 2018 年 4 月 2 日 14:45（週一）
沒問題。
AI 更新（續）
新增參與者：
裡德·霍夫曼 (Reid Hoffman)，Linkedin 聯合創始人。因為投資了 OpenAI 競爭對手 Inflection AI 等，霍夫曼 2023 年 3 月退出 OpenAI 董事會。
加布·紐維爾（Gabe Newell），遊戲開發者，OpenAI 的捐資人。
主題：AI 更新（續）
發件人：希馮·齊里斯
收件人：埃隆·馬斯克
抄送：山姆·泰勒
時間： 2018 年 4 月 23 日 1:49（週一）
根據與阿爾特曼的對話更新了資訊。你暫定週二與他見面。
融資：
-
他再次確認，他們絕不會採用 ICO，而是採用回報上限固定的股權架構。
-
這是一個相當獨特的子公司融資架構，他希望向你詳細解釋。
-
他計劃 4-6 周完成第一輪融資（可能主要由裡德 [Reid] 的資金領投，可能還有一些企業投資）。
技術：
-
他說 Dota 5v5 的表現比預期的要好。
-
Dota 機器人效能的迅速提升引發了內部人員的擔心，他們認為 AGI 實現時間可能比之前預想得更早。
-
他們預計很快就會攻克 Montezuma's Revenge。
時間分配：
-
因為你退出董事會和一些因素，我已將大部分用在 OpenAI 的時間重新分配給 Neuralink 和特斯拉。如果你希望我投入更多時間在 OpenAI，請告訴我。
-
山姆和格雷格問我，是否願意加入他們的非正式顧問委員會（目前只有加布·紐維爾）。潛在衝突較少，似乎比董事更合適？如果你覺得不合適，請告訴我你的意見。
OpenAI 更新
主題：OpenAI 更新
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間： 2018 年 12 月 17 日 15:42（週一）
嗨，埃隆-
明年一季度，我們計劃在完全開放的遊戲環境舉辦最後一場 Dota 錦標賽，任何職業戰隊都可以參與角逐高額獎金。之後，我們將宣佈無模型強化學習（Model-free RL）階段完成，部分團隊成員將使用基於模型的強化學習（model-based RL）方法重新攻克 Dota 1v1。
同樣在一季度，我們計劃釋出幾個機械手演示專案——魔方、轉筆特技和健身球。新任務的學習速度應該會非常快。年底時，我們將嘗試在兩個機械臂上各安裝一個機械手，看看會有什麼效果 ……
我們在語言方面也取得了快速進展。我希望明年我們能夠生成短篇故事，並開發出一個優秀的對話機器人。
████████████████████████████████████████████████████████████████████████████我們希望透過無監督學習來開發模型，使其能夠完成一些高難度任務。比如在影像分類時不會犯人類從來不犯的錯誤 —— 在我看來，這意味著模型需要具備某種程度的概念理解能力。
我們在多智慧體方面也取得了不錯的進展：多個智慧體現在已經能夠協作建造簡單的結構、進行雷射對戰等。
同時，我正在推進一項計劃，將我們的計算資源從 Google 遷移到微軟（補充我們自有資料中心）。
另外，我也很樂意討論融資（即便採取激進的增長策略，我們目前的資金也足夠支撐接下來約 2 年的發展）和不斷迭代的硬體規劃。不過這兩個話題最好不要透過郵件討論，也許下次你來 Pioneer 時我們可以當面聊？
Re：OpenAI 更新
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間： 2018 年 12 月 17 日 15:47（週一）
沒問題，我們可以週三晚上在舊金山見面。
我覺得應該重申一下
主題：我覺得應該重申一下（OpenAI 披露）
發件人：埃隆·馬斯克
收件人：伊利亞·蘇茨克維、格雷格·布洛克曼
抄送：山姆·阿爾特曼
時間： 2018 年 12 月 26 日 12:07（週三）
如果不大幅度提高執行力和資源，我估計 OpenAI 與 DeepMind/Google 的競爭中跟上節奏的機率是 0%，不是 1%。我真希望情況不是這樣。
就算是籌集幾億美元也不夠。現在就需要每年投入數十億美元，否則一切都無法實現。
不幸的是，人類的未來掌握在 <****> 手中。
[文章連結]
█████████
他們做的遠不止這些。
OpenAI 讓我想起貝佐斯和藍色起源。他們遠遠落後於 SpaceX，而且差距還在不斷擴大，但貝佐斯的自負讓他荒謬地認為並非如此！（注：OpenAI 披露了兩次這封郵件，第一次披露時把這段話隱去了。）
我真的希望自己是錯的。
埃隆
2019 年及之後：OpenAI 正式組建營利實體 – 馬斯克凌晨 3 點發來簡訊
OpenAI
新增參與者：
蘇·尹（Sue Yoon），Google X 機器人專案負責人，2019 年退出 OpenAI 董事會。
和塔莎·麥考利（Tasha McCauley），Fellow Robots 聯合創始人，2023 年 11 月與伊利亞等人聯合驅逐阿爾特曼，失敗後退出 OpenAI 董事會
主題：OpenAI
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
抄送：山姆·泰勒、希馮·齊里斯
時間： 2019 年 3 月 6 日 15:13（週三）
埃隆—
這是我們計劃在下週一發布的文章草稿。有需要補充或修改的地方嗎？
要點：
-
我們建立了 “有回報上限的公司”，並完成了首輪融資，由裡德和維諾德（Vinod Kholsa）領投。
-
我們明確告知所有投資者，他們永遠不該期望獲得回報。
-
我們任命格雷格為新實體的董事長，我擔任 CEO。
-
我們已經與潛在的下一輪投資者溝通了這個架構，他們似乎很感興趣。
說到最後一點，我們正在討論一筆數十億美元的投資，我希望在你有空時得到你的建議。你來灣區時，我很樂意過來見你。
山姆
文章草稿
我們成立了 OpenAI LP，這是一家 “回報封頂” 的新公司，使我們能夠迅速增加算力和人才的投資，同時設定制衡機制來實現我們的使命。
我們的使命是確保通用人工智慧（AGI）惠及全人類，主要透過努力開發安全的 AGI 並與世界共享成果來實現。
由於該領域算力投資呈指數級增長，我們需要比最初創辦 OpenAI 時規劃的擴張速度更快。我們預計未來幾年需要籌集數十億美元，用於大規模投資雲計算、吸引和留住優秀人才，以及建設 AI 超級計算機。
作為非營利組織，我們無法籌集到如此大規模的資金。儘管我們曾考慮轉為營利模式，但擔心這會讓我們放棄自己的使命。
因此，我們成立了一個新公司 OpenAI LP，是營利與非營利的混合體——我們稱之為 “回報封頂” 公司。
OpenAI LP 的基本理念是，如果我們實現使命，投資者和員工可以獲得固定回報，這使我們能夠像初創公司一樣透過股權吸引投資者和員工。但超出固定回報的收益——如果我們成功，我們將創造比投資者或員工應得金額大得多的價值——將歸 OpenAI 非營利機構所有。
未來（在本文和其他地方），“OpenAI” 指 OpenAI LP（目前僱傭了我們的大部分員工），而原始實體稱為 “OpenAI Nonprofit”。
使命至上
我們設計 OpenAI LP 的初衷，是將整體使命——確保創造和應用安全且有益的 AGI——置於投資者回報之上。
為了最大限度減少利益與使命衝突，OpenAI LP 的首要責任是推進 OpenAI 憲章的目標，公司由 OpenAI 非營利機構的董事會控制。所有投資者和員工都簽署協議，明確 OpenAI LP 優先對憲章負責，即使這可能犧牲部分或全部財務權益。
我們的員工和投資者相關檔案開頭是這樣的：主要合夥人指 OpenAI 非營利機構（正式名稱為 “OpenAI Inc”）；有限合夥人指投資者和員工。
僅少數董事會成員可以在合夥企業中持有財務權益。此外，有限合夥人利益與非營利使命可能發生衝突，以及任何有關向投資者和員工支付回報時，只有不持有此類財務權益的董事會成員才能投票決策。
公司架構
我們的檔案中還有一項條款規定，非營利機構保留對公司的控制權。（檔案中使用了 OpenAI LP 的正式名稱 “OpenAI, L.P.”）
如上所述，投資者和員工的經濟回報是有上限的（這一上限會和每位有限合夥人事先協商確定）。超過上限的回報將歸非營利機構所有。我們的目標是確保，如果成功，我們創造的大部分價值能回饋世界，因此我們認為這是重要的第一步。第一輪投資者的回報上限設定為投資金額的 100 倍，我們預計未來輪次的回報倍數上限會降低。
OpenAI 做什麼
我們的日常工作保持不變。如今，我們相信專注於開發新的 AI 技術，而非商業產品，是我們創造最大價值的方式。我們的架構為未來長期盈利提供了靈活性，但我們希望在實現安全的 AGI 之後再來探索這一問題（不過，在此期間，我們對一些不影響專注的收入來源持開放態度，諸如專利許可授權等）。
OpenAI LP 目前有大約 100 名員工，分為三個主要方向：技術能力（推動 AI 系統功能發展）、安全保障（確保這些系統符合人類價值觀）和政策治理（確保適當治理這些系統）。OpenAI 非營利機構負責監管 OpenAI LP 開展 Scholars 和 Fellows 等教育專案，並主辦政策倡議活動。OpenAI LP 正在加速推進由 OpenAI 非營利機構啟動的發展路線圖，該路線圖已在強化學習、機器人技術和語言領域取得了突破性成果。
安全
我們擔憂 AGI 可能會快速引起變化——可能是機器追求操作者設定的錯誤目標、壞人操控已部署的系統，或者是經濟增長失控未能改善人類生活。如我們在憲章中所述，為了避免因競爭而難以優先考慮安全問題，我們願意與一個價值觀一致的組織合併，即使這可能導致投資者的回報減少甚至歸零。
參與者
OpenAI 非營利機構的董事會包括 OpenAI LP 的員工格雷格·布洛克曼（董事長兼 CTO）、伊利亞·蘇茨克維（首席科學家）和山姆·阿爾特曼（CEO），以及非員工成員亞當·德安吉洛、霍爾登·卡諾夫斯基、裡德·霍夫曼、蘇·尹和塔莎·麥考利。
埃隆·馬斯克於 2018 年 2 月退出 OpenAI 非營利機構董事會，與 OpenAI LP 無關。
我們的投資者包括裡德·霍夫曼和 Khosla Ventures。
我們正走在一條艱難而充滿不確定的道路上，但我們設計了我們的架構，幫助我們在成功創造 AGI 時對世界產生積極影響。如果你想幫助我們實現這一使命，我們正在招聘 :)！
彭博社：埃隆·馬斯克共同創立的 AI 研究組織組建營利部門
主題：彭博社：埃隆·馬斯克共同創立的 AI 研究組織組建營利部門
發件人：埃隆·馬斯克
收件人：山姆·阿爾特曼
時間： 2019 年 3 月 11 日 15:04（週一）
請明確說明，我與 OpenAI 的營利部門沒有任何財務上的關係。
——
埃隆·馬斯克共同創立 AI 研究組織組建營利部門
彭博社
總部位於舊金山的 AI 研究組織 OpenAI，由埃隆·馬斯克及幾位矽谷知名企業家共同創立，正在組建一個營利部門，以便籌集更多資金。[點選閱讀完整報道。]
透過 Apple News 分享
Re：彭博社：埃隆·馬斯克共同創立的 AI 研究組織組建營利部門
發件人：山姆·阿爾特曼
收件人：埃隆·馬斯克
時間： 2019 年 3 月 11 日 15:11（週一）
正在處理。
簡訊交流記錄
簡訊交流記錄（OpenAI 披露）
參與人：山姆·阿爾特曼、希馮·齊里斯
時間：2022 年 10 月 23 日（週日）
山姆·阿爾特曼（8:07）：
圖中是凌晨 3:06 分發來的一連串資訊：“我是埃隆”“新的奧斯汀號碼”“看到 OpenAI 估值達到 200 億美元，我很不安。事實上，我提供了幾乎所有的種子輪、A 輪和大部分 B 輪資金。”“[新聞報道連結]”“這是誘騙和欺詐”
希馮·齊里斯：
山姆·阿爾特曼（21:13）：
我理解這感覺確實不好——當我們設立有盈利上限的實體時就向你提供過股權，當時你不想要，但如果你現在想要的話，我們依然很樂意給你。
考慮到我們需要的資金量，以及為了保持 “將 AGI 交給人類” 的這條路，除了設定利潤上限這個方案，我們沒找到其他選擇。而且這個方案還允許董事會在安全需要時撤銷所有股權。
順便說一下，我個人沒有任何股權，從來都沒有。我正在盡最大努力在這個棘手的局面中尋找平衡，隨時都很樂意和你討論怎樣才能做得更好。也很想向你展示最近的進展。
山姆·阿爾特曼（22:50）：
希馮·齊里斯：
題圖來源：Y Combinator
OpenAI 第一次公佈的郵件：
https://openai.com/index/openai-elon-musk/
馬斯克起訴書公佈的郵件：
https://www.courtlistener.com/docket/69013420/musk-v-altman/
馬斯克起訴書公佈的郵件，lesswrong 整理版：
https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/
OpenAI 第二次公佈的郵件和簡訊記錄：
https://openai.com/index/elon-musk-wanted-an-openai-for-profit/
1957 年，人造物體第一次進入宇宙，繞著地球飛了三個星期。人類抬頭就能在夜幕裡看到一顆小小的閃光劃過天空，與神話裡的星宿並行。
這樣的壯舉跨越種族與意識形態，在全球各地激起了喜悅之情。但並不是我們可能猜想的那種為人類壯舉所感動的勝利喜悅。根據政治哲學家漢娜·阿倫特（Hannah Arendt）當年的觀察，人們的情緒更接近於一種等待多時的寬慰——科學終於追上了預期，“人類終於在擺脫地球這個囚籠的道路上邁出了第一步”。
人們總是根據技術探索，快速調整著自己對世界的預期。當科幻作家的一樁暢想變成現實，往往是技術終於追上了人們的預期，或者用阿倫特的話說，“科技實現並肯定了人們的夢想既不瘋狂也不虛無。”
今天這樣的時候，多一點夢想是更好的。
這也是《晚點 LatePost》啟動 TECH TUESDAY 這個欄目的預期。我們希望在《晚點》日常關注的商業世界外，定期介紹新的科學研究與技術進展。
這些可能關於一項前沿研究的進展、可能是對一個技術應用的觀察，也可能是對一些傑出技術、乃至一個時代的致敬。
這個欄目將從科學與技術的角度出發，記錄這個世界的多樣變化。在這個旅途中，希望讀者能和我們一起，對這個世界增加一分理解。
· FIN ·
