面對前紐約時報作者 Bari Weiss 關於 Altman 與馬斯克之間恩怨糾紛的疑問 ，Sam Altman 表示：“他是一個傳奇的企業家。但他顯然是個霸道的人，而且喜歡爭鬥。現在是針對我，以前是 Bezos、Gates、Zuckerberg，還有很多其他人”。
Altman指出，AI 技術正在以超出預期的速度發展，未來 18 個月的變化可能會比過去一年半更加顯著。
他預測，超級智慧可能會在未來幾年內出現，並將其定義為一種顯著提升全球科學進步速度的技術能力，比如過去需要十年完成的技術進步將在一年內實現。
關於中美 AI 軍備賽，Altman 的立場展現出清晰的戰略平衡：一方面，確保美國技術領先是首要目標；另一方面，他對中美合作的可能性持謹慎樂觀態度，希望 AI 能推動世界和平，而非加劇對抗。
以下為這次對話的主要內容：
Bari Weiss
在 2024 年即將結束的日子裡，不僅 AI 是什麼以及如何使用它變得清晰起來，ChatGPT 的日活使用者已經超過 1.2 億，每天處理超過 10 億次查詢。而且，AI 的政治和文化影響、爭議以及未來幾年的辯論方向也變得越來越清楚。
這些問題十分重大：誰將引領我們進入這個新的 AI 時代？哪家公司會率先實現市場主導地位？這些公司將如何被構建，以確保不被具有惡意動機的壞人操控技術做壞事？政府在監管這一切時應該扮演什麼角色？
在這些重要問題的中心，至少目前，是兩個人：Sam Altman 和 Elon Musk。如果你還沒有關注過，他們並不完全一致。我不信任 OpenAI，也不信任 Sam。我認為我們不應該讓世界上最強大的 AI 被一個不值得信任的人控制。
Elon 和 Sam 一開始是朋友和商業夥伴。事實上，Sam 和 Elon 在 2015 年共同創立了 OpenAI，也就是開發 ChatGPT 的公司。但這些年來，Elon 對 OpenAI 越來越感到沮喪，直到 2018 年最終辭去了董事會職務。
今年，這場紛爭進一步升級，Elon 多次起訴 Sam 和 OpenAI，試圖阻止他們啟動公司盈利部門的計劃。
他聲稱 OpenAI 原本就不應該有盈利部門，他總是提醒人們，一個非營利、透明的公司不應該變成一個封閉的盈利性公司。他甚至認為，這樣改變結構可能是違法的。
從某種意義上說，這是一場非常複雜的爭論。如果你想理解每一個細節，可能需要法律學位和美國稅法的專業知識——我恰好兩樣都沒有。
但你無需專業學位或專門知識就能明白，這場爭論的核心遠遠超出了 OpenAI 的商業模式（儘管這本身非常重要，也是我們今天會討論的）。
從根本上來說，我認為這場爭論真正關乎的是誰將最終控制這項技術——一種可能會在使用不當時讓人類變得無足輕重的技術。因此，這事的利害關係不低。
接下來，我們將聽聽 Sam Altman 的看法。我們會討論 AI 的未來走向、他為何認為超級智慧（也就是 AI 超越人類能力的那一刻）比以往任何時候都更近，還會談論 AI 偏見和審查的風險、他為何捐贈 100 萬美元給特朗普的就職基金（儘管他長期以來反對特朗普）。
以及如果美國在 AI 競賽中輸給像中國這樣的外國會發生什麼。當然，還有他與地球上最富有的人之間的分歧究竟出了什麼問題。
Sam Altman，非常感謝你來到這裡，坦率地說，真心感謝。上一次我們交談是在 2023 年 4 月，我知道自那以後你接受了無數採訪，但那次的感覺就像是另一個時代。
當時 ChatGPT 剛剛釋出，人們還處於非常初步的階段，試圖弄明白這種技術到底是什麼，以及它可能會如何改變日常生活。而現在，在 2024 年 12 月的今天，ChatGPT 已經是一個家喻戶曉的名字，OpenAI 也是如此。
當然，還有一些競爭對手，比如 Perplexity、Gemini 和 Claude。普通美國人每天都在使用這些工具，從數學輔導到除錯程式碼，再到撰寫郵件，它們非常擅長這些事情。
告訴我，過去一年半以來，ChatGPT 和更廣義的 AI 技術發生了哪些變化？是否達到了你當初的預期，還是比預期更進一步？
Sam Altman
我認為可以從兩個方面來看。一個是技術本身的進步，這方面已經有了巨大的提升。
如果回想 2023 年 4 月讓我們興奮的 AI，那時的技術相較於現在簡直是原始的。而技術的能力現在讓我感到非常震撼。但更讓我驚訝的是，未來一年內它還會繼續以驚人的速度改進。
如果我們再過 18 個月再談這個話題，我認為我們會覺得從 2023 年 4 月到 2024 年 12 月之間的差距非常大，而未來 18 個月的差距可能會更大。
另一個發生的變化是，AI 真正融入了社會。當時，它還是一個新奇的東西，或許人們聽說過它。
但現在，人們真的開始大量使用它，無論是工作、個人生活，還是你剛才提到的各種用途。我從未見過一項技術以如此快的速度被廣泛採用，不僅是人們偶爾嘗試一下，而是變成了日常生活的一部分。
所以，這種 adoption 曲線的變化比我預期得快得多。我本以為技術的進步會很快，但應用的速度更讓我吃驚。
Bari Weiss
你是如何在日常生活中使用你幫助創造的工具的？我認識的很多人，比如 Tyler Cowen 和其他早期 adopters，他們似乎已經完全用它取代了 Google，對他們來說，它更像一個深層次的 Google。它對你來說是這樣嗎？
Sam Altman
我用它做了很多事情，但最新的一個功能是幾個月前我們推出的搜尋整合功能。現在 ChatGPT 可以搜尋即時資訊。這是我們迄今為止推出的所有功能中，讓我使用量翻倍的一個功能。
自從那以後，我可能還會用 Google 做一些事情，但我已經不記得是什麼了。我已經把 ChatGPT 設定為 Chrome 的預設搜尋引擎，從那之後就沒有回頭了。這種行為改變對我來說是巨大的，因為之前的習慣已經根深蒂固了。
而現在，當我回想過去的搜尋方式時，會覺得那種方式簡直像“前 iPhone 時代”的體驗。這就是我對這種變化的感受。過去幾個月，這種轉變對我來說是最令人驚訝的。
Bari Weiss
你會稱之為“搜尋”嗎？還是有類似於“Google”那樣的動詞？
Sam Altman
我還是稱之為“搜尋”。不過其他人可能會說“我用 chat 查了一下”或者“我 chat 了一下”。尤其是年輕人，他們似乎只稱它為“chat”。但我還是說“搜尋”。
Bari Weiss
Sam，在 9 月份，也就是幾個月前，你在自己的網站上發表了一篇宣言，預測超級智慧將在未來幾年內出現，或者用你的說法，“未來幾千天”。
給我們解釋一下什麼是超級智慧？我們如何知道它是否真的已經到來？它將在未來幾十年如何改變人們的生活？
Sam Altman
我用來建立自己心智框架的一種方式是看科學進步的速度。如果全世界的科學進步速度提高三倍，甚至十倍，比如過去需要十年才能實現的發現和技術進步，現在每年都在發生，然後年復一年地累積下去，這對我來說就像超級智慧已經到來。它將以多種方式改變社會和經濟的運作。
但我認為不會改變的是深層次的人類驅動力。我認為很多 AI 評論家對此看錯了。縱觀歷史，我們經歷過許多技術革命，但那些真正驅動人類的核心東西幾乎沒有變化，也許根本沒有變化。不過，我們所處的世界會發生巨大的變化。
Bari Weiss
好的，Sam，今天我們想與你對話的一個原因，不僅是因為我們想了解 AI 將如何改變我們的生活和工作方式，還因為你正與 OpenAI 的創始合夥人 Elon Musk 進行一場公開的鬥爭。
我想大部分聽眾大概知道你們之間有衝突，可能與 Elon 的眾多公司之一有關，但他們未必會了解那些訴訟的具體細節以及你們之間的爭端。
因此，我想盡量以最公正的方式總結一下這些情況，然後你可以告訴我哪裡不對或者我有沒有誇大其詞。
OpenAI 成立於 2015 年，最初是一個非營利組織。在同年 12 月你們向公眾介紹 OpenAI 的部落格文章中，你寫道：“OpenAI 是一家非營利的 AI 研究公司。我們的目標是以最有可能造福全人類的方式推進數字智慧的發展，不受盈利需求的限制。
因為我們的研究不受財務義務的束縛，我們可以更好地專注於積極的人類影響。”這是 OpenAI 品牌形象的重要組成部分。
幾年後，到 2019 年，OpenAI 轉向了一種所謂的混合模式，成立了一個盈利部門，當年獲得了微軟 10 億美元的投資。從那時起，微軟已經向 OpenAI 投入了大約 130 億美元，也可能更多。
而 Elon 從一開始就是聯合創始人，但隨著時間推移，他與公司的關係逐漸惡化，因為他不同意這種模式轉變——從非營利模式到混合模式。最終，他離開了公司並辭去了董事會職務。
今年，Elon 多次對你和 OpenAI 提起訴訟。他還在許多采訪中表達意見，併發布了無數推文（或者現在叫“X”），討論這場衝突。這些訴訟聲稱，你們在推進 AI 的過程中，將利潤置於公共利益之上，違反了某些合同。
最近一次發展是，上個月 Elon 要求加州的一名地方法官阻止 OpenAI 轉換為盈利結構。這就是事情的概要。我總結得對嗎？還有什麼關鍵內容被我遺漏了嗎？
Sam Altman
總結得大致正確，但有一個錯誤。其實是 Elon 最早希望 OpenAI 成為一家盈利公司——不是轉換，而是從一開始就設立為盈利公司。他當時提出了一系列建議，包括讓 OpenAI 成為 Tesla 的一部分，或者乾脆新建一個他能掌控的盈利公司。
除此之外，你的總結基本正確。我對這些有很多想法和意見，但就事實陳述而言，基本上是準確的。
Bari Weiss
請用更概括的方式告訴我們，Elon 和他的一些盟友（比如 Meta）與 OpenAI 之間的根本分歧是什麼？
Sam Altman
聽著，我無法進入 Elon 的腦袋裡，所以這只是一些推測。Elon 確實在 OpenAI 的早期做出了很多貢獻。儘管現在發生了這些事情，我仍然非常感激他。
我認為他是一個傳奇的企業家。但他顯然是個霸道的人，而且喜歡爭鬥。現在是針對我，以前是 Bezos、Gates、Zuckerberg，還有很多其他人。
我認為，根本上，這場衝突是因為 OpenAI 發展得非常好，而 Elon 非常在意“做得好”。Elon 創立並運營了一家直接競爭的公司，試圖做與 OpenAI 一樣的事情。而且他目前對那家公司的結構擁有多數控制權，這是他一貫會做的事情。
媒體對這件事的報道很多有誤解。即使我們最終選擇了某些轉換或演進的方向，也並不是說非營利組織會消失。我們的非營利組織不會終止，更不會變成盈利公司。
我們公開探討過將現有的 LLC 轉變為一個公益公司（PBC）的可能性，但無論我們採取什麼措施，都會強化非營利組織的功能。
非營利組織會繼續存在，並且更好地服務於最初的目標：開發令人難以置信的技術，以我們認為對人類最有益的方式加以應用，並將其帶到人們手中。
我為我們在這方面的成績感到非常自豪。正如你剛才提到的，人們在使用 ChatGPT，並且非常喜歡它。我們提供了免費的 ChatGPT 服務，甚至因此虧損。
這不是廣告支援的模式，我們只是想把 AI 技術放到人們手中，讓他們與之共同演化、理解它，同時讓世界經歷應對 AI 和最終 AGI 的過程。
我相信，如果 Elon 不在意對 OpenAI 的控制權，他會對我們正在做的一切感到滿意。他離開時認為我們註定會失敗，也不會支援一個他不能完全控制的 OpenAI。
但我認為，這些爭議有點像是旁枝末節。我們正確的做法就是繼續進行卓越的研究，繼續釋出人們喜歡的產品，最重要的是，繼續追求 AGI 造福人類的使命，並將其推廣到全世界。
Bari Weiss
對於剛接觸這個話題的人來說，Sam，為什麼 OpenAI 需要一個盈利部門，或者說需要以你們所討論的方式進行轉型？這對你們的發展為何至關重要？
Sam Altman
當我們在 2015 年創立 OpenAI 時，很難回想當時的情境有多麼不同。那是語言模型和聊天機器人誕生之前的時代，更不用說 ChatGPT 了。
當時我們做的研究包括髮表論文、開發可以完成電子遊戲的 AI，以及控制機器人賬戶等專案。當時我們的目標是籌集 10 億美元，但最終沒有實現。我們以為 10 億美元可以讓我們在追求目標的道路上取得顯著進展。
隨著我們對規模化語言模型的瞭解加深，我們意識到這遠不止 10 億甚至 100 億美元，而是需要數千億美元才能完成。作為一家非營利組織，我們無法實現這一點。這就是我們轉型的根本原因。
Bari Weiss
換句話說，這對於實現所需的計算能力至關重要，對嗎？
Sam Altman
完全正確。而且，所有其他從事 AI 的機構也意識到了這一點，並以某種方式設定了可以接入資本市場的結構。
Bari Weiss
最近你對 Elon 說了很多不同的話。在接受 Dealbook 採訪時，Andrew Ross Sorkin 問你怎麼看待這場衝突時，你說感到“難過”，同時你也說你認為 Elon 的公司都很棒。
他還問你是否認為 Elon 會利用他新獲得的政治影響力來懲罰你或 OpenAI，甚至懲罰他的競爭對手。
而你在採訪中表示，你認為他會做正確的事情。但你剛才又說 Elon 是個“霸道的人”。霸道的人通常不會做正確的事情，你怎麼看待這個矛盾？
Sam Altman
我覺得兩者完全可以並存。我認為有些人會在 Twitter 上表現得很惡劣，但並不代表他們會濫用他們在國家體系中的權力。對我來說，這完全是兩回事。
Bari Weiss
到目前為止，這場爭論對於那些腦子裡一直被 Twitter 佔據的人來說，主要是透過推文、暗示性的推文即時上演的。
而 OpenAI 則大多處於回應模式，有時甚至可以說是忽略了這些爭論，這是我的總體感受。然而，幾天前，你們改變了這種狀態，釋出了一篇非常長的備忘錄，發表在 OpenAI 的網站上。
這篇文章很完整，像是一個時間線，從 2015 年開始，試圖透過電子郵件、簡訊截圖以及對這些內容的解釋來證明，從一開始 Elon 就願意讓 OpenAI 成為一個盈利組織。
“這篇文章詳細描述了 Elon Musk 和 OpenAI 領導層之間的分歧，特別是 Sam Altman，與 Elon 對 OpenAI 從非營利模式轉向混合盈利模式的不滿有關。
這場紛爭之所以重要，是因為它突顯了一個更廣泛的倫理難題，即 AI 應該如何被開發和控制，是優先考慮公眾利益，還是企業利潤，特別是在強大的 AI 技術對社會和經濟的影響越來越大的情況下。”
Sam Altman
這總結得相當不錯。你覺得呢？
Bari Weiss
總的來說，你們確實沒有在 Twitter 上和 Elon 一來一回地爭吵。你們之所以釋出這份備忘錄，是因為必須提交法律檔案，並想為其提供一些背景。對嗎？
Sam Altman
是的，這一次我們不得不回應法律訴訟，並提供一些背景。其實我們之前也只在需要提交法律檔案時釋出過宣告。
我已經記不清 Elon 起訴過我們多少次了，應該有 4 次左右吧，包括撤訴、更改訴求、申請初步禁令等等。我們的任務是以對人類有益的方式構建 AGI，並想辦法讓它安全且廣泛地分發。
我們的任務不是與 Elon 在 Twitter 上打嘴仗。但當我們需要回應法律檔案時，我們會這樣做，有時也會提供一些背景資訊。我記得我們只這樣做過兩次。
Bari Weiss
在 OpenAI 的早期，品牌形象一直強調透明性和非營利性。你當時說不拿股權、拿很少的薪水，是因為你不想有利益衝突，只想專注於做對人類最有益的事情。
2015 年 OpenAI 剛成立後的第二天，你在接受 Vanity Fair 採訪時形容 OpenAI 是一家“拯救世界免於反烏托邦未來的非營利公司”。你還說，試圖讓 OpenAI 成為盈利公司會導致“與全球利益不一致的激勵機制，這是次優的選擇”。
我想問的是，你是否仍然同意這個觀點？或者只是不得不適應現實——即開發這些模型需要數百億美元的資金？
Sam Altman
兩個層面。一方面，我認為當時我有點錯了。儘管我曾有擔憂，但讓我印象深刻的是，不僅是我們，其他 AI 實驗室在面臨巨大市場或經濟激勵的情況下，也非常專注於開發安全的模型。這其中有很多因素，包括技術發展的方向讓我們有些幸運。
另一方面，我認為如果你以有害的方式部署這些模型，會很快失去操作的許可，特別是明顯的錯誤。
不過，也存在一些不太明顯的風險，比如社交媒體就是一個例子。當時它的危害可能不太明顯，但隨著規模的擴大，出現了意想不到的負面效應。
總體來說，激勵問題比我當時想象得要好一些。我願意坦率承認，10 年前的我對世界的運作方式有點天真，現在感覺更好了。
Bari Weiss
天真？怎麼說？
Sam Altman
我低估了社會對大公司施加的壓力，以及研究人員推動公司做正確事情的力量，即使面臨巨大的利潤驅動。
不過，有一點我當時和現在都不覺得天真：讓我感到瘋狂的是，這種事情發生在少數幾家私人公司手中。對我來說，這感覺像是我們時代的“曼哈頓計劃”或“阿波羅計劃”，而這些專案並不是由私人公司完成的。我認為這是一個健康社會的標誌。
Bari Weiss
你認為我們需要一個類似“曼哈頓計劃”的國家專案嗎？
Sam Altman
我認為公司會做正確的事情，而且結果會很好。我不認為當前世界下的政府專案會奏效，老實說，即使奏效，我也不覺得是好事。
我只是希望我們生活在一個這樣的世界中：我會覺得這是應該發生的，也是正在發生的方式。
Bari Weiss
Meta 最近也站在 Elon 的一邊。幾天前，Meta 請求加州總檢察長阻止 OpenAI 轉為盈利模式。他們在信中這樣寫道：
“OpenAI 的行為可能會對矽谷產生巨大影響。如果 OpenAI 的新商業模式合法，那麼非營利投資者將獲得與傳統方式投資盈利公司相同的回報，同時還能享受政府提供的稅收減免。”
這與 Elon 去年說的話類似：“我不明白一個我曾捐款的非營利機構怎麼會變成一個市值數十億美元的盈利公司。”換句話說，如果這是合法的，為什麼不是每個人都這麼做？
Sam Altman
我不知道 Meta 為什麼要發那封信，但我知道他們清楚事情並不是那樣運作的。我認為信中有些部分是惡意的。在任何情況下，我們的非營利組織都會繼續存在。捐贈給非營利組織的資金不會轉化為盈利公司的權益，他們當然也知道這一點。
至於 Meta 的動機，可以有很多猜測。他們可能想討好 Elon，也可能覺得這樣有助於他們與我們競爭，或者因為我們被認為對開源不夠支援（雖然我認為這並不準確）。具體原因是什麼，應該去問他們。
Bari Weiss
對於普通聽眾來說，一個非營利組織如何轉變為營利組織？答案是什麼？
Sam Altman
不會轉變，非營利組織仍然是非營利組織。我相信 OpenAI 的非營利部分正處於一個軌道上，我希望如果我們表現出色，它會成為歷史上最大、最有影響力的非營利組織。
這個非營利組織不會變成其他形式。就像世界上的許多其他事物一樣，我們的生態系統也可以有一個營利性的業務存在。
但這並不意味著非營利組織會轉換成其他形式，非營利組織不會消失，也不會停止做非營利的事情。
Bari Weiss
歸根結底，Sam，誰會從 OpenAI 的成功中獲利最多？
Sam Altman
每個人。我希望大家都能拿自己的類比來說這次技術革命最像什麼。有的人說它像工業革命，像電力，像網際網路。但我希望它更像電晶體。我們發現了一種新的、重要的基礎物理規律，或者你想怎麼稱呼都行。
我們和其他一些人做了大量研究，它滲透進經濟的方方面面、各種產品之中。如今你我使用的很多裝置中都有電晶體，使得我們能錄製這個播客。
電腦裡有電晶體，你的麥克風裡也有。我們之間所有的網路裝置裡有很多電晶體。但我們並不會坐在這裡思考電晶體，也不會因為某家電晶體公司而賺到所有的錢。
這是一項令人難以置信的科學發現，它滲透到我們所做的一切中，讓所有人都能獲益。這就是我希望 AI 能夠做到的，我認為有很多理由說明它是最佳類比。
Bari Weiss
你有股份嗎？或者你在這個新的封頂盈利機構中有什麼樣的權益？
Sam Altman
目前我們還沒有成立新實體。當然，我們考慮過設立一個新實體，或者更準確地說，將現有的有限責任公司轉型。
我有一小部分股份，是從以前 YC 基金留下的。我曾透過 Sequoia 基金擁有一些股份，但那部分更容易賣掉，我也沒有保留。所以目前我持有的股份微不足道，從未來收益角度來看也無關緊要。
沒有任何計劃或承諾會讓我再獲得股份。如果我得到了，那也絕不會像外界傳聞的那些離譜數字，那絕不可能。
Bari Weiss
你明白為什麼大家對此如此關注嗎？
Sam Altman
當然。我以前多次說過，如果我能回到過去，我會選擇持股。我現在明白了，之前的顧慮是錯誤的。
不過，我也理解現在拿股份會顯得很奇怪，畢竟以前沒有這麼做。另一方面，我真希望永遠不用再回答這個問題，然後直接說“我們是一家普通公司，我是 CEO，有股份”，這樣投資者也不用擔心我的利益和他們不一致。
不持股導致的那些猜忌，是我對 OpenAI 結構設計中最遺憾的決策之一。但我理解人們為什麼對此執著。
Bari Weiss
如果你能回到過去，你會從一開始就如何設計這件事？讓我們回到 2015 年。
Sam Altman
如果有先知告訴我：
-
第一，你需要超過 1000 億美元；
-
第二，即使你現在完全不知道如何將其商業化，也會從一個研究實驗室變成一個可以向投資者解釋其商業模式的公司；
-
第三，相關從業者的激勵會更容易被控制，因為這不是某個領先所有人的單一努力，而更像是電晶體一樣滲透到各個領域。
如果先知告訴我這些最終都成真，我會說，“好，那就做一個公益企業（Public Benefit Corp）。”
Bari Weiss
Elon Musk 對 OpenAI 的建立有多重要？如果先知告訴你後來你們會發生衝突，你會說“不需要他，我可以自己完成”嗎？
Sam Altman
不會，他確實非常有幫助。
Bari Weiss
我第一次見到 Elon Musk 是在一個會議的舞臺上，當時你在採訪他。你們的互動非常好，看起來是非常好的朋友。
他後來對你說了一些很尖銳的話，比如將你比作《權力的遊戲》中的小指頭，還說他不信任你，不希望世界上最強大的 AI 被一個不可信的人掌控。他為什麼這麼說？
Sam Altman
因為他希望世界上最強大的 AI 被他掌控。我見過 Elon 對很多其他人、包括我的朋友也有類似的攻擊。大家都會經歷一段時間成為他的目標，這似乎是他一貫的行為模式。
Bari Weiss
作為前朋友、前聯合創始人，他對你說這些話，你能保持相對冷靜，令人驚訝。
Sam Altman
當然我會感到不安。我曾和一個我認為很親近的人聊過，他們說，“Elon 沒有朋友，Elon 不接受平等對待，也沒有朋友。”這讓我很難過，因為我確實把他當作朋友。但我現在可以更冷靜地看待這件事。
我記得他曾說 OpenAI 成功的可能性是零，後來撤資並表示要自己幹。之後有時候感覺他想和解，有時候又在社交媒體上自行其是。
如果這些攻擊只針對我，可能會更痛苦。但我認為這是 Elon 的風格，而不是關於我的問題。
Bari Weiss
最近 OpenAI 的一篇部落格提到 Elon 應該“在市場上競爭，而不是在法庭上競爭。”有人認為 Elon 開始進軍 AI（比如他的 xAI 公司）並不是出於對 AI 安全的擔憂，而是為了競爭。對此你怎麼看？
Sam Altman
你得問他。
Bari Weiss
你不僅是世界上最重要的 AI 領導者之一，也是 AI 監管的積極倡導者。有人認為你推動 AI 監管是為了抑制競爭並使你的公司受益。對此你怎麼看？
Sam Altman
過多的監管顯然會帶來巨大的負面影響，現在社會中很多地方的監管已經過度。包括 Elon 在內的許多大公司的負責人都呼籲 AI 監管。
當你乘飛機時，你會覺得它很安全；在美國吃食物時，你不會太擔心食品安全。有些監管顯然是好事。
我能想象一些不利於小型公司的 AI 監管方式，我認為那將是一個真正的錯誤。但對於最強大的系統設定安全護欄，隻影響最前沿的公司，比如 OpenAI 和少數其他公司，我認為是合理的。儘管這些系統還沒有達到巨大的安全風險水平，但我們可能離那個點也不遠了。
Bari Weiss
有些初創公司提出了一些觀點，比如有一家叫 Hugging Face 的 AI 初創公司（這個名字真是絕妙），還有 Stability AI 的創始人。
他們基本上說，Sam 和其他大公司，比如 OpenAI、Google 和 Apple，正在試圖透過政府建立一種“護城河”，利用監管阻礙競爭。
你對這些人的看法是什麼？這似乎是大科技和小科技之間的爭論，可以用各種方式來框定。你如何回應那些認為你推動的監管會傷害他們而對你們有利的人？
Sam Altman
如果他們的意思是“我們落後於 OpenAI，所以無所謂”，而我們呼籲的只是對最前沿的技術進行監管，比如只針對新出現且未經測試的東西進行監管，而其他的，像開源模型之類的，可以隨便釋出。我覺得這種論點並不合理。
我很好奇你的想法。假設我們成功地創造了一個超級智慧——一種可能比整個人類更聰明、更有能力的計算機程式——你認為應該對此進行任何監管嗎？還是完全不管？
Bari Weiss
我絕對認為應該監管。首先，我甚至不完全理解“超級智慧”這個概念的含義以及它的影響力，而你對它的理解遠超我，這是第一點。
第二點，如果這種技術真的像你、Elon 以及其他接近它的人所描述的那樣強大，當然應該以某種方式進行監管。關鍵是如何監管以及何時監管。
Sam Altman
如何監管和何時監管確實非常重要，我同意你的觀點。我可以設想這種情況會非常順利地進行。
Bari Weiss
最近，Mark Andreessen 上過這個節目，他談到了他對拜登政府在 AI 技術方面做法的看法。他講述了一段自己的經歷。
他認為拜登政府試圖完全控制 AI，希望透過嚴格的政府監管，最終只剩下兩三家大公司與他們合作，他們實際上是在保護這些大公司免受競爭的威脅。這是真的嗎？你知道他指的是什麼嗎？OpenAI 是這些公司之一嗎？
Sam Altman
我不知道他具體指的是什麼。我可以非常明確地說，我認為減少 AI 競爭的監管是非常糟糕的。
Bari Weiss
所以 OpenAI 不是其中之一？
Sam Altman
我其實不知道具體情況。但據我所知，我們從未參與過類似的事情。
Bari Weiss
你從未和拜登政府以及其他 AI 公司一起開過這樣的會議？
Sam Altman
沒有。我不認為拜登政府有能力做出這種安排。我們確實和他們開過會議，但從未有過類似“我們要制定一個陰謀，讓只有幾家公司能夠開發 AI”的討論。
Bari Weiss
總體來說，你對拜登政府在 AI 和科技領域的態度有什麼看法？你剛剛提到你認為他們可能沒有足夠的能力。
Sam Altman
我覺得 Gina Raimondo（商務部長）非常出色。我每次和她的對話都覺得她很瞭解情況。不過，總體來說，我覺得政府的效率並不高。
我認為政府應該優先考慮的事情——比如在美國建設龐大的 AI 基礎設施、確保供應鏈留在美國——並沒有被妥善處理，我希望下一屆政府能夠關注這些。
Bari Weiss
當 Mark 上節目的時候，我讓他為拜登政府的立場辯護，或者為 AI 應該受到嚴格監管的觀點辯護。他提到了曼哈頓計劃和原子彈的開發。當時，政府認為需要確保這種新的科學創新保持機密。
首先，你認為這是一個好的類比嗎？如果這種技術確實像核武器一樣強大，那是不是應該由聯邦政府來主導，而不是 OpenAI 或其他公司？
Sam Altman
所有的類比都很難，因為它們在某些方面成立，在其他方面又不成立。你可以找到一些相似之處，比如開發這些模型和濃縮鈾一樣需要巨大資源和能量。但這些模型的使用方式和核武器的使用方式完全不同，其地緣政治影響也大不相同。
如果要為“它像核武器”的觀點辯護，我認為他們的意思是，這種技術成本極高且具有極大的地緣政治後果。
儘管我們還不完全清楚這些後果是什麼，但因為我們無法預見它們，所以應該讓政府決定。我可以想象歷史上其他國家的政府在某些情況下做出這樣的決定會讓人非常欣喜。
不過，讓當前的美國政府開發通用 AI （AGI）並優於我們的競爭對手，我認為可能效果不會很好。美國政府能力的下降並不是一個新觀察，但確實令人感嘆。
Bari Weiss
在核時代的初期，美國有一些人扮演了首席科學官的角色，比如 Vannevar Bush（瓦尼瓦爾·布什）。他推動了曼哈頓計劃、創立了國家科學基金會，並在核能初期那些關鍵的幾年裡引導了美國政策。
如果我們現在需要這樣一個人，他是否存在？一個既瞭解技術、沒有經濟利益，又能夠向總統、國會講述 AI 發展和中美競爭優劣的人。這樣的人現在在美國存在嗎？或者，你認為你可以勝任這個角色嗎？
Sam Altman
我認為公眾對未來科學技術發展的熱情在很長一段時間裡都消失了，現在正在慢慢恢復。
如果要選一個時間點，我覺得這種熱情在核武器出現時消失了。在核武器投放後，美國經歷了一種跨越幾代人的轉變。我們從曾經熱衷於相信科學技術會推動世界進步，變成了缺乏這種信念。
讀一讀過去那些科學家、技術推動者的故事，以及人們對科學技術的熱情，就會發現這種信念如今似乎已經缺失。
我不認為這是因為我們缺少了那樣的個人，而是因為政府和公眾都不再希望推動科學和技術發展。
Bari Weiss
我不僅指的是政治上的氛圍變化，還包括我們自 11 月 5 日以來經歷的文化氛圍變化。如果你八週前對我說這些，我會認為 Sam 可能是對的。但現在感覺像是一個完全不同的國家。
Sam Altman
確實發生了巨大的文化氛圍變化，我認為在許多方面是積極的。但我不確定這種變化是否也體現在對科學的重視上，比如“科學真的很重要，它會拯救我們，解決我們所有的問題”。你覺得是這樣的嗎？還是在這方面沒有感覺到這種變化？
Bari Weiss
我覺得方向的確在轉變，比如對增長和技術進步的肯定。虛無主義似乎已經過時，正在失去市場。我能感受到這種變化，而且是非常顯著的。
當然，這可能是因為我花了很多時間在 X 上（以前的推特），很多討論從線上蔓延到現實世界。但如果你去哥倫比亞大學的博士生中間問一圈，他們可能不會有同樣的感受。
Sam Altman
正如我之前提到的，我認為情況確實在變好。總體上來說，我非常同意你對經濟增長和成功的那種興奮感的觀點。我也部分同意，科學領域的興奮點正在回升，雖然還沒有達到巔峰。
但你提到那些科學大使——那些國家級的科學代表，能夠激勵人們並傳遞科學熱情的人——我還是沒感覺到這種存在。我覺得這種興奮更多地體現在商業領域，而不是科學領域。
Bari Weiss
我對一些公司感到興奮，比如 Palmer Luckey 和他的公司 Anduril Industries。這可能有爭議，但我覺得他是美國最有趣的創業者之一。而且 OpenAI 最近與 Anduril 合作，開發具有軍事應用的 AI 技術。
過去，OpenAI 明確禁止將其技術用於武器化。儘管目前你們專注於防禦系統，比如抵禦無人機群的攻擊，這可能和新澤西現在發生的情況類似。是什麼讓你從根本上改變了想法，決定將公司技術整合到防禦系統中？
Sam Altman
我們制定了一套原則，對於符合這些原則的某些用例，我們會予以批准。但我認為，如果美國的領先力量不能幫助保衛美國及其盟友免受對手的威脅，我們將面臨非常糟糕的局面。所以我們需要找到應對的方法。
Bari Weiss
一年半前，我們談論過中美之間的 AI 軍備賽。現在很明顯，我們確實深陷與中國的這場軍備賽中。即便是那些擔心 AI 力量的人也會覺得，如果在我們和中國之間必須做出選擇，那顯然應該是我們獲勝。Sam，在你看來，如果中國贏得這場 AI 軍備賽，美國和世界會發生什麼？
Sam Altman
那將是中國想要的任何結果。
Bari Weiss
你認為這種可能性是真實存在的嗎？
Sam Altman
我們的目標是全力確保這種情況不會發生。
Bari Weiss
我們如何知道中國是否領先？
Sam Altman
這是問題的難點所在。我們知道他們公開發布的內容，但不知道他們沒有公開的部分。我們有很多訊號和情報系統，但總體來說，我們必須嘗試保持合作。
軍備賽對所有參與方都是有害的，歷史已經一次次證明了這一點。但我們必須有能力在需要時取勝。我希望這可以成為促進世界和平的一個契機。
如果有任何時刻能讓人類團結起來，我認為現在是個不錯的候選時機。但我們不能天真地認為一定會實現。
Bari Weiss
特朗普總統經常談論“透過實力實現和平”。在你的版本里，OpenAI 是否也應該透過“領先並獲勝”來確保和平，從而使中國沒有機會主導局勢？
Sam Altman
我不會用“主宰”這個詞，而是“保持領先”。同時，我們也要儘可能合作。如果出現軍備賽，我們會贏，但我們不希望發生軍備賽。
Bari Weiss
換句話說，如果出現軍備賽，我們希望取勝，但更希望避免軍備賽。
Sam Altman
沒錯。如果能找到任何合作的路徑，我們應該努力爭取，但同時我們也必須保持警惕，因為我們無法控制其他國家的行為。
Bari Weiss
你是指與我們的對手合作嗎？
Sam Altman
是的，比如與中國合作。實際上，我可以直接說出來。我認為在戰略利益相關的領域，我們經常與我們不太融洽的人合作。這是一個領域，在這個領域中，我認為全球利益和我們公司使命都表明，如果有可能真正合作，我們就應該這麼做。
Bari Weiss
那我們現在是否正在與中國就 AI 進行合作？你知道得比我多吧。
Sam Altman
我本想說，你可能比我知道得更多。這將是新一屆政府面臨的一個重大問題。但這類事情不會發生在公司層面，而是會在國家領導人層面進行。
Bari Weiss
如果特朗普明天打電話給你，說：“嘿，Sam，我想讓你擔任 AI 事務專員，負責 AI 監管，你可以完全按照自己的想法行事。”你首先會做什麼？這個職位上最重要的事情是什麼？
Sam Altman
美國的基礎設施和供應鏈。
Bari Weiss
請具體說明一下，對不瞭解的人解釋一下這意味著什麼。
Sam Altman
在美國本土生產晶片，為資料中心建設足夠的能源，改變資料中心的建設模式，同時建立非常昂貴且複雜的供應鏈和基礎設施——所有這些都要在美國完成。
Bari Weiss
AI 中的偏見和審查是一個巨大的話題，也是我們在《自由新聞》非常關注的問題。
最明顯的例子之一是最近 Gemini 生成了一些影像，比如“黑人喬治·華盛頓”和“變性納粹”，雖然大家覺得搞笑，但這實際上揭示了一個更深層次的問題：這些技術中內嵌的偏見。這種偏見既來自於開發這些技術的人，也來自於它們從網路上抓取的資訊。
你是如何看待這個問題的？特別是在 ChatGPT 中，這顯然是一個關鍵點，因為最終最接近現實的系統才會贏。如果 ChatGPT 告訴我喬治·華盛頓是變性人，那我就不會再信任它。你如何看待偏見問題，又是如何解決的？
Sam Altman
我認為有兩個關鍵點。第一是使用者是否有靈活性去讓系統按照他們想要的方式執行。我認為系統應該有非常寬泛的界限。
比如，我們可以一致同意，系統不應該教人如何製造核武器。但如果使用者希望系統變得冒犯性一些，並明確提出要求，那麼系統的部分任務就是在社會普遍認可的界限內滿足使用者的請求。
第二個關鍵點是預設設定。如果大多數使用者都不進行任何定製化，並提出一些有爭議的問題，系統應該如何回應？我們在這兩方面投入了大量精力。
我們還嘗試寫下模型應該如何表現的規範，以便使用者能夠分辨出這是否是一個錯誤，或者僅僅是他們與我們的立場不同。
Bari Weiss
是否可能構建一個像 ChatGPT 這樣的技術，完全沒有政治立場？這是不是不可避免？
Sam Altman
我認為，無論你試圖多麼中立，如果完全避免政治立場，系統可能會變得毫無用處，因為它只會回答“這個問題有政治因素，我無法回答”。
或者，它會不可避免地帶有某種觀點。這就是為什麼我們認為，我們可以明確寫下系統的預設意圖，並接受外界的爭論。
如果系統中存在錯誤，我們可以修正；如果定義有問題，我們可以重新定義並重新訓練系統。但沒有任何系統能被所有人認為是完全沒有偏見的。這也是為什麼個性化選項如此重要的原因。
Bari Weiss
你認為 AI 或 ChatGPT 有責任對抗有害的思想嗎？比如，如果你知道透過一點點傾向性調整，你可能促成一個種族主義、反猶主義或厭女情緒減少的世界，而且使用者甚至不會察覺到這種調整。
那麼在這種情況下，你怎麼看待這個問題？畢竟，正如我們剛剛討論的，這將成為所有資訊的“控制層”。你如何處理這種權衡？
Sam Altman
其實，我最近一直在思考一個原則——這還不是 OpenAI 的正式立場，但我認為它可以回應你剛才提到的問題。假設我們發現了一種新的方法，比如讓 ChatGPT 總是用蘇格拉底式方法回答問題，這樣學生的學習效果會更好。
但是使用者的偏好並不是想要蘇格拉底式的方法，他們只是想得到直接的答案。那麼我們該如何決定預設行為是什麼？
我越來越傾向的一個想法是，無論何時我們對系統規範做出更改，都要非常透明。我們不能像一些平臺那樣，在演算法背後偷偷做調整。例如，推特總是用一些奇怪的方式隱藏其演算法偏好，這讓我感到不舒服。
如果我們發現像你提到的那種情況，或者像我舉的例子，在教育場景中，蘇格拉底式方法確實有顯著效果，我們可以公開說明這是為什麼，並進行公開辯論。
或許我們會因此調整預設設定，如果有人說服我們改變，我們也可以改。當然，任何使用者都可以在個人偏好中自行調整，因為 AI 是一種工具，它應該做使用者想讓它做的事情。
但如果我們更改了設定，卻沒有在規範中體現，也沒有告訴使用者，那我認為是錯誤的。像推特演算法的“黑箱”模式，我始終覺得不妥。
Bari Weiss
Sam，你曾向特朗普的就職典禮捐款 100 萬美元，這引起了一些關注，因為你之前曾稱他是種族主義者、厭女症者和陰謀論者。
過去，你長期為民主黨候選人和事業捐款，但現在你表示，特朗普將引領我們進入 AI 時代，你願意支援他確保美國保持領先地位的努力。這是你的政治立場改變了嗎？還是一種內心的“氛圍變化”？
Sam Altman
以上都有吧。而且，我希望……他是我們的總統，我希望他取得一切成功。如果有任何方式可以支援他的這些目標，我們都會願意去做。
Bari Weiss
那你的內心氛圍發生了什麼變化？我們知道矽谷和整個文化中都在發生變化。過去幾年，你自身發生了怎樣的轉變？
Sam Altman
我覺得有很多變化。其中之一是，我觀察到過去大概十到十二年間，事情開始走向歧途。在某些方面確實有好轉，但總體上，我們對增長和經濟成功的重視，以及對國家和世界應該關注的正確事情的關注度下降了。
我覺得一切都偏離了軌道。而現在的“氛圍變化”，讓我看到一個希望：我們正在經歷技術歷史上最重要的時刻之一，這可能推動我們回到我非常深信的道路上，那就是增長是唯一正確的前進方向。
Bari Weiss
你認為推動 OpenAI 的增長以及 AI 更廣泛的增長是一種愛國義務嗎？
Sam Altman
是的。我確實寫過類似的觀點。有人最近還給我看了我十多年前寫的第一篇部落格文章，其中提到增長是民主良好運作的核心要素。我認為世界在這方面變得非常混亂，現在能看到這一點被重新認識，我感到很高興。
✦ 精選內容 ✦
