在 OpenAI CEO Sam Altman 與哈佛商學院商業與全球社會高階副院長 Debora Spar 的對話中，Altman 清晰地闡述了 OpenAI 從非營利轉向營利模式的原因，強調了為實現技術突破而對資本支援的迫切需求。
此外，Altman 還展望了 AI 在加速科學發現、尤其是物理學領域的潛力，並探討了 AI 對人類情感連線和社會公平的影響。
Debora Spar
那麼，你是否可以更詳細地描述一下，為什麼以及你是如何覺得需要從非營利機構轉向營利性機構的？是某種突然的靈光乍現嗎？還是某種簡單的……
Sam Altman
說得簡單一點吧，我們需要的資本量遠遠超過我們作為非營利機構所能吸引到的規模。我們意識到擴充套件計算能力很重要，但還是大大低估了我們需要擴充套件的規模。
Debora Spar
那麼，這是否意味著在某種有意義的程度上，沒人可以以非營利的形式來做 AI 呢？
Sam Altman
不完全是。還有其他一些事情是可以做的，但如果想在擴充套件研究方面處於前沿，我認為大概就無法以非營利形式實現。
Debora Spar
那政府呢？
Sam Altman
政府當然可以做任何他們想做的事情，對吧？
Debora Spar
是的，但也不完全是。我們試圖探討的一個問題是，有些事情企業可能比政府做得更好。所以，你覺得像能源部或國防部這樣的機構能像你們一樣做好 OpenAI 嗎？
Sam Altman
阿波羅計劃就很令人印象深刻。
Debora Spar
所以你認為這可能是另一條路徑嗎？
Sam Altman
我認為，在一個執行良好的社會中，這本來應該是一個政府專案。
Debora Spar
但……
Sam Altman
既然沒有發生，那我認為以這種方式作為一個美國專案去做是更好的。
Debora Spar
你還提到過幾次政府或者社會在設定一些框架或導向上應該發揮作用，尤其是在公平性方面。
Sam Altman
確實應該有這樣的角色。我覺得社會在這裡應該扮演一個重要角色。
Debora Spar
但社會本身並不是一個“實體”。
Sam Altman
沒錯，這是許多不同利益相關方之間複雜的協商。但我們確實知道，我們有能力在時間的推移中把它做對。
Debora Spar
給個例子，我們是怎麼做對的？
Sam Altman
比如說，飛機現在非常安全。儘管波音可能有些問題，但總體上飛機是非常安全的。
Debora Spar
這很大程度上是傳統監管的結果。
Sam Altman
我認為，這也因為人們想乘飛機時知道自己不會死。而社會對此作出了回應，對吧？
Debora Spar
具體來說，是政府作出的回應。
Sam Altman
飛機制造商同樣也需要確保生產的飛機是人們願意乘坐的，政府當然有其角色，科學家和工程師也有一種責任感。我認為這是多方共同努力的結果，但監管確實起了很大作用。
Debora Spar
你在這一過程中顯然是一個大玩家，而且會一直是。那麼，你是如何思考自己與政府之間的關係的？
Sam Altman
我希望這是一種真正的合作關係，目前合作還是相當有建設性的。過度監管顯然會減緩創新，而監管不足又會帶來一系列其他問題。我認為大家都同意這兩個說法。關鍵是我們在這個光譜上的定位。
Debora Spar
你認為政府中的哪些部門，像 DHS（國土安全部）、DOE（能源部）或者 DOD（國防部），是你最想建立橋樑的？
Sam Altman
很難說得太樂觀，但我認為這將觸及社會的所有部分，也會涉及政府的所有部分。
Debora Spar
但這些東西很難建立。
Sam Altman
確實如此。但網際網路幾乎觸及了社會的所有部分，對吧？
Debora Spar
但可以說我們有些部分確實做得很糟糕。
Sam Altman
沒錯，也有很多部分做得很好。我不認為大多數人會選擇撤銷網際網路，即便它有很多問題。
Debora Spar
這是個有趣的點。我發現我的學生們，許多在社交媒體上成長起來的學生，倒是希望網際網路的這部分消失。
Sam Altman
當然會有部分是人們不喜歡的，未來十年你的學生也會有不喜歡的地方。但整體上，我認為 AI 會是一個巨大的淨收益。
Debora Spar
從社會或者商業的角度來看，你對 AI 最感興趣的領域是什麼？
Sam Altman
我個人最感興趣的是大幅加速科學發現的速度。我認為，從長遠看，這才是讓世界可持續變得更好的方式。我對這一點非常興奮。當然還有很多其他領域，比如 AI 教師、 AI 醫學顧問會非常棒。但從個人來說，我對科學方面最為興奮。
Debora Spar
科學的具體哪些領域呢？
Sam Altman
如果讓我選一個，我會說解決所有的物理學問題。但實際上，我對所有領域都感興趣。
Debora Spar
為什麼是物理學？
Sam Altman
因為我對它有著極大的個人好奇心，而且我相信，我們對物理學的理解越深，就越能操控宇宙。我不知道這會帶來什麼，但探索這點似乎非常重要。
Debora Spar
那接下來的問題是，如果所有的物理學問題都被解決了，物理學家會怎樣？
Sam Altman
如果真的是那樣，那我也不知道。我猜我們解決了當前的問題後，還會發現更多、更難、更有趣的問題。
Debora Spar
你看過約翰·梅納德·凱恩斯寫的《為我們的孫輩展望的經濟前景》嗎？
Sam Altman
沒有。
Debora Spar
我得發給你。這是篇很棒的文章。凱恩斯在 1930 年寫的，探討 100 年後的世界會是什麼樣子……
Sam Altman
哦，我知道，必須瞭解。
Debora Spar
他談到類似的問題——當所有問題都解決後，他得出的答案有點奇怪，我們只會創作藝術，不再關心金錢。你是否思考過這些存在主義的問題，比如物理學家會怎樣？
Sam Altman
你知道，這些問題已經被人們討論了很久。他（凱恩斯）有些觀點是對的，有些則不然。從某種意義上說，如果回到20世紀30年代，看看今天的很多人，你可能會說他們確實只是在“創作藝術”，並且不怎麼關心金錢。他們都過得不錯，但這並不是他們自己對生活的感受。
如果我們再往前走一百年，去問未來的人怎麼看我們這些人的工作，他們可能會給出一種奇怪的“藝術”定義，說：“好吧，他們在創作藝術，他們完全不關心金錢。”因為他們生活在令人難以置信的物質富足之中。
但如果你深入思考，就會發現，他們似乎依然很忙碌，也很有壓力，同時他們從自己的工作中獲得了極大的滿足感。而且，他們不會真的稱之為“藝術”。他們仍然會覺得自己擁有的不夠，仍然希望擁有更多。他們會找到新的方式彼此比較。或許他們不再比較誰的房子更大，而是比較誰的銀河系更漂亮。但我認為人類的驅動力會一直存在。
Debora Spar
是的，人性如此。
Sam Altman
我不認為這會改變。
Debora Spar
不會改變。所以在我的一些書中，我談到過我們可能會“愛上機器人”。這是一種誇張的說法，但我確實認為我們將會接納 AI 實體作為情感伴侶。你怎麼看？你會支援那種奇點理論嗎？就是人類與 AI 融合，我們開始與“被創造的事物”而非“被生育的事物”建立情感聯絡。
Sam Altman
我懷疑未來的娛樂形式會非常不同。可能今天很多用來看電視或玩電子遊戲的時間，將被花在與 AI 的互動體驗上。我們或許會從中獲得某種陪伴感。
但我認為，對大多數人來說，“真實人類”的陪伴在這種世界中可能會變得更加珍貴，而不是更少。所以，我確信我們會經常與 AI 交流，並且這將是一個極具娛樂性的世界。但我相信人類天性中有一些深刻的東西，比如知道對方是否是真實的人類，這一點很重要。
Debora Spar
儘管有時，我和一些最關心的人僅透過簡訊交流，因為我們不在同一個城市。如果他們其實是 AI ，我可能也不會發現，也許我能接受這種情況？
Sam Altman
問題就在於：如果你知道那不是一個真實的人，你會有什麼感覺？我認為你會感覺不同。
Debora Spar
是的，我們會知道的。
Sam Altman
對，我們終會知道。
Debora Spar
好的，我們可以打個賭。我覺得……
Sam Altman
我很樂意打這個賭，100 年後見。
Debora Spar
好的。回到你之前提到的一個話題，有學生問了關於公平的問題，你給了一個很好的回答。我同意你的觀點，技術可能會推動公平，但需要一些推動。那麼，你覺得需要怎樣的“推動”？
Sam Altman
首先，我認為可能根本不需要推動。有時候技術自己會解決問題。我還認為，要知道什麼樣的推動是對的，從理論上很難做到，更多是需要經驗實踐。我現在的想法可能完全是錯的。我認為，需要緊密的反饋迴圈，觀察問題出現的地方，然後修復它們，並找到新的問題。這是我對“推動”的理解。
Debora Spar
但這很難，對嗎？我剛從丹麥回來，在像丹麥這樣的小國，可以透過良好的資料支援實現這些。但美國呢？在美國透過任何形式的監管可能需要30年。你怎麼看待這種推動？
Sam Altman
我希望公司自己能做到。
Debora Spar
好的。
Sam Altman
如果寄希望於美國的監管，那可能會……
Debora Spar
但我實際上剛教過你寫的《摩爾定律適用於一切》。
Sam Altman
我很久沒讀了。它還經得起時間的考驗嗎？
Debora Spar
我覺得挺有趣的，因為你討論了稅收系統的變化。這些變化並不是完全無法實現的，儘管當前的政治環境可能會讓其難以執行。但你談到的基本觀點是，比如對土地和技術徵稅……
Sam Altman
對，基本上是對資本徵稅。我依然認為這是正確的。我覺得在一個由 AI 主導的世界中，主要對收入和企業利潤徵稅並不合理。我們需要找到一種方式對資本徵稅。
Debora Spar
是的，我認為這是一個非常有趣的想法，與UBI（全民基本收入）有一定聯絡但又有所不同。如果讓你對 AI 許一個願，你會許什麼願？
Sam Altman
愛與人性。
Debora Spar
你認為可以將這些內建到 AI 中嗎？
Sam Altman
我認為可以。有一個非常有效的方法是讓 AI 系統按照特定方式運作。如果我們能夠在很多不同情況下明確表達這些含義，那麼是的，我認為我們可以讓系統往這個方向發展。
Debora Spar
你覺得 OpenAI 可以並且應該有權制定自己的規則嗎？為什麼我們要信任你們？
Sam Altman
我認為你們不應該信任我們。我也不認為我們信任自己。坦率地說，這也不意味著應該把權力交給政府官僚。一個有趣的方向是，讓這些系統與使用者對話，瞭解他們的價值體系，並根據這些進行調整。我相信，技術的使用者和受到影響最大的人，應該對其治理有很大話語權。
Debora Spar
這在實際操作上可行嗎？尤其是考慮到鉅額的資金需求？
Sam Altman
完全可行。這正是這項技術帶來的新可能性。
Debora Spar
聽起來像是 Anthropic 在推動的東西？
Sam Altman
我不確定他們在做什麼。
Debora Spar
因為他們有一種似乎有點天真的理念，比如公開他們的設計原則供眾包使用。
Sam Altman
我覺得，公開這些原則並解釋系統如何做出取捨是很好的。但我更感興趣的是一個思想實驗：一個 AI 與你交談幾個小時，瞭解你的價值體系，然後與我和其他所有人做同樣的事情，最終嘗試找到一個深層次的共識。
Debora Spar
這本質上是利用 AI 來達成共識？
Sam Altman
是的，利用 AI 與每個人對話，深入理解數十億人的共識。這可能是無法用其他方式實現的。
Debora Spar
將這樣的共識與美國的建國檔案相比會很有意思。這些檔案明確反對多數規則。你描述的方式不同，但涉及一些根本性問題。
Sam Altman
是的，但它基本上是關於民主並帶有一定的權力制衡。
Debora Spar
需要仔細考慮這些權力制衡的樣子。如果共識認為 AI 是“壞的”或者“邪惡的”，該如何建立這種制衡？
Sam Altman
我認為這應該是人們為治理結構投票的一部分。
✦ 最“新”活動 ✦
2024年11月29日週五14:00，有新Newin聯合微軟Azure以及馳星創投舉辦「AI+Data｜產業賦能交流沙龍」活動，歡迎感興趣的小夥伴報名，稽核通過後會組織活動群並同步大家活動地址。
✦ 精選內容 ✦