AI時代，提出好問題比給出答案更重要

在AI迅速迭代的環境中，我們應該培養什麼樣的能力？OpenAI的執行長兼聯合創始人Sam Altman在一場深度對話中做了分享，還談論了AI技術發展的現狀與未來，AI與人類的關係，AI時代的機遇、挑戰與組織管理等內容。整理如下，與您分享。

正文字數丨4808 字

預計閱讀丨9 分鐘

AI與技能的變化

主持人： 某種程度上，AI 革命給我的感覺像是網際網路革命的反面。過去，很多人不相信網際網路能改變世界，結果公司倒閉了；而那些相信的人知道該做什麼，比如建一個網站、透過網路賣產品。適應數字化並不難。而現在，我聽到很多創始人和 CEO 都認同 AI 是顛覆性的，但卻不知道它將如何影響領導力、工作方式、組織架構、產品和服務。在這種不確定中，它更像是一場工業革命，而不是網際網路革命。

Sam Altman： 的確，現在存在大量“已知的未知數”，但我們其實也能對它的未來發展做出一些判斷。

主持人： 我很想聽聽你怎麼判斷。

Sam Altman： 我有幾個總體假設。其一是：我們會越來越重視人的“適應力”，而不是傳統意義上的“能力”。有些技能依舊重要，但已經不是原始的智力強度了。

主持人： 那你認為未來重要的能力是什麼？

Sam Altman： 簡單說，“提出好問題”會比“給出答案”更重要。這和我這幾年觀察到的變化很一致。以前大家重視你腦子裡裝了多少知識，是不是個“事實收集器”。但現在更有價值的是能把各種資訊“連起來”，能識別模式、整合觀點的人會更有優勢。

主持人： 你看過《太空堡壘卡拉狄加》嗎？他們總說：“這一切曾發生過，也將再次發生。”現在人們談論 AI 革命，它確實在某些關鍵方面與過去不同，但也讓我想起歷史上的技術恐慌。

▲《太空堡壘卡拉狄加》（英語：Battlestar Galactica），是一部美國後末日時代軍事科幻電視劇

Sam Altman： 我小時候剛接觸網際網路時，覺得很酷，大家也都覺得它比之前的技術強太多。但也有人反感，比如老師禁止學生用 Google。理由是：如果你隨時都能查到答案，還學什麼歷史？他們擔心孩子們不再去圖書館查卡片目錄找書，覺得這種便利是不公平的，甚至會讓社會失去一些價值。但事實證明，我們並沒有失去什麼，反而獲得了更強的工具，人的期望值提升了，能力也提升了。我們開始做更難、更有趣、更有影響力的事。

我希望 AI 也能帶來這樣的結果。如果幾年前你問一個人：“2024 年會不會出現像 o1 這樣強大的系統？”大多數人會說：“不可能。”但如果它真的出現，我們又該怎麼應對？這其實是個生存風險的問題。現在這個驚人的突破真的發生了，我們也到了這一步。最近 Aiden Toner Rogers 有篇論文提到，AI 對研發領域的影響是顯著的。科學家在有 AI 協助時，專利申請量提升了 39%，帶來 17% 的產品創新，很多還是突破性的，比如新化學結構的發現。受益最大的是頂尖科學家——他們的創造力幾乎翻倍。底層三分之一的科學家則幾乎沒受益。AI 自動化了大量創意生成任務，讓優秀的科學家能集中精力判斷哪些點子值得投入——而這是他們真正擅長的。

AI對工作的影響

主持人： 這聽起來是個好訊息，但也有代價。研究中，82% 的科學家表示對工作不太滿意，覺得創造性工作變少了，技能沒被充分發揮。彷彿人類被降級為“判斷者”，不再是“創造者”。

Sam Altman： 我自己對這件事也有些矛盾。一方面，OpenAI 最讓我欣慰的事之一，就是我們把這些推理模型交給一些頂尖的科學家、數學家和程式設計師後，聽到他們說這如何改變了他們的工作方式。我個人最有成就感的工作，就是動腦解決一個從沒人想過的問題。如果 AI 真把這部分接管了，我確實會有點失落。但我希望現實的發展是：我們會用新的方式參與問題解決，依然能從中獲得樂趣。如果我們能用這些工具增強自己，我相信我們會適應，但我也不敢完全確定。

主持人： 在你的日常工作中，你是怎麼用 ChatGPT 的？

Sam Altman： 老實說，我用得很普通。我不會拿它幫我想新科學點子，而是用來處理郵件、總結檔案，幹一些繁瑣的事情。我希望人類能繼續參與創造的過程。這是人類精神最寶貴的部分。我相信它會延續下去，但形式肯定會演變，有些不同。

主持人： 我原本以為在人類優勢中，同理心會保留得更久，但現在看來，AI 趕上的速度遠超我的預期。

Sam Altman： 我最喜歡的實驗之一是：如果讓人進行一段文字對話，不告訴他們是在和人類還是 ChatGPT 交流，然後再問他們是否感受到被理解、被傾聽、被共情，結果很多人反而覺得從 AI 那裡獲得了更多支援。只有當他們得知對話物件是 AI 後，滿意度才會下降。

AI與人類情感連線

主持人： 作為心理學家，我有幾點想法。首先，我不覺得 AI 的共情表現特別好，更可能是我們人類預設狀態下的同理心就很差。我們太容易陷入以自我為中心的對話，別人說了問題，我們就開始聯想到自己的經歷，而不是真正關注對方。所以這也許不是 AI 多厲害，而是人類的同理心基線太低。另外，我很好奇“只要知道是 AI 就不喜歡”的這種反應會持續多久。畢竟我們正在不斷“擬人化”AI。

Sam Altman： 你說得對，而且這類現象的確普遍存在。人們經常更喜歡 AI 生成的內容，比如藝術作品，但一旦被告知這是 AI 做的，立刻就不喜歡了。最近就有一項研究顯示，即使是聲稱討厭 AI 藝術的人，也會在不知情的情況下選出更多 AI 生成的作品為最愛。但一旦知道哪些是 AI 做的，喜好就發生改變了。不過我認為這也顯示了一個積極訊號：AI 在很多方面已經趕上人類，但我們天生還是更關心“人”。這是一種很好的本能。

主持人： 雖然我們都在猜測未來，但我傾向於認為，即便未來我們更頻繁地與 AI 對話，我們仍然會特別在意何時是在和“人類”交流。這種需求，深深植根於我們的生物本能、進化歷程和社會機制之中。

Sam Altman： 那你為什麼認為人類之間的連線仍然重要？有點像Robert Nozick的“經驗機器”理論，也就是《駭客帝國》的原型：人們寧願選擇現實的、不完美的體驗，也不願沉浸在完美的模擬快樂中。我覺得我們真正渴望的，是人類之間真實的連線，即便這種連線不完美、有摩擦。當然，AI 遲早也能很好地模擬這些。但你會發現如果一直和一個完美無缺、始終共情的物件互動，反而會失去那種真實的人際張力。人類天生在意他人的感受、他人的評價，這種社交驅動不會那麼容易轉移給 AI。和 AI 交流可以有啟發、有幫助，甚至像某種“高階娛樂”，就像玩遊戲一樣。但它可能無法真正滿足我們作為社會一員的深層需求。我認為，那種想成為“群體一部分”的渴望才是人類特別重要的特質。

主持人： 我希望你是對的。要是 AI 真能精準破解人類心理，取代所有人際互動，那我會感到很難過。

Sam Altman： 我也是。我們無法從 AI 那裡獲得歸屬感，也很難從 AI 身上獲得“被看見”、“被尊重”或“我很重要”的感覺。這些都是我們透過他人眼睛和反應來建立的。這正是我想表達的。我可以想象這樣一個未來：AI 的能力遠超我們，能做各種驚人的事情。但即便如此，人類仍然會在意彼此的看法，依然玩著那些關於地位、比較、認同的“愚蠢遊戲”。只是，我不認為人們會把自己和 AI 的能力做比較。

認知和資訊的影響

主持人： 我一直很好奇：在這個資訊高度分裂的時代，事實越來越難打動人。比如，很多相信陰謀論的人，並不是因為邏輯推理，而是因為那種信仰能讓他們感到特別、有存在感，好像擁有了別人不知道的真相。這種心態很難被說服改變，因為承認錯誤意味著自我價值受損。但最近有篇我很感興趣的研究，是 Castello、Pennycook 和 Rand 合作做的。他們發現：哪怕只與 AI 聊一次天，在幾個月後，依然有不少人放棄了原本堅持的陰謀論信念。AI 首先針對使用者的錯誤認知做了反駁，關鍵是它回應了使用者背後的心理動因，而且——人們在“機器面前”更容易接受自己被說服，不怕“看起來像個傻子”。結果是，大約 20% 的人放棄了荒謬觀點，而且連 AI 沒涉及的其他錯誤認知也一併改變了。

Sam Altman： 我覺得這是一個特別令人興奮的機會。當然，它既可能被用作善，也可能被濫用。但我很好奇你怎麼看這種新可能性——我們能否藉助 AI 來修正人類的認知誤區？有些人天生就能擴充套件我們的思維，與他們交談是種難得的特權。但這樣的人太少了。如果我們能造出一個 AI，像世界上最棒的晚宴嘉賓，既有趣、又博學、又真誠關心你，還能花時間瞭解你，帶你從新角度看世界——那就太棒了。我自己也有過類似體驗。有時候我與某領域真正的專家交談，他們的話改變了我看待世界的方式。當然，人類中有些人能做到這一點。但我也有幾次，和 AI 對話後產生了類似的感受。

主持人： 這也引出了“幻覺”和“準確性”的問題。作為外行，我很難理解這為什麼是個這麼難解決的問題。你能用非計算機專業的人也能聽懂的方式解釋一下嗎？

Sam Altman： 我覺得很多人還停留在 GPT-3 的印象中，那是 2021 年的“遠古時代”，當時的模型確實不夠好，幻覺也很多。但如果你現在用 ChatGPT，它雖然仍會出錯，但整體已經相當可靠了。我們訓練這些模型的方法，是讓它預測下一個詞，而訓練資料中難免存在錯誤。有時候，模型沒有正確地“泛化”。我們正在研究如何讓模型在不知道答案時，能夠坦率承認“不知道”，而不是胡亂猜測。這個問題還沒完全解決，但隨著新一代推理模型的進展，幻覺問題正在大幅改善。

主持人： 我在使用 ChatGPT 時經常反覆追問，比如“這是真的嗎？”“你確定這是準確答案嗎？”我覺得這種質疑應該成為與 AI 互動的一個預設步驟。

Sam Altman： 沒錯，我認為未來這確實會成為使用流程的一部分。而且還有其他手段會共同推動 AI 更可靠。

人類與AI的協作

主持人： 最近有項研究讓我震驚。以往我們以為醫生加 AI 會比單獨使用 AI 更好。但結果卻顯示，AI 不僅單獨表現更好，甚至勝過醫生與 AI 組合。我理解這個結果的方式是：醫生在不認同 AI 建議時傾向否決它，反而削弱了決策效果。

Sam Altman： 這種現象在歷史上反覆出現過，比如下棋。最開始人類更強，後來 AI 更強，然後人類和 AI 協作達到了最優。但再之後，AI 又超過了這個組合。因為人類會犯錯，會錯判一些關鍵局面，導致協作反而拖了後腿。如果你的角色是“不斷質疑 AI”，那效果可能會很差。但我認為，我們目前還處在探索“人類與 AI 如何協同”的早期階段。AI 在診斷方面確實已經優於人類醫生，這不是我們能輕易反駁的。但在很多其他方面，或者在患者希望由人來完成的事上，人類仍有不可替代的價值。這會變得很重要。

主持人： 我經常想這個問題。我馬上要有孩子了，而這個孩子將成長在一個“AI 無處不在”的世界。他們從一出生就知道 AI 比自己聰明，能做很多他們做不到的事。可問題是，會有人在意這個嗎？

Sam Altman： 我覺得真正怪異的是我們正處在這個“過渡期”。這既是一種讓人謙卑的力量，也是未來的一種趨勢。我們還在學習如何與這些工具協作。是的，可能有些人太快開始依賴 AI——比如我現在已經不會拼複雜單詞了，因為我信任自動更正。對我來說，這沒什麼問題。我認為，人們對這些變化的“道德恐慌”有時是過度的。哪怕人們更多依賴 AI 來表達想法，也許那就是未來的表達方式。

主持人： 我看到一些學生已經不願意在沒有 ChatGPT 的情況下寫論文了。面對空白頁面或閃爍的游標，真的讓人很難下筆。我擔心這種依賴正在加深。你覺得我們該阻止這種趨勢嗎？還是說，我們應該接受它、適應它？

Sam Altman： 我不確定這是不是必須“阻止”的事情。對我來說，寫作其實是“外包的思考”。寫作很重要，但只要人們用新的方式表達思想，甚至是透過 AI 來表達，我覺得並沒有什麼問題。我覺得現在很荒謬的一個流程是：一個人寫下自己想說的要點，讓 ChatGPT 把它潤色成一封漂亮的郵件發出去；然後收件人把這封郵件貼進 ChatGPT，問它“提煉三個關鍵點”。這幾乎成了笑話。

主持人： 所以我現在越來越覺得，寫作和溝通的一些“傳統形式”其實並不重要了。如果我們都能直接互相傳送“要點”就好了。我真希望 ChatGPT 有個“水印”或內部記憶功能，能提醒使用者：“嘿，這段內容是我寫的，你該回去跟那個人說，直接發要點就行。”這樣大家溝通起來會更高效。

Sam Altman： 成名後有件很煩人的事是，我說的每一句話都得斟酌。說得不夠完美就可能被攻擊，或者引發各種爭議。這樣反而讓我失去了在公眾面前自由即興表達和試錯的機會。雖然這些想法可能不夠成熟，甚至大部分是錯的，但裡面可能也有一些“閃光點”。而我追求的，就是這種探索的過程。

AI發展的速度

主持人： 儘管如此，我們還是很感謝你比很多同行更加謹慎——他們往往缺乏自省，更缺乏剋制。

Sam Altman： 是的，有時候做一個謹慎、深思熟慮的人並不容易，但我確實認為應該有更多人這樣。

主持人： 我覺得我們低估了人類適應工具的創造力。我看到一個很有意思的研究，是 Sharon Parker 和她團隊做的。他們研究一家制造企業在引入機器人後，員工並沒有慌張、擔心失業，反而開始主動思考自己的獨特價值。他們研究機器人擅長與不擅長的任務，然後說：“好，我們就專注在人類更擅長的事上，把這變成我們的核心競爭力。”

Sam Altman： 我覺得 o1 和推理模型的快速進步也讓人不寒而慄。我們去年還認為某些技能可以用來區分人類和 AI，但到了今年，那些能力已經落伍了。2023 年流行的提示技巧，如今有些已經完全沒用了，甚至再也用不上。

主持人： 關於人類在 50 年、100 年，甚至 1000 年後的樣子，我們無從得知。但一個更有趣的問題是：今天的人類有什麼用？我想，答案是——對他人有用。我認為這一點將一直延續下去。

Sam Altman：Paul Buchheit多年前跟我說過一句讓我印象很深的話。他當時還在思考，如果未來出現“人類貨幣”和“機器貨幣”，它們可能會是完全獨立、互不關聯的體系。我不認為這字面上會發生，但這個類比非常有洞察力。我從沒想過機器會有自己的貨幣，但假設有一天 AI 為我們治癒了疾病、實現了核聚變、創造了各種我們難以想象的突破，那時我們還會在意某個叫Nii的 AI 做了什麼，或者某個朋友或小公司在做什麼嗎？可能不會那麼在意吧。也許有些人會，也許未來甚至會出現圍繞某個 AI 的“教派”。但我猜，我們最終還是會驚訝於自己有多麼“以人為本”。