被稱為資訊理論之父的 Claude Shannon 將熵理解為不確定性乍一看，夏農想出的方程式與蒸汽機無關。給定郵件中的一組可能字元，夏農公式將接下來出現哪個字元的不確定性定義為每個字元出現的機率之和乘以該機率的對數。但是，如果任何字元的機率相等，則夏農公式會得到簡化，並變得與玻爾茲曼的熵公式完全相同。據說物理學家約翰·馮·諾伊曼 （John von Neumann） 敦促夏農將他的量稱為“熵”——部分原因是它與玻爾茲曼的量非常一致，也因為“沒有人知道熵到底是什麼，所以在辯論中你總是佔優勢”。正如熱力學熵描述發動機的效率一樣，資訊熵捕捉到通訊的效率。它與弄清楚訊息內容所需的是或否問題的數量相對應。高熵訊息是無模式的訊息;由於無法猜測下一個角色，這條資訊需要許多問題才能完全揭示。具有大量模式的訊息包含的資訊較少，並且更容易被猜到。“這是一幅非常漂亮的資訊和熵環環相扣的畫面，”Lloyd說。“熵是我們不知道的資訊;資訊是我們所知道的資訊”。因此，不同背景下發展起來的熵的概念巧妙地結合在一起。熵的上升對應於有關微觀細節的資訊的損失。例如，在統計力學中，當盒子中的粒子混合在一起，我們失去了它們的位置和動量時，“吉布斯熵”會增加。在量子力學中，當粒子與環境糾纏在一起，從而擾亂它們的量子態時，“馮·諾依曼熵”就會上升。當物質落入黑洞，有關它的資訊丟失到外部世界時，“貝肯斯坦-霍金熵”就會上升。熵始終衡量的是無知：缺乏關於粒子運動、一串程式碼中的下一個數字、或量子系統的確切狀態的知識。“儘管引入熵的動機各不相同，但今天我們可以將它們都與不確定性的概念聯絡起來，”瑞士蘇黎世聯邦理工學院的物理學家雷納託·雷納說。
ET Jaynes在解決 Willard Gibbs 提出的一個悖論時，闡明瞭熵的主觀性質。Jaynes 也幫助澄清了這個問題。為此，他藉助喬賽亞·威拉德·吉布斯 （Josiah Willard Gibbs） 於 1875 年首次提出的一個思想實驗，該實驗後來被稱為吉布斯混合悖論。假設在一個盒子裡有兩種氣體 A 和 B，由分隔器隔開。當你抬起分隔器時，第二定律要求氣體擴散並混合，從而增加熵。但是，如果 A 和 B 是相同的氣體，保持相同的壓力和溫度，那麼抬起分流器不會改變熵，因為粒子已經最大限度地混合了。問題是：如果 A 和 B 是不同的氣體，但您無法區分它們，會發生什麼情況？在 Gibbs 提出這個悖論一個多世紀後，Jaynes 提出了解決方法（他堅稱吉布斯已經理解了，但未能清楚地表達出來）。想象一下，盒子裡的氣體是兩種不同型別的氬氣，它們相同，只是其中一種可溶於一種稱為whifnium 的尚未發現的元素中。在發現whifnium之前，沒有辦法區分這兩種氣體，因此抬起分流器不會引發明顯的熵變化。然而，在 whifnium 被發現後，一位聰明的科學家可以使用它來區分兩種氬物種，計算出熵隨著兩種型別的混合而增加。此外，科學家可以設計一種基於whifnium的活塞，利用以前無法從氣體的自然混合中獲得的能量。Jaynes 明確指出，系統的“有序性”——以及從中提取有用能量的潛力——取決於代理人的相對知識和資源。如果實驗者無法區分氣體 A 和 B，那麼它們實際上是相同的氣體。一旦科學家們有辦法區分它們，他們就可以透過開發氣體混合的趨勢來利用功。熵不取決於氣體之間的差異，而是取決於它們的可區分性。無序在旁觀者的眼中。【譯者注：比如三體文明掌握了三體的運動規律，而人類卻還算不出】
對於這些物理學家中的許多人來說，對發動機和計算機的研究已經變得模糊不清。他們已經學會了將資訊視為真實的、可量化的物理資源，即從系統中提取多少功的診斷。他們意識到，知識就是力量。現在，他們開始著手利用這種力量。一天早上，在莊園的蒙古包裡參加了一次可選的瑜伽課程後，這群人聆聽了蘇珊娜·斯蒂爾Still（夏威夷大學馬諾阿分校的物理學家）。她首先討論了一項新工作，針對可以追溯到一個世紀前，由匈牙利出生的物理學家 Leo Szilard 所提出的思想實驗：想象一個帶有垂直分隔線的盒子，該分隔線可以在盒子的左右壁之間來回滑動。盒子中只有一個粒子，位於分隔線的左側。當粒子從壁上彈開時，它會將分隔器向右推。一個聰明的小妖可以裝配一根繩子和滑輪，這樣，當分隔器被粒子推動時，它會拉動繩子並在盒子外舉起一個重物。此時，小妖可以偷偷地重新插入分隔器並重新啟動該過程——實現明顯的無限能量源。然而，為了始終如一地開箱即用，惡魔必須知道粒子在盒子的哪一側。Szilard 的引擎由資訊提供動力。原則上，資訊引擎有點像帆船。在海洋上，利用你對風向的瞭解來調整你的帆，推動船向前行進。
在調查從他們的真實世界資訊引擎中提取功的限制時，Bechhoefer 和 Still 發現，在某些狀態下，它可以顯著跑贏傳統發動機。受到 Still 理論工作的啟發，他們還追蹤了接收部分低效資訊的矽珠的狀態。得到了牛津大學物理學家娜塔莉亞·阿雷斯Ares的幫助，資訊引擎現在正在縮小到量子尺度，她曾與斯蒂爾一同參加了閉門研討會。在與杯墊大小相當的矽晶片上，Ares將單個電子困在一根細碳奈米線內，該奈米線懸掛在兩根支柱之間。這個“奈米管”被冷卻至接近絕對零度的千分之一，像吉他弦一樣振動，其振盪頻率由內部電子的狀態決定。透過追蹤奈米管的微小振動，Ares 和她的同事計劃診斷不同量子現象的功輸出。Ares在走廊的黑板上寫滿了許多實驗計劃，旨在探測量子熱力學。“這基本上就是整個工業革命的縮影，但尺度是奈米級的，”她說。一個計劃中的實驗靈感來源於Still的想法。實驗內容涉及調整奈米管的振動與電子（相對於其他未知因素）的依賴程度，本質上為調整觀察者的無知提供了一個“旋鈕”。Ares和她的團隊正在探索熱力學在最小尺度上的極限——某種意義上，是量子火焰的驅動力。經典物理中，粒子運動轉化為有用功的效率限制由卡諾定理設定。但在量子領域，由於有多種熵可供選擇，確定哪個熵將設定相關界限變得更加複雜——甚至如何定義功輸出也是一個問題。“如果我們像實驗中那樣只有一個電子，那熵意味著什麼？”Ares說道。“根據我的經驗，我們仍然在這方面非常迷茫。”
2024年9月，幾百名研究人員聚集在法國帕萊佐，為紀念卡諾（Carnot）其著作出版200週年而舉行的會議上。來自各個學科的參與者討論了熵在各自研究領域中的應用，從太陽能電池到黑洞。在歡迎辭中，法國國家科學研究中心的一位主任代表她的國家向卡諾道歉，承認忽視了卡諾工作的重要影響。當天晚上，研究人員們在一個奢華的金色餐廳集合，聆聽了一首由卡諾的父親創作、由一支四重奏演奏的交響樂，其中包括這位作曲家的遠親後代。卡諾的深遠見解源於試圖對時鐘般精確的世界施加最終控制的努力，這曾是理性時代的聖盃。但隨著熵的概念在自然科學中逐漸擴充套件，它的意義發生了變化。熵的精細理解拋棄了對完全效率和完美預測的虛妄夢想，反而承認了世界中不可減少的不確定性。“在某種程度上，我們正朝著幾個方向遠離啟蒙時期，”羅韋利（Rovelli）說——遠離決定論和絕對主義，轉向不確定性和主觀性。無論你願不願意接受，我們都是第二定律的奴隸；我們無法避免地推動宇宙走向終極無序的命運。但我們對熵的精細理解讓我們對未來有了更為積極的展望。走向混亂的趨勢是驅動所有機器運作的動力。雖然有用能量的衰減限制了我們的能力，但有時候換個角度可以揭示隱藏在混沌中的秩序儲備。此外，一個無序的宇宙正是充滿了更多的可能性。我們不能規避不確定性，但我們可以學會管理它——甚至或許能擁抱它。畢竟，正是無知激勵我們去追求知識並構建關於我們經驗的故事。換句話說，熵正是讓我們成為人類的原因。你可以對無法避免的秩序崩潰感到悲嘆，或者你可以將不確定性視為學習、感知、推理、做出更好選擇的機會，並利用你身上蘊藏的動力。☆ END ☆
