

圖源:Pixabay

導讀:
從麥克斯韋妖到弗雷德金門,可以體會科學史和哲學史深刻且又老生常談的概念對,如資訊vs物理,唯心vs唯物,bit vs it,靈魂vs肉體等。人工智慧對算力的劇烈需求,迫使我們思考新的概念對:計算vs能耗。對歷史的小心審視能為我們展望未來提供可靠的基礎。
尼克 | 撰文
只有一件事要緊,那就是遺忘。There is only one thing. It is oblivion.——博爾赫斯Jorge Luis Borges
大語言模型強化了我們的一個直覺:計算需要能量。“奇點”派及“強人工智慧派”都預言奇點,即人工智慧會全面超越人類的時刻,會在2030-2040年間來臨。有人甚至更為具體地宣稱:2028年最大的大模型(極有可能是OpenAI的某個版本)需要相當於一千萬張英偉達H100 算力的GPU叢集,消耗10G瓦的電力,這個電量差不多是10個胡佛大壩的發電量,可以供美國一箇中小規模的州的能耗。而當2030年奇點真正來臨時(差不多2028年2到5年後),最大的大模型需要消耗美國20%的電力 (見Aschenbrenner-2024)。
算力和能耗不僅是工程上的燃眉之急,它們之間的關係也是最深刻的科學議題之一,且有著悠久的智識(intellectual)傳統。計算或者資訊在哲學話語中對應著唯心的東西,而能量對應著唯物的東西。過去,我們很容易偷懶地把“心”最終歸結為“靈魂”,從而把“意識”這類難以定義的詞彙用“碳基”去消解(explain away)。但我們很少去問:是否唯心的東西必須要具備物理的體現;此外,靈魂是否也要制約於物理定律?圖靈之後對此有敏銳洞察的是布里淵和馮諾依曼。
馮諾依曼1949年在伊利諾伊大學做了題為"複雜自動機的理論和組織“(Theory and Organization of Complicated Automata)的講座,講座分5次,講稿經他的助手亞瑟·伯克斯(Arthur Burks)1966年整理並做注後編入文集《可再生自動機的理論》(Theory of self-reproducing automata)中(見von Neumann-1966)。這些文獻的價值並沒有在後來計算機科學的發展中得到重視。布里淵在1956年出版了《科學與資訊理論》(Science and Information Theory)。他與馮諾依曼都不約而同地意識到計算會受到能耗的約束,認為最小的計算(從0變為1或反之)會消耗k·T·ln2的能量。“熵”原來是一個神奇的熱力學概念,但馮諾依曼在幫夏農給資訊理論的新概念也起名“熵”時,除了它們字面上的相似,是否想到它們其實是一回事呢?
最早系統地提出熱力學理論的是蘇格蘭啟蒙運動的重要人物約瑟夫·布萊克(Joseph Black,1728年—1799年)。他是瓦特的朋友和資助者。他建立了“熱質理論“(caloric theory,或譯“熱素說”),此理論認為熱是一種稱為“熱質”的物質,熱質可以從溫度高的物體傳到溫度低的物體。拉瓦錫推翻燃素說之後,熱素說開始流行。布萊克提出熱質守恆定律,即熱質不能產生也不能消失,只能從一個物體傳到另一個物體。卡諾之後提出基於“卡諾迴圈”的理論熱機“卡諾熱機”,以及卡諾定理。
克勞修斯和開爾文勳爵由卡諾定理發展出各自對於熱力學第二定律的表述。克勞修斯斷言熱不能從低溫物體傳到高溫物體(Heat can never pass from a colder to a warmer body without some other change…)。開爾文勳爵已經意識到熱力學第二定律有可能和智慧生命有關係,他的一種表述是:只靠無生命的物質媒介,不可能透過把物質的任何部分冷卻到低於周圍最冷物體的溫度來獲得機械效應(It is impossible, by means of inanimate material agency, to derive mechanical effect from any portion of matter by cooling it below the temperature of the coldest of the surrounding objects)。此時物理學家們認識到熱是能量,但熱本身並不能做功,只有熱的流動才能做功。只有存在溫度差的情況下,才能有熱流。能轉化為有效機械功的熱能是有限的。物理學家訴諸“熵”這個物理量來刻畫熱力學第二定律。“熵”表示系統的雜亂無章的程度。
詹姆斯·克拉克·麥克斯韋(James Clerk Maxwell, 1831-1879,父親出生名約翰·克拉克,但為保護所剩不多的遺產,在原姓克拉克後加了個遠祖的姓麥克斯韋)是可比肩牛頓和愛因斯坦的大智之人。現代物理學的很多成就源自於他。愛因斯坦在他的辦公室裡常年掛著麥克斯韋的照相。麥克斯韋從小就興趣廣泛且博學,他博學的一面被他學問的深刻所掩蓋。麥克斯韋的傳記作者猜測他受到了當時其他博學者的啟發,例如數學家巴貝奇。

詹姆斯·克拉克·麥克斯韋(James Clerk Maxwell, 1831-1879)
麥克斯韋在1860年代建立了基於分子運動的熱力學理論,他指出分子運動的速度是溫度的函式;分子的動能與溫度成正比,溫度越高,分子的無序運動就越快。他1867年12月給他的終身摯友Peter Tait寫過一封信,信中說“設想一個有限生靈,能透過簡單的觀察知道所有分子的路徑和速度……”(Now conceive a finite being who knows the paths and velocities of all molecules by simple inspection but who can do no work except open and close a hole in the diaphragm by means…)此處finite being漢語常譯為“有限生靈”,其實being並無“生靈”之意。1871年麥克斯韋出版《熱理論》(Theory of Heat)一書,書中最後一章倒數第二節“熱力學第二定律的限制”(Limitations of the Second Law of Thermodynamics)中用有生命的he而不是無生命的it來指代being。

麥克斯韋1867年12月給摯友泰特的信。右下角那段話提出“麥克斯韋妖”
麥克斯韋設想了一個思想實驗,一個容器包含很多分子,能量是隨機分佈而不是均勻分佈的,因而有些分子運動快而有些分子運動慢。把一個容器透過隔板一分為二,隔板上有個小洞,這個有限生靈可以把觀察的知識應用於容器,即:讓運動較快的分子透過小洞,而較慢的分子則不透過小洞。結果便是:容器的一側是運動較快的分子,而另一側是運動較慢的分子。這明顯違背了熱力學第二定律。

“麥克斯韋妖”示意圖。妖(demon)決定哪些分子透過小洞。

《熱理論》 Theory of Heat,1871 。最後一章最後兩節,用代詞he而不是it指代being
就像圖靈機是圖靈的老師丘奇給起的名,“麥克斯韋妖”(Maxwell’s Demon)的說法並非源自麥克斯韋本人,而是源自開爾文勳爵。他1879年給Nature寫了篇短文“麥克斯韋的排序妖”,提到一個妖(demon)可以給原子按照各種性質為原子的位置排序,如果按照原子的運動速度排序,就會導致溫度失衡,違反熱力學第二定律。

開爾文勳爵1879年在Nature上刊文第一次叫出“麥克斯韋妖”的說法
此文的最後一句話:“麥克斯韋妖的概念是純機械的,在純粹物理科學中有用,但不宜用來研究生命和心靈對物質運動的影響。” (The conception of the “sorting demon” is purely mechanical, and is of great value in purely physical science, It was not, invented to help us to deal with questions regarding the influence of life and of mind on the motions of matter…)意思是唯物和唯心不是一回事。可見麥克斯韋和開爾文勳爵的小心。馮諾依曼肯定知道開爾文勳爵的這個說法,估計也會猜測麥克斯韋和開爾文勳爵對物質和心靈的看法,否則他不會貿然為夏農的資訊熵冠名。
費米曾經有個半玩笑的“費米悖論”:為什麼地球之外沒有智慧生命的證據?如果地球上有智慧生命,其他地方出現生命的機率也應該不小啊。當時在場的匈牙利物理學家西拉德(Leo Szilard)回答說:“火星上原來就有啊,只不過都移民到地球上了,他們現在被稱為匈牙利人。”於是在二十世紀上半葉,科學界把那時匈牙利出生的猶太裔數學家和物理學家群體統稱為“火星人”。他們中除了西拉德本人之外,還有終身流浪的數學家愛多什(Paul Erdos),邏輯學家哈爾莫斯(Paul Halmos),數論家和教育家喬治·波利亞(George Polya),氫彈之父愛德華·泰勒(Edward Teller),數學物理學家尤金·維格納,力學家馮卡門等。當然,他們都心服口服地認為最聰明的“火星人”是馮諾依曼。
西拉德最出名的事是1939年給羅斯福總統寫了封信,主張美國儘早開發原子武器,並拉著愛因斯坦簽了名,這封被稱為“愛因斯坦-西拉德信函”催生了曼哈頓計劃。1945年7月他又聯合155名科學家給杜魯門總統寫請願信,呼籲小心使用原子彈,但杜魯門沒收到。為了寫這封信,西拉德在曼哈頓計劃的芝加哥實驗室做了調查:46%的科學家認為應該在日本作為展示性使用,希望日本投降,否則就真扔原子彈;還有2%的科學家認為不應該被使用,事後應該完全保密。他的一些控核思路後來被國際原子能委員會採納,在面臨人工智慧威脅的今天,仍有啟發。

西拉德(Leo Szilard,1898-1964)
相比之下,西拉德的一些重要的物理學貢獻卻顯得不那麼出名。他本科時的專業是電機工程,一戰結束後在柏林認識了愛因斯坦,並和另一位火星人尤金·維格納一起參加了愛因斯坦在柏林大學主持的統計物理討論班。他1922年的博士論文試圖建立熱力學和資訊的聯絡,並得到愛因斯坦的讚許。西拉德一直認為自己數學不好,不適合幹理論物理。而愛因斯坦則認為西拉德總有原創的思想,更適合做一個發明家,愛因斯坦還以自己的經歷啟發西拉德:“你為什麼不到專利局找份差事呢?做一個別人等著你下金蛋的科學家並不是一份好差事。我在專利局工作的時候是我一生最好的時光。”西拉德和愛因斯坦合寫了5項冰箱的專利。西拉德還寫過加速器的專利。後來勞倫斯因為迴旋加速器得了諾貝爾獎,未能得獎的西拉德一直耿耿於懷。西拉德最早想到了鏈式反應,居然還把這個主意也申請了專利,1936年他在得到不製造武器的保證後,把這項專利移交給了英國海軍。後來他還和費米合寫過一個核反應堆的專利。
西拉德1929年用德文寫成的文章“論在智慧體干預下,熱力學系統的熵減”(On the decrease of entropy in a thermodynamic system by the intervention of intelligent beings),發表在《物理學雜誌》(Zeitschrift für Physik)上。直到1964年他臨死才被朋友翻譯為英文。

西拉德1929年德文文章,1964年臨死時才翻譯為英文
只從題目我們就能領略西拉德是多麼超前,他跨越了麥克斯韋和開爾文勳爵不以生命或智慧論熵的約定。西拉德認為開爾文勳爵稱之為“妖”(demon)的東西是某種智慧生命(intelligent living being)。二十多年後馮諾依曼建議夏農使用“熵”來命名資訊量,估計是受到西拉德的啟發。也許馮諾依曼並不僅僅是看到熱力學熵和資訊熵只是公式的形式上長得像,而是相信它們本質上就有某種關聯。
西拉德的智慧體(intelligent being)到底是什麼?那時還沒有圖靈機。西拉德把麥克斯韋的多分子簡化為單個分子。西拉德的思想實驗可以把資訊轉化為能量。西拉德認為資訊的獲取,即測量,需要付出代價,即消耗能量,從而使得周邊環境的熵增加。

西拉德引擎。透過觀察把資訊轉變為能量。整個操作分為4步,a)單粒子引擎;b)插入隔板;c)在活塞上掛砝碼;d)單粒子運動使得活塞做功。結論:觀察需要能量。
智慧體的一次測量可獲取一個位元的資訊。熱力學第二定律將系統能夠做的最小的功限定為kB·T·ln(2)。這裡,kB是玻爾茲曼常數,T是開爾文溫度。“2”是因為西拉德引擎中有兩個室。因此,kB·T·ln(2)是可以從一個位元的資訊中所能獲得的最大能量。西拉德透過“智慧體”把資訊與能耗聯絡起來:資訊熵和熱力學熵是等價的。後來,傑恩斯(Edwin Jaynes)指出,熵本質上刻畫化了對系統的無知程度,即在宏觀監控系統時丟失的微觀狀態的資訊量。只有在知道所有的微觀狀態時,能量才能完全轉化為功。傑恩斯的這個觀察成為資訊與能耗關係的理論基礎之一。孤立系統的熱力學熵只能增加,其資訊量只能減少。
法國生物學家雅克·莫諾曾經問西拉德為什麼晚年的興趣轉往生物學——他一直認為西拉德所做的關於麥克斯韋妖的工作是生物學的而不是物理學的。一點也不奇怪,在相關領域工作過的薛定諤、馮諾依曼、圖靈,夏農,以及後來的蔡廷和李明等都轉向生物學。事實上,麥克斯韋1871年的著作《熱理論》的結尾中,他也考慮過生物物種的進化論與當時所知的分子理論之間的關係。
中國老話說:人往高處走,水向低處流。向低處流是自然的熵增過程,往高處走則是反抗的熵減過程。顯然,向高處走更難,需要能量。調動能量的過程就是智慧。這也許可以作為,除了圖靈機之外,智慧的另一種定義。這兩個定義應該是等價的。
蘇聯數學家柯爾莫哥洛夫(Kolmogorov)利用圖靈機重新定義了資訊量,於是資訊處理和計算本質上就是一回事。資訊熵和熱力學熵等價的話,一個自然的問題就是:資訊處理過程,或者說計算,需要消耗能量嗎?最早對此進行深刻分析的是IBM的物理學家蘭道爾(Rolf Landauer),他1961年發表文章“Irreversibility and Heat Generation in the Computing Process”,討論了不可逆計算,以及資訊擦除,所需要的最小能耗。此後計算及資訊的熱力學(thermodynamics of computation and information)作為統計力學和計算理論的交叉學科,一直是一小群理論物理學家和理論計算機科學家聚焦的研究課題。今天看起來,這也是當代最重要的智力問題之一。計算遇到了物理學的牆,2000多年哲學傳統中的唯心與唯物、經驗與理性真要碰到一起了。

蘭道爾Rolf Landauer(1927-1999)
一般認為計算是不可逆的,就像西拉德認為測量是不可逆的。資料從一個裝置copy到另一個裝置,就是測量。蘭道爾認為copy不受熱力學第二定律約束。蘭道爾假設計算機中不同的邏輯狀態必須由不同的物理狀態表示。一個暫存器的清零操作,就是壓縮,即把2n個狀態壓縮成一個狀態。壓縮物理狀態必然伴隨外部環境的熵增。清零必然產生熱,是熱力學不可逆過程。
蘭道爾在IBM的同事和晚輩本內特(Charles Bennett)在計算理論,量子計算和通訊等領域都有傑出貢獻。他1973年提出邏輯可逆(logical reversibility)的概念,並討論了物理可逆的可能性。邏輯上不可逆的,熱力學上肯定不可逆。就像數學上不可能的,物理上肯定也不可能。邏輯上不可逆的運算應用於已知資料,則該運算在熱力學上是不可逆的,因為環境熵的增加不會被資訊熵的減少所完全補償。

本內特(Charles Bennett,1943-),1973年論證可逆性與物理可逆性
本內特進一步強化了蘭道爾原則,即擺脫舊資訊才是要付出能量代價的。本內特細化了西拉德引擎,觀測被分成多個步驟,本內特引入了記錄裝置。本內特引擎分八步。真正消耗能量的是第八步,即擦除記錄裝置的資訊。
1)一個兩邊有活塞的氣缸;一個觀察裝置,一個記錄裝置
2)有個隔板可以把氣缸中的粒子隔離在一邊,
3)記錄結果
4)沒有粒子一邊的活塞被推向隔板,並不需要做功
5)隔板被抽出
6)粒子推動左邊活塞,粒子的能量損失由環境的熱補償
7)氣缸恢復到初始狀態
8)記錄裝置的資訊被擦除

本內特引擎(Bennett Engine)細化了西拉德引擎
本內特修正了西拉德之後物理學家之間的共識,即測量消耗能量;沿著蘭道爾的思路進一步闡明瞭是資訊擦除(即遺忘)消耗能量。
弗雷德金(Ed Fredkin,1934-2023)是天才式的人物,他只在加州理工學院讀過一年書。弗雷德金1960年代末就在波士頓在計算機行業創業,成功上市後,在加勒比海買了蚊子島(Mosquito Island)自娛自樂,後來把這個島賣給維珍航空的布蘭森,但弗雷德金一直沒有放棄對學問的追求。1968年明斯基把沒有本科學位的弗雷德金招到麻省理工學院做正教授。也許明斯基看中了弗雷德金的管理才華,明斯基本人不喜歡幹髒活累活,他後來把麻省理工AI實驗室主任的職務交給他剛畢業的學生溫斯頓,是另一個例子。弗雷德金1971-1974做過麻省理工Project MAC 的主任。MAC是明斯基和麥卡錫在計算機科學和人工智慧的形成期創辦的靠政府資助的研發機構,後分出AI Lab 和CS Lab,現在又合併成為CSAIL,迴歸到1960年代的MAC的架構了。
費曼欣賞弗雷德金的才華,並受弗雷德金的影響開始研究計算理論和理論物理,特別是量子計算。費曼認為學習一個新領域最好的辦法就是開個課,於是聯合同校的生物物理學家霍普菲爾德和積體電路專家米德以及校外的外援明斯基,本內特和弗雷德金等一起開設一門新式課程:“計算之物理學”(The Physics of Computation)。參與這門課的老師和學生後來多成為計算物理學尤其是量子計算領域的開拓者。漢語裡“計算物理學”有兩個不同的意思,一個是Computational Physics,即用計算手段研究物理;另一個是Physics of Computation,即用物理學的視角審視計算。無疑,費曼、霍普菲爾德和米德屬義後者。費曼此時身體已每況愈下。這門課成了絕響,但幸運的是它被錄了音,後來由聽過課的兩位英國博士後整理成文字出版,書名《費曼計算機科學講義》(Feynman Lectures on Computation,見Feynman-1996),書中包羅了費曼的講課內容。可惜費曼沒等到書面世就病逝了。幾位費曼的和計算機科學沾邊的老朋友在費曼死後寫了紀念文章,這些文章編輯成書《費曼與計算》(Feynman and Computation,見Hey-1999)。

費曼計算機科學講義,一本被忽視的好書

弗雷德金(Ed Fredkin,1934-2023)
弗雷德金1982年提出Conservative Gate(守恆門,也被稱為弗雷德金門)。弗雷德金門是可逆的,即根據輸出,還能還原到輸入。弗雷德金門的輸入有一條線是“控制線”(control),當control=1時,A和B兩個輸入訊號在輸出時交換;而當control=0時,則直接透過。很明顯,弗雷德金門是有冗餘的(即垃圾位)。如圖所示,可以用弗雷德金門實現“與”門(AND)。而“非”門本身就是可逆的。於是所有布林電路都是可逆的,因為“與”與“非”兩個操作可以構成所有布林代數。所以理論上,任意電路都可以利用弗雷德金門改造成可逆實現,從而不消耗能量。這是令人吃驚的結果。

弗雷德金門(Fredkin Gate)
把蘭道爾和本內特的不可逆計算需要消耗能量的結論,以及弗雷德金的所有計算都可歸約成可逆計算的結論,組合起來看,我們可以得出另一個結論:計算不需要能量。這會讓我們盲目樂觀。
但正如費曼指出的:蘭道爾-本內特-弗雷德金框架中,計算的速度是無窮小的。這就像在理想世界中,可以不用考慮摩擦。而在現實世界中,計算需要速度。費曼設想一個計算步驟需要消耗的最小能量和計算速度相關。這之後,人們的研究開始兵分兩路:一條路,物理學家們仍然專注微觀的科學考察,研究是否可以在物理世界中存在著符合蘭道爾-本內特原則的現象(見Ciliberto&Lutz-2015, Lutz&Ciliberto-2019, 以及Lloyd-2000)。另一條路,工程師們開始認真分析宏觀的工程實現,探討改進的手段和未來進展的預測 (見Wolf-2018)。
摩爾定律的原始版本(1965年)預測晶片的效能每隔年提升一倍,但到1975年摩爾修正為每隔兩年提升一倍。而當下(2024年)最新的觀察晶片效能差不多需要4年才能提升一倍,也就是說每年只能提升不到20%。
積體電路的功耗可用經驗公式表達為:P=fCVdd2,f是頻率,C是電容,V是電壓,這三個引數又進一步互相關聯。鄧納德縮放率(Dennard Scaling)斷言:每代晶片的頻率提升帶來了40%的改進。但2006起,鄧納德縮放率失效,熱失控(thermal runaway)導致不能依靠單純提升頻率來提升效能,於是走向多核並行。但多核冰心並不能線性地提升效能。
對應於摩爾定律,還有一個庫米定律(Koomey),即在同等功耗下,晶片的效能每隔固定時間提升一倍。最近的觀察表明無論是什麼架構的CPU(如X86,ARM,還是RISC-V),無論是什麼規模的計算裝置(手機,PC還是超級計算),效能(摩爾定律)和能耗(庫米定律)縮放都在放緩。最早的庫米定律預測每隔1.57年提升一倍,但現在差不多要3到4年。摩爾定律和庫米定律這種逐年放緩的現象,可以統一用“尼克定律”刻畫 (見Zhang-2022)。

摩爾定律及其修正

庫米(Koomey)定律及其修正
“擦除”與一般的資訊update操作不一樣,擦除消滅了歷史。我們借用阿根廷盲詩人博爾赫斯詩句“只有一件事要緊,那就是遺忘。”(There is only one thing. It is oblivion.),姑且把這個點稱為“遺忘點”(Point of Oblivion),或乾脆O點,即碰到蘭道爾極限的時刻。Oblivion含多重詞義,它不僅捕捉到蘭道爾和本內特的“擦除”,還有“遺忘”,“無意識”,“湮滅”和“寬恕”等意,它表達了嚴謹的科學本意,也表達了我們期望表達的所有文學衍生。
如果,把庫米定律和蘭道爾極限一起考慮,庫米定律,是一條直線下降,總有一天庫米定律會交到X軸,即碰到蘭道爾極限。2018的研究表明當時離蘭道爾極限還有差不多6個數量級(見Chen-Dongarra-Xu-2018),差不多等於原始摩爾定律的20年。而庫米最初預測差不多2040就會遇到蘭道爾極限。尼克定律放緩了原始摩爾定律和原始庫米定律,即便如此,O-點也差不多在2080年左右來臨。
計算與能耗的關係可以溯源到熱力學第二定律,麥克斯韋和西拉德的研究的結論是測量需要消耗能量。蘭道爾和本內特的研究更令人信服地指出:不是測量,而是擦除是不可逆計算的核心,擦除需要消耗能量。弗雷德金的研究證明所有計算都可用可逆的弗雷德金門表示,目前尚無弗雷德金門的可靠的物理實現。費曼指出不消耗能量的可逆計算的速度必須是無限小的,如果我們需要計算速度,就得消耗能量,但蘭道爾極限是最小的計算能量消耗。
壓縮就是把唯物的東西變成唯心的東西的過程(見Zhang-2024),這個過程需要能量。資訊與物理被庸人如維納認為分別是不同的東西,沒有關聯。但現在看資訊與物理密不可分,資訊是物理的(本內特的說法),物理也是資訊的(it from bit,惠勒的說法)。從麥克斯韋和開爾文(用詞inanimate,和demon)到西拉德(用詞intelligent being)可看出物理學家們的心路歷程。某種意義上,計算理論是比理論物理學更加本質的學問。
“智慧”或者“意識”困惑我們的一個原因是這些詞的詞義是個移動的目標,考慮到熱力學第二定律,我們效仿西拉德,用“熵減”來定義智慧。蘭道爾在計算機科學尚未成熟·時就意識到這一點。按照直覺,獲取新資訊是要付出代價的,而蘭道爾和本內特的結論是擺脫舊資訊才是要付出代價的。於是讓我再套用老話:我擦除故我在。(I erase, therefore,I am.)
奇點是一個工程的經驗的概念。與之不同,“遺忘點”或“O點”是科學的理性的概念。也許奇點的來臨並不可怕,而當“O點”來臨時,我們會困惑:這是否是文明的停滯點。那時我們(不僅僅是人類,也包括上帝,如果怹老人家也服從物理定律的話),將造不出更精美的東西。
一個迷茫的問題是:不知道是奇點先來還是O點先來。也許O點先來是更人道的。

鳴謝。本文寫作得到諸位師友的啟發和指正,特此鳴謝,他們是:白碩、洪濤、馬少平、毛德操、李德毅、李明、劉江、戚肖寧、王懷民、徐志偉、張永剛、翟忠武、趙偉等。
作者簡介:
尼克,烏鎮智庫理事長。曾獲吳文俊人工智慧科技進步獎。中文著作包括《人工智慧簡史》《理解圖靈》《UNIX核心剖析》和《哲學評書》等。
參考文獻:(上下滑動可瀏覽)
[1] Aschenbrenner, Leopold (2024), SITUATIONAL AWARENESS: The Decade Ahead, July, 2024.
[2] Bennett, C.H. (1982), The thermodynamics of computation-a review. Int. J. Theor. Phys. Vol 21, 905.
[3] Bennett, C.H. (1987), Demons, Engines and the Second Law, SCIENTIFIC AMERICAN.
[4] Bennett, C.H. (2003), Notes on Landauer’s principle, reversible computation, and Maxwell’s Demon, Studies in History and Philosophy of Modern Physics 34, 501–510.
[5] Bennett, C.H. and R. Landauer (1985), The Fundamental Physical Limits of Computation, SCIENTIFIC AMERICAN.
[6] Brillouin, Léon (1956), Science and Information Theory, Academic Press, 1956; 2nd edition 1962.
[7] Chen, Zuo-ning, Jack Dongarra, Zhi-wei Xu (2018), Post-exascale supercomputing: research opportunities abound, Frontiers of Information Technology & Electronic Engineering, Springer.
[8] Ciliberto, S. & E. Lutz (2015), The Physics of Information: From Maxwell to Landauer. Physics Today 68(9).
[9] Clegg, B. (2019), Professor Maxwell’s Duplicitous Demon: How James Clerk Maxwell Unravelled the Mysteries of Electromagnetism and Matter.
[10] Feynman, R. (1996), Feynman Lectures on Computation.
[11] Fredkin, Edward & Tommaso Toffoli, (1982), Conservative logic. International Journal of Theoretical Physics. 21 (3–4): 219–253.
[12] Hey, A.J. G. (1999), Feynman and Computation, Exploring the Limits of Computers.
[13] Konopik, Michael, Till Korten, Eric Lutz & Heiner Linke (2023), Fundamental energy cost of finite-time parallelizable computing, Nature Communications 447 (2023).
[14] Landauer, R. (1961), Irreversibility and Heat Generation in the Computing Process, IBM J.
[15] Landauer, R. (1986), Computation: A Fundamental Physical View, H. S. Leff, A. F. Rex, eds., Maxwell’s Demon: Entropy, Information, Computing, (1990).
[16] Landauer, R. (1991), Information is physical. Physics Today 44(5).
[17] Landauer, R. (1994), Zig-zag path to understanding: physical limits of information handling, Proceedings Workshop on Physics and Computation. PhysComp '94.
[18] Lloyd, Seth (2000), Ultimate physical limits to computation, Nature. 406, 1047–1054.
[19] Lutz, E. & S. Ciliberto (2019), Information: from Maxwell’s demon to Landauer’s eraser. In C. S. Lent et al. (eds.), Energy Limits in Computation.
[20] Szilard, Leo (1929), Uber die Entropieverminderung in einem thermodynamischen System bei Eingriffen intelligenter Wesen. (On the decrease of entropy in a thermodynamic system by the intervention of intelligent beings), Zeitschrift für Physik.
[21] Von Neumann, J. (1966), A. Burks (ed.), The Theory of Self-reproducing Automata. Univ. of Illinois Press.
[22] Wheeler, J.A. (1989), INFORMATION, PHYSICS, QUANTUM: THE SEARCH FOR LINK, Foundations of Quantum Mechanics, Tokyo, pp.354-368.
[23] Wolf, Marilyn (2018), The Physics of Computing.
[24] Zhang, Nick (2022), Moore's Law is dead, long live Moore's Law!, arxiv, 2205.15011, 中文初稿:尼克, 摩爾定律死了,摩爾定律萬歲!, 中國計算機學會通訊,2022年4月.
[25] Zhang, Nick (2024), 尼克:所羅門諾夫:大語言模型的先知,賽先生,2024.4.23.
[2] Bennett, C.H. (1982), The thermodynamics of computation-a review. Int. J. Theor. Phys. Vol 21, 905.
[3] Bennett, C.H. (1987), Demons, Engines and the Second Law, SCIENTIFIC AMERICAN.
[4] Bennett, C.H. (2003), Notes on Landauer’s principle, reversible computation, and Maxwell’s Demon, Studies in History and Philosophy of Modern Physics 34, 501–510.
[5] Bennett, C.H. and R. Landauer (1985), The Fundamental Physical Limits of Computation, SCIENTIFIC AMERICAN.
[6] Brillouin, Léon (1956), Science and Information Theory, Academic Press, 1956; 2nd edition 1962.
[7] Chen, Zuo-ning, Jack Dongarra, Zhi-wei Xu (2018), Post-exascale supercomputing: research opportunities abound, Frontiers of Information Technology & Electronic Engineering, Springer.
[8] Ciliberto, S. & E. Lutz (2015), The Physics of Information: From Maxwell to Landauer. Physics Today 68(9).
[9] Clegg, B. (2019), Professor Maxwell’s Duplicitous Demon: How James Clerk Maxwell Unravelled the Mysteries of Electromagnetism and Matter.
[10] Feynman, R. (1996), Feynman Lectures on Computation.
[11] Fredkin, Edward & Tommaso Toffoli, (1982), Conservative logic. International Journal of Theoretical Physics. 21 (3–4): 219–253.
[12] Hey, A.J. G. (1999), Feynman and Computation, Exploring the Limits of Computers.
[13] Konopik, Michael, Till Korten, Eric Lutz & Heiner Linke (2023), Fundamental energy cost of finite-time parallelizable computing, Nature Communications 447 (2023).
[14] Landauer, R. (1961), Irreversibility and Heat Generation in the Computing Process, IBM J.
[15] Landauer, R. (1986), Computation: A Fundamental Physical View, H. S. Leff, A. F. Rex, eds., Maxwell’s Demon: Entropy, Information, Computing, (1990).
[16] Landauer, R. (1991), Information is physical. Physics Today 44(5).
[17] Landauer, R. (1994), Zig-zag path to understanding: physical limits of information handling, Proceedings Workshop on Physics and Computation. PhysComp '94.
[18] Lloyd, Seth (2000), Ultimate physical limits to computation, Nature. 406, 1047–1054.
[19] Lutz, E. & S. Ciliberto (2019), Information: from Maxwell’s demon to Landauer’s eraser. In C. S. Lent et al. (eds.), Energy Limits in Computation.
[20] Szilard, Leo (1929), Uber die Entropieverminderung in einem thermodynamischen System bei Eingriffen intelligenter Wesen. (On the decrease of entropy in a thermodynamic system by the intervention of intelligent beings), Zeitschrift für Physik.
[21] Von Neumann, J. (1966), A. Burks (ed.), The Theory of Self-reproducing Automata. Univ. of Illinois Press.
[22] Wheeler, J.A. (1989), INFORMATION, PHYSICS, QUANTUM: THE SEARCH FOR LINK, Foundations of Quantum Mechanics, Tokyo, pp.354-368.
[23] Wolf, Marilyn (2018), The Physics of Computing.
[24] Zhang, Nick (2022), Moore's Law is dead, long live Moore's Law!, arxiv, 2205.15011, 中文初稿:尼克, 摩爾定律死了,摩爾定律萬歲!, 中國計算機學會通訊,2022年4月.
[25] Zhang, Nick (2024), 尼克:所羅門諾夫:大語言模型的先知,賽先生,2024.4.23.
星標《賽先生》公眾號,


歡迎關注我們,投稿、授權等請聯絡
合作請新增微信SxsLive2022