幾乎支撐著科學的半壁江山的「熵」到底是什麼?深入討論熵理論

2020-12-23 老胡說科學

熵是現代科學中的一個時髦詞。通常它被用作「無序」的同義詞,但它要有趣的多。這個概念本身有著悠久的歷史。為了完全理解熵是什麼,我們需要知道它是從哪裡來的。

最早提出熵概念的是拉扎爾·卡諾,他以研究發動機和領導法國革命軍而聞名。拉扎爾對輸入系統的功和輸出系統的功的比較之間的關係非常感興趣。他把輸出的功稱為「有用的功」,而把損失的功稱為「轉換能」。這就是後來的熵。

薩迪·卡諾他的兒子(薩迪·卡諾)繼續老卡諾的工作,研究發動機。他是著名的卡諾循環的發現者,卡諾循環是經典熱機效率的上界。薩迪認識到,在從熱到功的轉換過程中,總要損失一些能量。這是表述熱力學第二定律的另一種方式,它本質上說熵永遠不會減少。

隨後,其他一些科學家改變了這個概念,以適用於他們各自的領域。魯道夫·克勞修斯是第一個正式將其稱為「熵」的人,並在研究熱量時利用了它。他選擇這個詞是基於希臘單詞「entropia」,意思是轉變。路德維希·玻爾茲曼在他的統計力學發展中很大程度上依賴於熵。埃爾溫·薛丁格將進化中的突變與熵的增長聯繫起來。最近,克勞德·香農把他的整個信息理論建立在熵的概念上。

有了這麼多不同的領域和用途,難怪熵變得如此重要。我記得在本科學習期間,我遇到過幾個與熵相關的定義和方程,它們似乎都不相關。唯一共同的特徵似乎是隨機性。

讓我們來看看熵是如何在這些領域中應用的。我們已經在熱力學的意義上討論了一點,但是我們可以更深入地討論。熵測量了能量是如何擴散的,熱力學第二定律說,能量總是會隨著時間變得更加分散。但沒有確切的函數告訴我們能量是如何運動的,我們也沒有「擴散」的具體定義。我將舉一些第二定律的例子,希望你們能理解。

如果我們把一個熱平底鍋放在外面,它會逐漸冷卻下來。這是因為平底鍋裡的熱量正在慢慢擴散到附近的分子中。隨著時間的推移,這種能量會更加均勻地分布。想想漂浮在水中的冰塊。冰中的分子比液態水中的分子含有更少的能量。然而,隨著時間的推移,冰會融化,來自水能量會擴散到冰中。

熵是一個過程的自發性的中心。如果一個過程的熵增加(比如上面描述的兩種情況),那麼它會自己發生。如果一個過程的熵降低了,就像冰在一杯常溫的水中隨機凝固一樣,那麼除非外力(冰箱)作用於它,否則它不會發生。

需要注意的是,熵和無序是不同的。關於熵的一個常見類比是將凌亂的房間與整潔的房間進行比較。然而,能量在兩種情況下「分散」的量是相同的。說一個房間的熵比另一個房間的熵大是不正確的。這裡有很多內容,我們不在這裡討論。

熱力學概念是熵的最初定義,或許也是熵最精確的定義。接下來我們將進入統計力學,這是一個與熱力學有很多相同之處,但又不相同的領域!

統計力學的一個中心概念是宏觀狀態和微觀狀態之間的區別。宏觀狀態是較大的可觀測系統,具有溫度、壓力和體積等特性。它包含許多小分子,但我們基本上可以忽略它們,只把系統看作一個整體。然而,微觀狀態確實考慮了每個單獨的粒子,並描述了每個粒子在宏觀狀態中的確切位置。任何給定的宏觀狀態都可能有數萬億不同可能的微觀狀態。

在這種形勢下,熵被定義為可能微觀狀態數的對數。由於不可能確切知道有多少微觀狀態,這更多是一種概念,而不是實際操作。在最基本的意義上,想像一盒氣體,盒壁突然被移除。氣體會擴散開來,增加這些氣體分子的體積。由於空間更大,可用的微觀狀態數量也增加了,熵也增加了。

詹姆斯·麥克斯韋提出了一個引人入勝的思維實驗,叫做「麥克斯韋的惡魔」。在書中,他描述了一個可能違反第二定律的現象,這引發了很多有趣的討論。

麥克斯韋的惡魔是由物理學家詹姆斯·克萊克·麥克斯韋於1867年創建的思想實驗,在實驗中他提出了熱力學第二定律可能被認為是違反的問題。在思想實驗中,一個惡魔控制了兩個氣體隔間之間的一扇小門。當單個氣體分子接近門時,惡魔會迅速打開和關閉門,以使只有快分子進入一個腔室,而只有慢分子進入另一個腔室。因為更快的分子會變熱,所以惡魔的行為會導致一個腔室變熱而另一個腔室變冷,從而降低熵並違反了熱力學第二定律。這個思想實驗激起了關於熱力學和資訊理論之間關係的爭論和理論研究,直到今天,許多科學家認為,理論考慮排除了任何違反第二定律的實際裝置。——維基百科

麥克斯的惡魔,這可能違反了第二定律熵的最後一個主要用途出現在資訊理論中。這一定義與其他定義有明顯的不同。資訊理論研究的是將信息從信息源傳遞給接受者。

比方說,你想把你考試成績的發給朋友,這可能是A、B、C、D或E。你只能發送5種可能的信息,這使得熵值很低。如果您想發送您得到的確切分數,比如88.2或73.4,會怎樣呢?它的可能性更大,熵值也更高。

你可以看到這個概念和熵的統計力學觀點之間的聯繫。通信的熵對信號將如何發送有許多影響。一個高熵的信號需要大量的信息。熵在數學和物理世界中無處不在。雖然將其視為「無序」是有用的,但它消除了許多涉及的細微差別。希望你們已經掌握了思考熵的不同方式以及它的好處。

相關焦點

  • 熵:傷腦筋的熵
    Entropy的本意是一個同能量轉換相關的熱力學廣延量,中文的熵,或熱溫商,是對克勞修斯公式形式上的直譯。Entropy是一個具有深遠意義的基礎概念,量子力學以及後來的通訊理論都得益於熵概念之上的深入研究。熱力學(thermodynamics)是大學物理教育中不可或缺的一門基礎課,我印象中這是一門教的人和學的人都倍感困惑的課程。
  • 熵:傷腦筋的熵|賢說八道
    本文為《物理學咬文嚼字》027,原名為熵非商-the Myth of Entropy。熵是溫度關於能量的共軛量,脫離溫度理解熵,難免不著邊際。此次趁同「什麼是溫度?」 一起發表之機,又增添了兩條補綴。Entropy的本意是一個同能量轉換相關的熱力學廣延量,中文的熵,或熱溫商,是對克勞修斯公式形式上的直譯。Entropy是一個具有深遠意義的基礎概念,量子力學以及後來的通訊理論都得益於熵概念之上的深入研究。熱力學(thermodynamics)是大學物理教育中不可或缺的一門基礎課,我印象中這是一門教的人和學的人都倍感困惑的課程。
  • 熵理論讓我們走火入魔_湃客_澎湃新聞-The Paper
    然而就像科學工作者經常說的一句話,「科技是中立的」,因此我們對於指導生活的自然科學總是抱有警惕,擔心有一天會被反噬。本文藉助熵理論所希望討論的東西,也是出自於此。去年夏天,就在巴黎達到有史以來的最高溫紀錄之前,我騎著自行車橫穿這座城市去見我的一位朋友,羅曼·格拉齊亞尼(Romain Graziani)。
  • 從燒腦大片《信條》到任正非管理理念:熵減,到底是什麼?
    影片中關於時空的硬核設定,跳脫常規慣性思維定勢,從五維視角玩轉四維空間裡的時間和空間的邏輯,成了很多影迷關注討論的焦點。電影的理論基礎,就是熱力學定律。理論源於德國人克勞修斯在1854年提出的概念:不可能把熱量從低溫物體傳向高溫物體而不引起其他變化。正是著名的「熱力學第二定律」。單向流動是時間最明顯的特徵,這是「時間去哪兒」的根源。
  • 從熵減理論思考如何提升學習能力
    012017年9月份,華為總裁辦發布了《華為之熵,光明之矢》的內部學習郵件,文章系統闡述了任正非思想中的「熵減」理論。實際上,早在2012年,任正非就陸續在多篇文章和講話中提到了「華為之熵」的概念。任正非在與2012實驗室的座談中,第一次公開在內部提到了熵。他說「自主創新就陷入熵死裡面,這是一個封閉系統」所以華為是非常反對封閉式的自主創新,因為封閉意味著熵死,難以真正做到創新。關於為什麼能不能封閉,任正非接著這樣解釋:「我們為什麼要排外?我們能什麼都做得比別人好嗎?
  • 熵和負熵到底是什麼意思?
    接下來,我們對生命、熵、負熵以及宇宙這些玄而又玄的概念進行拆解。拆解完了,你也知道這句話到底是什麼意思了。可能比較燒腦,但不至於摸不著頭腦。既然「生命以負熵為生」,那我們也應該讓大腦多汲取一些負熵為食。先說生命,生命到底是什麼?
  • 從熵的角度看生命是什麼,死亡是有序到無序的結果
    從古至今,我們都在討論人類何為而存在,從哪裡來到哪裡去的問題。而討論的前提就是我們必須承認某件事物是真實的,不然我們將永遠問下去。隨著現代科學的發展,讓我們知道了許多人體的結構,我們的身體是由大量的原子來構成的,人體百分之七十的質量是水,每個水分子帶有兩個氫原子。
  • 黑洞無毛卻有熵究竟是什麼意思?一文帶你了解一下
    在德軍東線戰場裡服役的天文學家卡爾·史瓦西,在一封信上看見了愛因斯坦的這項轟動的理論發現。由於算法原因,愛因斯坦場方程在當時只有近似解,這點燃了史瓦西的科研欲望。在炮火連天的前沿陣地,他利用作戰間隙潛心研究,他居然給出了這個方程的精確解,解決了這項世界級物理難題。
  • 坤鵬論:熵,粉墨登場!
    知識,只要能夠寫成數學公式,全世界、所有人,不管他們講什麼語言,只要想,都可以進行研究和探索。再次,數學也是最嚴謹的科學,一是一,二是二,最容易判斷對錯。後來還有諸如:英國哲學家羅吉爾·培根說,數學是所有科學的基礎。庫薩的尼古拉表示,上帝創造世界並不是無計劃的,而是遵循著一種數學原則,要想認識宇宙,必須用數學原則觀察事物。
  • 信條裡的熵是什麼,這個文章會給你答案
    #有意思博士#熵是什麼其實是可能的,理論上分子越多,那麼分子的分布就會越均勻,我這個屋子裡大概有6.02乘10的23次方個分子,我們周圍有大量的空氣分子,幾乎就是均勻的,那有沒有可能左邊全是空氣?右邊真空呢?其實是有概率的大概是10乘10的23次方之1,但是1秒後又回去了。那麼熵是什麼,你可以理解為世間的各個物體,當時間推移,熵就會增加,稱之為熵增,反之則是熵減,也就是時光倒流。
  • 「增熵」是什麼鬼?為什麼任正非會如此強調
    「那麼這個熵增到底是什麼,為什麼任正非要用到這個詞?先說熵,熵是熱力學中的一個名詞,是衡量體系混亂程度的度量,熵低則混亂度低,熵高則混亂度高。熵增說的是在一個孤立的系統中,熵是會一直增加的,如果沒有外部能量的注入,系統就會隨著熵的增高,逐漸走向滅亡。
  • 什麼是熵?從生活裡的例子說起
    什麼是熵?從生活裡的例子說起很久以前,在19世紀,魯道夫·克勞西斯等科學家們就認識到了這種向低能發展的自然趨勢,並試圖對其進行量化,從而產生了熵的概念。熵解釋了為什麼熱量會從溫暖的物體流向寒冷的物體,解釋了為什麼氣球在充滿太多空氣時就會爆開,它為更複雜的理解鋪平了道路,從保持針的垂直平衡到描述蛋白質為什麼會以特定的方式摺疊。熵給了所有科學過程一個真正的方向。今天對熵的現代理解是雙重的。一方面,熵是一個宏觀的概念,可以來描述落葉之類的東西。然而,在微觀層面上,熵是高度統計的,它植根於不確定性原理。
  • 科幻|熵減會引發時間倒流嗎?聊聊《信條》中的科學問題
    在此,我借著點評稍微「質疑」一下《信條》中的科幻設定(請注意,沒有劇透),再淺談一下熵、平行宇宙、反物質,以及相關的暗物質和暗能量等。 首先談一下《信條》中最主要的科幻設定——熵。 我在之前的《華為的活力之源「熵減」中的熵是什麼?
  • 推薦閱讀:關於熵的幾本書
    呂建中博士是可持續商務戰略和企業社會責任(CSR)的先行者和思想引領者,在該領域有豐富、系統和前瞻性理論體系及實踐經驗。它讓我想起,在三十年前我曾著迷的關於熵的兩本書:《熵:一種新的世界觀》、《增長的極限》,讓我科學世界和社會形態有了「打通「之後那種通透的認識。  合上書,感覺自己變成一顆粒子,在絕對空間裡興奮地振動著,瀟灑熱情,無可逆轉,隱身無形。  雖然在大學裡就學過熱力學第二定律,但真正理解熵仍需一些歲月的累積。
  • 熵一自然界一切定律中的最高定律
    那麼克勞修斯的「熵增原理」是什麼?為什麼會提出「熱寂說」呢? 2、負熵 達爾文的進化論和熵理論是同一歷史時期的兩個重大科學發現,都對科學的發展起到了重大的推動作用,但是兩者卻事物演化規律上存在著矛盾。
  • 熵:道出自然規則的熱力學單位,所以對抗自然規則的你很難自律!
    首先,來介紹一下提出了熵這個單位的克勞修斯。克勞修斯,全名魯道夫·尤利烏斯·埃馬努埃爾·克勞修斯,德國物理學家和數學家,熱力學的主要奠基人之一。他重新陳述了尼古拉·卡諾定律(卡諾循環),把熱理論推至一個更真實更健全的基礎。後來明確指出了熱力學第二定律的基本概念,並引進了熵的概念。再來介紹一下什麼是熵。
  • 「熵」究竟是個什麼東西?宇宙為何要遵守熱力學第二定律?
    關於熵的問題,想必許多人都聽到過這個字,但卻不了解其中的意義,事實上,在物理學上,熵這個概念的形成也經歷了許多時間!熵是什麼?熱力學第二定律然而隨著科學的逐步發展,人們逐漸發現了熱力學第二定律也許揭示了宇宙最為本質的東西。1865年,德國物理學家克勞修斯首次提出了熵的概念。
  • 《信條》熵增熵減是什麼意思?別怪我沒提醒你 明白熵增熵減才能...
    《信條》熵增熵減是什麼意思?別怪我沒提醒你 明白熵增熵減才能看懂電影時間:2020-09-05 11:47   來源:521經驗網   責任編輯:沫朵 川北在線核心提示:原標題:《信條》熵增熵減是什麼意思?
  • 信息熵是怎樣煉成的 | 紀念資訊理論之父香農
    他用 「Sadi」 的第一個大寫字母 S 作為熵的記號,大概是為了紀念熵理論先驅者之一、法國工程師薩迪 卡諾(Nicholas Leonard Sadi Carnot, 1796-1832)。他寫道:「按照希臘詞τροπ (trope) 的意思,我將 S 這個量稱為系統的熵。
  • 為什麼你的桌子這麼亂:熵
    熵是一件奇怪的事情。有人說它可以衡量物理系統中的混亂程度。其他人則說這是一種信息量度。還有其他人在蒸汽機的背景下談論它。那麼,這是什麼?如何將不同背景中談到的熵聯繫起來蒸汽機:讓我們從頭開始。十九世紀見證了蒸汽機的興起,但同時也給人們帶來了一個不便的事實:那些蒸汽機效率極低。這激發了一位年輕的法國工程師Sadi Carnot制定出熱機效率的理論極限(熱機的工作原理是將從熱庫轉移到冷庫的熱量轉化為功)。