什麼是熵?從生活裡的例子說起

2020-12-05 劉老師聊科學

每年秋天,樹木從綠變成紅黃,樹上葉子顏色的變化是隨機的。當樹葉落下時,它們不會整齊地堆積起來,它們只是會掉落在地上。同樣地,當你把一副牌扔到地板上時,它們也不會按照花色或號碼來排列。你的辦公桌如果不清理,一定會變得越來越亂,而不會自動變整齊。如果一個燈泡掉到地上摔碎了,它永遠不可能自己復原。

燈泡碎了不能自己復原

而這一切都是因為熵。

熵是系統趨向無序的一種趨勢,是無序的量化。一副牌在你扔的時候不會自動重組,因為保持無序更加容易。讓我們想想根據大小和花色來排列紙牌所花費的精力:你必須拿起一張紙牌,將它與其他紙牌進行比較,將它分類,然後再排列。你必須一遍又一遍地重複這個過程,直到所有52張牌都被比較和排列好,這需要大量的能量。

什麼是熵?從生活裡的例子說起

很久以前,在19世紀,魯道夫·克勞西斯等科學家們就認識到了這種向低能發展的自然趨勢,並試圖對其進行量化,從而產生了熵的概念。熵解釋了為什麼熱量會從溫暖的物體流向寒冷的物體,解釋了為什麼氣球在充滿太多空氣時就會爆開,它為更複雜的理解鋪平了道路,從保持針的垂直平衡到描述蛋白質為什麼會以特定的方式摺疊。熵給了所有科學過程一個真正的方向。

今天對熵的現代理解是雙重的。一方面,熵是一個宏觀的概念,可以來描述落葉之類的東西。然而,在微觀層面上,熵是高度統計的,它植根於不確定性原理。舉個例子,氣態物質的原子或分子可以在它們所佔據的任何空間中自由移動。如果你能看到盒子裡的氣體,你會觀察到微小的原子在牆壁間不規則地彈跳,偶爾會相互碰撞,並相應地改變方向。如果你記錄下這個系統的溫度和壓強,你也就有效地測量了它的宏觀熵——如果氣體的溫度很高,它的分子就會混亂地四處移動,它的熵,也會非常高,熵可以量化這種混亂。

熵,自然過程中,趨向無序

然而,我們的一箱氣體可能包含超過5億個微小粒子。 如果能夠通過推測分子的微觀狀態,來建立對比和解釋宏觀狀態的橋梁,會得到很多重要的結論。當然,這座橋需要對熵有一個更精確更絕對的定義,並且能定義所有其他涉及這個術語的數學表達式。

根據箱子裡的氣體類型,它所包含的能量會以不同的方式分配。例如,許多分子可以快速旋轉,但移動速度非常慢。另一方面,分子可能劇烈振動,運動速度比沒有任何旋轉動量的飛機還要快。從統計學上講,我們氣體中能量分布的這種差異可以用微觀狀態的概念來表示。在一種微觀狀態下,大部分能量是旋轉的,而在另一種微觀狀態下,所有能量可能都在分子的速度中。熱力學通常假設氣體處於任一微觀狀態的概率是相等的,這就是所謂的先驗概率假設。這就得到了下面的等式:

S = k*lnΩ,Ω為系統分子的狀態數,k為玻爾茲曼常數。

隨著微觀狀態數量的增加,關於能量分布的信息會減少,這意味著系統的熵、混沌會急劇增加。這是熵最基本、最絕對的定義。

當你洗一副牌時,你基本上是在最大化這個系統的熵,因為你完全不知道數字或花色的順序。在這種情況下,每種可能性都是一種微觀狀態,52張牌的每一次排序都有相同的發生概率。當你把牌按照大小和花色排列時,你通過增加你所知道的信息的數量來降低系統的熵。

洗牌與熵的增減

熱力學第二定律定性地解釋了自然界趨向低能的趨勢。如果你把一塊冰放進滾燙的碗裡,會發生什麼?冰會融化。我們可以用熵來解釋,冰是一個非常有序的固體,這意味著作為一個整體,它的熵很低。通過吸收熱水中的熱量,冰塊內的分子會釋放出來,並能像液體一樣更自由地運動——它們的隨機性增加了,它們的熵也增加了。能量從熱的物體流向冷的物體,這就是平衡的概念。自然界中所有的事物都趨向於更高的熵,這意味著宇宙的熵也一定在不斷增加。

量子熱力學試圖將微觀狀態與宏觀觀察聯繫起來,並最終從這種結合中推導出熵的統計描述。在這裡,認為分子運動是主要的熱力學現象。當一種物質被加熱時,它的分子運動得越來越快,而這種運動在高速下是隨機的。當一種物質冷卻下來時,它的分子運動趨向緩慢。

因此熵與溫度密切相關,而溫度是最基本的熱力學性質之一。而壓力——一個非常重要的熱力學概念——也是分子運動的結果。熱力學的統計方法使我們能夠計算出關於系統的非常微妙的信息,特別是那些涉及化學物質的系統。例如,通過使用統計熱力學,人們可以更準確地模擬可能有多個反應的系統中的化學平衡。

這種統計方法對熱力學的影響是深遠的,並且它們違背了物理學的確定性理想。舉個例子,如果你把一個籃球扔進一個場地,球將沿著一個軌跡運動,而這個軌跡可以被精確地建模:這是由各種輸入決定的,比如你扔物體的力度有多大,以及扔出角度。決定論的世界觀是這樣一種世界觀,它依賴於這樣一種基本觀察,即每次你給物理系統相同的輸出時,它們的行為都是相同的。以同樣的角度,同樣的力度扔出一個球,很有可能你的結果將是相同的。

球的軌跡可以被預測和計算

當牛頓發展出他開創性的運動定律時,他也引入了一種新的思考世界的方式。這種決定論的思想在很長一段時間裡滲透到科學中。蘋果從樹上掉下來是由於地心引力,因此,所有的物體都會掉到地上,因為對地心引力的抵抗是不自然的。沒有人會從懸崖上跳下來,然後飛上雲端,除非是在看科幻片。這種由一套確定的規則來控制我們的行為的想法最終凝聚成一套完整的哲學,其原則遵循類似的指導方針。

量子力學的發展和擴散,對經典物理的確定性模型提出了挑戰。這表明,任何物理系統的輸入結果都不是確定的,實際上是有偏差的,並由外部測量來改變。這表明,在微觀層面上,物理系統在相同的輸入條件下會產生不同的結果,而且這種可變性也可以描述宏觀現象。它推動了這樣一種思想,即一個系統同時存在於無限多個狀態中,直到它被測量出來。

關於熵

這一論點最初被認為是荒謬的,因為它給微系統帶來了固有的不確定性。它告訴物理學家——「嘿,你永遠不可能同時知道一個粒子的位置和它的動量!」隨著時間的推移,人們開始意識到,在微觀層面上,隨機模型以經典力學無法解釋的方式解釋了超導性甚至核反應等現象。最終,量子力學被認為是物理學的一個極其重要的分支,科學家和哲學家們都學會了從宏觀行為的概率觀來接受不確定性。

在熵發展的漫長歷史歷程中,我們唯一確定的是它的不確定性。

如果喜歡這篇文章,請關注劉老師,每天帶來硬核科普。

相關焦點

  • 什麼是熵?
    雷鋒網 AI 科技評論按:「熵」大概是統計學、信息學裡最讓初學者愁腸百結的基本概念之一。我們都知道熵可以用來描述含有的信息豐富程度的多少,但是具體是怎麼回事呢?這篇文章中雷鋒網 AI 科技評論將帶大家重新系統認識一下「熵」倒是在講什麼。假設你在醫生辦公室中與三個等待的病人交流。
  • 到底什麼是「熵」?----熵的概念辨析(5)
    到底什麼是「熵」? 以前的介紹:熵的世界你不懂?----熵的概念辨析(1)熵(傷)腦筋?
  • 生活中的熵增定律&信息維度的熵減
    關鍵詞:熵、熵增、熵減、信息工具。 解答問題:為什麼生活中有那麼多越來越亂的現象?人為什麼需要自律? 前言:前段時間,看到了一篇熵增定律的文章,也算是首次接觸「熵」這個概念吧,不明覺厲,本來是個比較難懂的物理學概念,不過原文生活化的例子還是令我看完了,並且也查了下相關資料,算是對這個概念有了一些些了解吧,結合自己公號主題,分享下,說不定會與某些大神來個更有深度的碰撞。
  • 「熵」什麼意思?它的變化有什麼意義?
    談一下個人的視角,熵這個字比較偏,很多人不會讀,它的拼音【[shāng]】,是指一個封閉系統的混亂程度,今天著重談一下熵[shāng]對我們有什麼啟發的意義。談意義之前,我們要建立對熵的一種認知。舉個例子:比如閱讀一本書,讀完後你還會大概記得這本書講什麼。因為這時大腦裡的神經元層次還留下印跡以及一些不牢靠的組塊。但如果隔了一段時間,可能只需要2周,大腦裡關於這本書的印跡就會變得很淡、模糊、以及一些不牢靠的組塊,這些組塊也開始消失。關於這本書的內容,在大腦裡可以變得混亂。
  • 什麼是熵?據說,能看懂《信條》裡時空逆轉的,都是頭腦王者
    未來人類生活環境劇變,瀕臨滅絕,科學家通過改變「熵」的方向性,製造出逆轉機器——逆轉門,穿越回現代。很多觀眾不懂利用熵增熵減進行時空逆轉的硬核物理學知識,自然也就「。影電懂不看」。那麼「熵」是啥?熵減是如何引起時空逆轉的?不要急,聽我細細道來。
  • 科普,熵到底是什麼?
    這個概念就是熵。 舉個例子一杯冰水和一杯室溫水,哪一個混亂度高 二、熵增現象理解熵 儘管我們還是很難理解熵,不過熵增現象在我們生活中比比皆是。系統由有序轉變為無序被的過程是熵增,比如系的鞋帶會開;家中鋪的很整齊的床單睡過後會變亂...這都是熵增現象。
  • 完美解釋交叉熵
    通過幾個簡單的例子來解釋和總結什麼是交叉熵( Cross Entropy) 以及機器學習分類問題中為什麼使用交叉熵。第一個例子假設隨機從一個口袋裡取硬幣, 口袋裡有一個藍色的, 一個紅色的, 一個綠色的, 一個橘色的。
  • 了解「熵」的概念,環保行動才會更進一步
    在生活中,我們習慣分開擺放純物質,一般認為這樣的安排是「有序的」、「有用的」、「便利的」(大概不願意看到調味架上的糖和鹽被人搗蛋混在一起,對吧?)。此舉背後的科學理由是,因為在混合發生前,熵總是維持在最低的水平,我們仍有選擇,有能力去決定之後如何運用。那,熵是什麼?
  • 熵和負熵到底是什麼意思?
    接下來,我們對生命、熵、負熵以及宇宙這些玄而又玄的概念進行拆解。拆解完了,你也知道這句話到底是什麼意思了。可能比較燒腦,但不至於摸不著頭腦。既然「生命以負熵為生」,那我們也應該讓大腦多汲取一些負熵為食。先說生命,生命到底是什麼?有些事,看著簡單但想起來複雜,而解釋起來更是不知從何說起。所以,生命到底是什麼,你說不清楚,專家也說不清楚。
  • 信息熵是什麼,為啥漢語被稱為信息熵最大的語言?最普及的英語呢
    經過各學者多年的探究和各種語言的統計,得出一個結果,漢語是世界上信息熵最大的語言。那麼這個信息熵是什麼呢?正規一點的來說,信息熵指的就是可能發生的所有事情中所包含的信息的期望值,拿一個比較簡單的例子來說,比如說鳥不能在水中生活,這個違背了自然常理的事情,裡面所包含的信息熵就是零。
  • 講點物理:談談熵 哈利波特的魔法科學
    魔棒一指,就有神奇的事情發生:指著一潭水,潭水立馬結冰;指著一個亂糟糟的房間,房間旋即恢復秩序……散落一地的紙張飛到桌子上,變回一本書;亂扔的衣物跑到衣櫃裡面,疊放得整整齊齊……摔碎的花瓶可以復原,打破的鏡子可以重圓……這些景象,現實世界裡會發生嗎?問題的答案,全在一個「熵」字。什麼是熵?熵是物理學中最重要的概念之一,重要性僅次於能量。熵是度量系統的混亂度。
  • 思維之熵
    很有趣的是,這恰好跟物理學裡的一個概念是對應的:熵。什麼是熵?簡單來說,就是無序程度的度量。熵越高,表示一個系統越混亂、越無序、越不確定。在這個例子裡,就是需要你主動地去收拾它、整理它,亦即注入你的時間、精力,才能使它進行「熵減」 —— 由高熵的無序狀態,回到低熵的有序狀態。生命其實也是如此。我在《感覺人生很艱難,怎麼辦?》裡面,提到過一句話:「絕對的自由也許意味著無序,亦即無限的可能性。
  • 描述混亂程度的物理量 「熵」 究竟是什麼?
    舉幾個例子:一間沒人照料的屋子只會越來越髒,因為在沒有外界參與的情況下,屋子裡的每一粒灰塵總會自發地落到地板上,經日積月累平鋪成一層灰,這些灰塵雖然從概率學上有非常小的熵值自發的全部落在你的垃圾桶裡,但是並最終沒有,它們還是落在了你的地板上,你如果想把它收拾到你想要的狀態,必須吃飽了拿著拖把要忙上半天的時間。
  • 幾乎支撐著科學的半壁江山的「熵」到底是什麼?深入討論熵理論
    為了完全理解熵是什麼,我們需要知道它是從哪裡來的。最早提出熵概念的是拉扎爾·卡諾,他以研究發動機和領導法國革命軍而聞名。拉扎爾對輸入系統的功和輸出系統的功的比較之間的關係非常感興趣。他把輸出的功稱為「有用的功」,而把損失的功稱為「轉換能」。這就是後來的熵。薩迪·卡諾他的兒子(薩迪·卡諾)繼續老卡諾的工作,研究發動機。
  • 熵的世界你不懂?----熵的概念辨析(1)
    (不要給提熵,提起熵,我就傷腦筋,腦子裡的熵就增大了,腦子裡的混亂度增大了,腦子就成漿糊了。傷腦筋。)熵的定義式:這個克勞修斯提出的熱力學狀態函數。克勞修斯在造這個字的時候,就取了「轉化」(tropy,源於希臘文)和「能量」(energy)的組合。
  • 宇宙中的「熵」到底是什麼?又是什麼能量控制著「熵」?
    曾有很多人有過這樣的疑問:「宇宙的終極到底是什麼?」其實沒有人知道,或許是在可觀測宇宙之外還有更大的宇宙。又或許有多元宇宙的存在,還有很多人認為,我們所處的宇宙僅僅是一個小的不能在小的細胞。而人類乃至地球連一個細菌都算不上。但如果按照科學家的理論來講,宇宙的終極或許就是一個叫做「熵」的東西。
  • 熵:傷腦筋的熵-虎嗅網
    第二遍你覺得好像明白了點什麼,這激勵你去學第三遍;第三遍你發現好像又糊塗了,於是你只好學第四遍。等到第四遍,well,你已經習慣了你弄不懂熱力學這個事實了。」 我一向認為笑話也是來自生活的,所以看到這段話我會心一笑。別人怎麼回事我不知道,反正熱力學於我來說大約就是這麼樣的困難。
  • 熵:傷腦筋的熵
    第二遍你覺得好像明白了點什麼,這激勵你去學第三遍;第三遍你發現好像又糊塗了,於是你只好學第四遍。等到第四遍,well,你已經習慣了你弄不懂熱力學這個事實了。」 我一向認為笑話也是來自生活的,所以看到這段話我會心一笑。別人怎麼回事我不知道,反正熱力學於我來說大約就是這麼樣的困難。
  • 能量與熵,孰重,孰輕?
    熵是宇宙中秩序和生命的量度:宇宙有了秩序,才有了生機;宇宙的熵達到最大,其生命走到了盡頭。"01從「小妖工作室」說起這篇文章是要討論能量與熵,分析這兩個概念的區別與聯繫。在自然過程的這個龐大工廠裡,熵原理起著經理的作用,因為它規定了整個企業的經營方式和方法,而能量原理僅僅充當薄記,平衡貸方和借方。」
  • 思維之熵-虎嗅網
    很有趣的是,這恰好跟物理學裡的一個概念是對應的:熵。什麼是熵?簡單來說,就是無序程度的度量。熵越高,表示一個系統越混亂、越無序、越不確定。在這個例子裡,就是需要你主動地去收拾它、整理它,亦即注入你的時間、精力,才能使它進行「熵減」 —— 由高熵的無序狀態,回到低熵的有序狀態。生命其實也是如此。我在《感覺人生很艱難,怎麼辦?》裡面,提到過一句話:「絕對的自由也許意味著無序,亦即無限的可能性。