【基礎物理No.10】走進熵的世界

2021-02-16 天文物理


(以下點擊藍色字體即可進入)

基礎系例說明:啟動|基礎天文|基礎物理|系例科普

第一期:【基礎物理No.1】經典力學之牛頓力學運動定律

第二期:  美到極致|極光之美

第三期:【基礎物理No.3】什麼是光?

第四期:【基礎物理 No.4】萬有引力定律及力學運用

第五期:【基礎物理No.5】質能方程守恆及E=mc²推導

第六期:【基礎物理No.6】從量子論到量子力學

第七期:【基礎物理No.7】懂相對論之從彎曲空間的幾何開始

第八期:【基礎物理No.8】解析千古難題-質量是什麼?

第九期:【基礎物理No.】暗物質和暗能量

由微信公眾號:天文物理

開展的【基礎天文】【基礎物理】兩個基礎系例希望讓大家的認知能更深刻方能更進一步!

好高騖遠可是大忌哦

導讀

關於「熵」相信我們大多數人最早認識它是從高中的時候開始的…

電磁學和熱力學是目前人類研究的最為透徹的兩個物理領域。前者有麥克斯韋方程組描述著所有電磁現象,後者有熱力學三定律約束著一切系統的演化趨勢。不過熱力學在天文當中的貢獻更多一點,科學家們必須依靠這些基本定理來構建恆星的數學模型,從而推導出其一系列我們感興趣的物理量,例如體積、質量、亮度、壽命等等。

儘管如此,這些優雅的理論在宇宙大爆炸的奇點處還是失效了。無限溫度與無限密度的一維點封死了所有科學,禁止任何規則,甚至是空間和時間本身的存在,唯一允許的只有混沌。

今天我們要敘述的,是有關於熵的故事。

熵(Entropy)是一種衡量系統無序度的物理量。

熵的物理學定義:

其中S為熵,Q為熱量,T為溫度。

熵的統計學定義:

其中S為熵,kB為波茲曼常數,Ω為系統的所有可能狀態數量(Multiplicites)。

熵的概念最早起源於物理學,用於度量一個熱力學系統的無序程度。熱力學第二定律,又稱「熵增定律」,表明了在自然過程中,一個孤立系統的總混亂度(即「熵」)不會減小。

在資訊理論中,熵被用來衡量一個隨機變量出現的期望值。它代表了在被接收之前,信號傳輸過程中損失的信息量,又被稱為信息熵。信息熵也稱信源熵、平均自信息量。在1948年,克勞德·艾爾伍德·香農將熱力學的熵,引入到資訊理論(本文各方面均有解析)

在經典熱力學中,可用增量定義為 可逆 ,式中T為物質的熱力學溫度;dQ為熵增過程中加入物質的熱量,下標「可逆」表示加熱過程所引起的變化過程是可逆的。若過程是不可逆的,則dS>(dQ/T)不可逆。

單位質量物質的熵稱為比熵,記為S。熵最初是根據熱力學第二定律引出的一個反映自發過程不可逆性的物質狀態參量。熱力學第二定律是根據大量觀察結果總結出來的規律,有下述表述方式:

①熱量總是從高溫物體傳到低溫物體,不可能作相反的傳遞而不引起其他的變化;

②功可以全部轉化為熱,但任何熱機不能全部地,連續不斷地把所接受的熱量轉變為功(即無法製造第二類永動機);

③在孤立系統中,實際發生過程,總使整個系統的熵值增大,此即熵增原理。摩擦使一部分機械能不可逆地轉變為熱,使熵增加。熱量dQ 由高溫(T1)物體傳至低溫(T2)物體,高溫物體的熵減少dS1=dQ/T1,低溫物體的熵增加dS2=dQ/T2,把兩個物體合起來當成一個系統來看,熵的變化是dS=dS2-dS1>0,即熵是增加的(此處來源百度百科)

我們用熵來描述一個系統是更有序的,還是更無序的。比如,一個處女座的房間,就是低熵的……


人們可以證明,在沒有外界做功的前提下,系統在演化時熵總是遞增。也就是說,大自然總是變得越來越無序化。

舉一些簡單的例子:

你的房間總是越來越亂。

完好的杯子可能會因為偶然而摔碎,碎掉的杯子卻不會因為偶然而拼好。

需要不斷的打掃,才能使一個地方保持乾淨。

 

其實這就是著名的熱力學第二定律:

在任何封閉系統中,熵增總是非負。

——魯道夫·克勞修斯,1855年提出

這條定律可以從兩個方面來理解。

熱力學解釋:

無論如何節約,能量損耗總是存在。所以,每當能量被轉換時,會有一定比例變成熱能消散在空間中,成為無法再被利用的能量,並且這個過程是不可逆的。

考慮一條簡單的食物鏈:

小草—蟋蟀—杜鵑鳥—樹蛇—鷹。

該生物鏈中能量總量保持不變,但每個生物個體總是不斷向環境放熱,導致可以被利用的能量不斷衰減。最後鷹獲得的能量還不到當初小草獲得太陽能的0.1%。

統計學解釋:

系統總是向最可能的狀態演化。而所有可能的狀態中,有序的狀態總是佔少數,無序的狀態佔多數,所以系統會變得越來越無序。

1,2,3,4,5這五個數字排序,總共有120種排列組合的方法。如果把從小到大或從大到小看成是有序的,只有兩種。而剩下的118種,全是無序的。一個簡單系統中的原子數通常達到億億億數量級,在這種情況下系統演化成有序狀態的概率無限趨近於零。

在發現了這條宇宙真理後,物理學家們的腦洞就止不住了,紛紛開始提出奇葩觀點:

 

熱寂(Heat Death) 假說

    宇宙是一個封閉系統,熵總是不斷增加。存在一個時間點,使得宇宙的熵增大到最大值;在這時,宇宙停止演化,能量不再流動,所有的恆星全部死亡,沒有能量來源也沒有能量消耗,因為所有的能量都被轉化成了不可被利用的無序熱能。這是萬物之終焉,宇宙不可避免的宿命。

時間箭頭(Arrow of Time) 假說

    霍金在《時間簡史》中描繪了三個時間箭頭:熱力學時間箭頭,心理學時間箭頭,宇宙學時間箭頭。分別定義如下:熱力學中,熵總是隨時間增加而增加;心理學中,我們總是感到時間在流逝而不是倒退,事件之間存在「因果」關係而不是「果因」關係;宇宙學中,我們的宇宙在膨脹而不是收縮。該課題在理論物理學中非常熱門,因為在目前的理論框架下,似乎後兩者是由前者決定的。也就是說,熱力學時間箭頭是主導箭頭,其方向決定了後兩者。比如,如果熵是隨時間增加而減少的話,那很有可能心理學和宇宙學上的時間箭頭也會因此反向——生命從死亡開始,在出生結束;先有果,後有因;而宇宙誕生於一個巨大的開端(無法確定是不是無限),不斷收縮,直到坍塌成一個奇點。

    感興趣的同學可以在維基上搜索「時間箭頭」這個詞條,有許許多多值得探索的知識哦。

1948年,資訊理論的奠基人Claude Shannon首次提出信息熵的概念。

每種語言中的字母都有無數種排列組合的可能;但是只有按特定順序組合時,才具有意義。比如supercalifragilisticexpialidocious這個單詞在英語中意為「快樂的」,但是這一串字母按其他方式排列時都是無意義的亂碼。當我們在學習一個單詞的時候,我們的大腦在嘗試將這個排列組合記住,這增加了我們認知中的有序度,使我們的熵降低了。不過熱力學第二定律在此處仍然適用,因為作為等價交換我們的大腦需要消耗一些能量,而我們則需要靠進食來給大腦供能。大腦在使用這些能量時並不是百分百利用的,總有一部分被轉化成了熱量,隨後被我們身體排出,於是宇宙中的熵增加了。

「Nullstelle」是一個德語單詞,意為「零」。

如果你記住了這個單詞,你大腦中的有序度大約增加了50個單位。假設你每徹底記住10個這樣的單詞需要消耗掉一個蘋果的能量(大約52卡路裡),這些能量被你的身體所消耗並排放到周圍的空氣中成為不可被利用的無序熱能,那麼宇宙中的熵便增加了1億億億個單位。所以,無序度增加是有序度增加的20萬億億倍(2後面跟21個零)。

這比買賣可真不合算。

所以……背單詞是不對的哦😂。

同理,像學習、收拾房間等,在熵增定律的約束下,任何試圖增加有序度的活動都會對宇宙造成負反饋,反向加速宇宙中熵的累加過程,從而使宇宙更快達到熱寂時間點。


    薛丁格在《生命是什麼》一書中提出,生命是一種低熵形態。人類的社會系統是一個高度複雜的有序體,熵極低。要想在中生存,我們必須從出生開始就學習大量規則。無論是我們發明的各種各樣的工具,還是建起的零次櫛比的摩天大廈,都可以作為典型的低熵例子,因為自然不可能演化出這樣的物體。同時,這也是很好區分自然造物與人造物最簡單的方式。

    其他生物也有諸如此類的社會系統,例如螞蟻會在地下搭建錯綜複雜的蟻穴,狼群中存在著分明的階級制度。從某種程度上來說,由於人類構建的社會體系相較其他生物來說遠複雜得多,所以人具有更低的熵。所以,生物熵也是對文明程度的一種衡量。

    最早的單細胞生物結構十分簡單,生活無序度非常高。而一般的哺乳類動物都有10萬億個細胞以上,這些細胞可以組成的排列組合總數是一個巨大無比的數(10萬億的階乘),如果要把這個數用12號標準字體寫下來,可以從地球一直寫到月亮上去。在這麼多種可能性中,只有為數不多的幾種可以讓機體存活下來,稍有變動就會出現致命的疾病或功能障礙。所以,越複雜的物種熵越低。

    有趣的是,生物熵的時間箭頭是反的。

    隨著文明的不斷發展,我們學會了越來越多的知識,建造了越來越多複雜的物體,整體熵降的越來越低。所以,生命的進化是一種有序化的過程,這違背了熵增定律——大自然總是趨向於變得更無序,而不是更有序。

    所以,人真的能與自然和諧相處嗎?道不同不相為謀,為什麼大自然母親會有著一個與我們相悖的內在規律?

    誰也不知道答案,這世界上總是有許多謎題還未被解開呢。

——文/Johnny.Lyu/UA天文/天文物理

於文末留言評論、建議、發表觀點等



本文由「天文物理」載享推薦且有一定學習或參考價值、但其最終內容真實性自負。版權聲明:「天文物理」刊載此文,僅為傳遞更多信息之目的,文章版權歸原作者或媒體所有。本平臺文章內容來源於網絡且廣泛…如若無意侵犯了你的權益請及時聯繫郵箱:bokeyuan@vip.qq.com  天文物理 將及時完善著權信息或刪除等。

相關焦點

  • 熵的世界你不懂?----熵的概念辨析(1)
    熵,--一個難以理解和應用的概念。(不要給提熵,提起熵,我就傷腦筋,腦子裡的熵就增大了,腦子裡的混亂度增大了,腦子就成漿糊了。
  • 耶魯公開課丨《基礎物理》:耶魯「高分」教授帶你感受物理之美
    本周,我們給大家介紹的便是耶魯公開課中因為廣受歡迎而成為首個被錄製的理科課程——《基礎物理》。如果你走進課堂聽到教授說著「beautiful」(美麗的),「elegant」(優美的),「awe-inspiring」(令人驚嘆的)這樣的詞,你恐怕會認為這是一節音樂或是詩歌賞析課。
  • 熵:傷腦筋的熵|賢說八道
    [10])。不過,這裡有個誤解。用在這裡的W是德語概率Wahrsheinlichkeit的首字母,狀態數和某個狀態出現的概率是倒數關係,故此公式中的W是理解為狀態數還是概率問題不是太大,只相差一個負號。後來出現的吉布斯(J. Williard Gibbs)熵、香農(Claude Shannon)的信息熵 (見下文),其定義都是基於概率的概念,所以都有一個負號。
  • 熵:傷腦筋的熵-虎嗅網
    溫度一般會被混同於冷熱的感覺,溫度的概念比熵出現得早,但並不是說溫度就比熵是更基本的。人們之所以把熱力學性質看成是物理性質對溫度的依賴而不是表達成同熵的關聯,筆者揣測是因為人們還不習慣於面對熵這樣的emergent的概念 。熵是一個非常獨特的概念,就不易理解和容易誤解這兩點來說,在整個物理學領域,熵都是鮮有其匹的一個詞。
  • 到底什麼是「熵」?----熵的概念辨析(5)
    到底什麼是「熵」? 以前的介紹:熵的世界你不懂?----熵的概念辨析(1)熵(傷)腦筋?
  • 熵:傷腦筋的熵_湃客_澎湃新聞-The Paper
    for the system.[10])。這個公式公開幾天之後, Kurlbaum就得出了h=6.65×10-34Js。這時的 「h」 就是一個常數,它的量子力學意義是後來被賦予的。注意,公式(3)同現在的黑體輻射公式相差一個常數2,因為那時人們沒認識到光子有自旋,更不理解光子的自旋為1為什麼意味著存在兩種(左旋和右旋)而不是三種模式。有趣的是,1924年,玻色(S. N.
  • 小孩都看得懂的熵、交叉熵和 KL 散度
    它們具有不同的熵值:現在你大體有個感覺,越不穩定的東西具有的熵值越大。世界處處充滿不確定性,從不確定到確定肯定是得到了額外的信息。比如 01101110 就可以解碼成 01-10-11-10,簡單。主題:複習一下熵現在我們知道最優編碼長度就是熵(通常上面一節解釋,希望現在可以秒懂熵的公式)。
  • 漫談熵
    作者:苗兵 (中國科學院大學 材料科學與光電技術學院)摘要   熵是物理中的一個既重要又微妙的概念。文章從物理學引入熵談起,依次討論熵與熱力學第二定律、熵的統計力學定義、熵增與基礎物理理論的矛盾,以及時間箭頭與玻爾茲曼大腦,最後介紹著名的黑洞熵。
  • 信息熵≠信息量 輕鬆讀懂什麼是信息熵
    熱力學的熵,講的是系統的混亂程度,信息熵也是如此,越是看上去雜亂無章的消息,信息熵越高。事實上,這是同一個問題,熱力學中,要想減少系統的熵,就要從外部輸入可用能量。在資訊理論中,一條外部輸入的、確定的信息會減少系統內由所有可能信息組成的集合的熵。熱力學的熵和資訊理論的熵,它們也有不同之處。
  • 熵:宇宙的終極規則
    那時,我已經工作好幾年了,偶然在圖書館翻到一本舊書《熵:一種新的世界觀》(上海譯文出版社,1987)。那本書是科普著作,介紹物理學概念「熵」。中學畢業後,我再沒有碰過物理學,但是沒想到讀完以後,我看待世界的眼光都變了。「熵」這個概念非常簡單,很容易理解,但又異常強大,可以解釋很多事情。這篇文章,我就來談談,為什麼你應該懂得熵是什麼,它可能也會改變你的世界觀。
  • 熵、交叉熵和KL散度的基本概念和交叉熵損失函數的通俗介紹
    但是,由於當今龐大的庫和框架的存在以及它們的易用性,我們中的大多數人常常在不了解熵的核心概念的情況下著手解決問題。所以,在這篇文章中,讓我們看看熵背後的基本概念,把它與交叉熵和KL散度聯繫起來。我們還將查看一個使用損失函數作為交叉熵的分類問題的示例。什麼是熵?
  • 熵、交叉熵和散度,這是一篇最純碎的理解!
    世界處處充滿不確定性,從不確定到確定肯定是得到了額外的信息。從計算機專業術語來講,比特(BIT, Binary Digit)是衡量信息的單位。 其實我們做法很簡單,就對於頻率高的動作(三分),我們用短編碼(0)對於頻率低的動作(兩分),我們用短編碼(111)因此上面上籃三分灌籃三分的編碼為 10 0 111 100。
  • 思維之熵
    很有趣的是,這恰好跟物理學裡的一個概念是對應的:熵。什麼是熵?簡單來說,就是無序程度的度量。熵越高,表示一個系統越混亂、越無序、越不確定。在這個例子中,前者就是一個高熵的狀態,而後者就是一個低熵的狀態。熱力學第二定律告訴我們:一個孤立系統,總是傾向於由低熵狀態向高熵狀態演化。因為高熵狀態從概率上是「更可能」出現的,而低熵狀態是「更不可能」出現的。這就是大家耳熟能詳的「熵增」定律。
  • etv全球熵—全球熵etv中國區啟航系統
    etv全球熵是什麼?etv全球熵採用的原理和規律是怎麼樣的?全球熵這個概念,全球熵etv是經過了美國熵變實驗室研究了6年,持續不斷探索、持續尋找熵增規律,才最終創造性地提出了這一熵變理論。而etv全球熵通過2年的探索和設計,才藉助熵變理論,打造出了etv全球熵變價值平臺。  etv全球熵是居於區塊鏈技術的,全部符合區塊鏈技術的各種特點、優勢。
  • 宇宙是熵增的,為何會出現熵減的人類?科學家的懷疑或許是對的
    回顧人類發展歷程能夠發現,「科學技術」是最重要的生產力,它讓人類擺脫了茹毛飲血的原始狀態,為建立文明提供了契機、給文明的發展指明了方向,同時也是人類改造世界的基礎。
  • 諾蘭《信條》:新奇的熵減世界,深刻的倫理擔憂
    一個熵減世界,一個倫理困境。看諾蘭的新電影《信條》,欣賞他構想的這個熵減世界,實際上,你需要準備兩點:1、對熱力學第二定律有個基本的了解;2、對諾蘭的敘事風格有個基本的了解。這就夠了,再多便庸人自擾。視角先拉到評述類型電影的高度。很多科研突破,都會帶來倫理擔憂。
  • 全球熵etv(etv全球熵)啟航系統全面解讀商業模型
    ETV全球熵變模式制度講解全球熵etv是由美國熵變實驗室通過6年的持續研究,探索熵增規律,創造性地 提出熵變理論,通過系統性的不間斷幹預減緩熵增速度。etv全球熵恆量3100 萬熵值。初始循環39 萬熵值,原始價格1美金。etv全球熵熵值根據熵數能量螺旋式上升,增值空間無限。
  • 幾乎支撐著科學的半壁江山的「熵」到底是什麼?深入討論熵理論
    為了完全理解熵是什麼,我們需要知道它是從哪裡來的。最早提出熵概念的是拉扎爾·卡諾,他以研究發動機和領導法國革命軍而聞名。拉扎爾對輸入系統的功和輸出系統的功的比較之間的關係非常感興趣。他把輸出的功稱為「有用的功」,而把損失的功稱為「轉換能」。這就是後來的熵。
  • 信息熵是什麼,為啥漢語被稱為信息熵最大的語言?最普及的英語呢
    中國的歷史是世界上不可否認的最豐富的一種文化,而且關於對歷史的研究,中國敢說是最強的。經過各學者多年的探究和各種語言的統計,得出一個結果,漢語是世界上信息熵最大的語言。那麼這個信息熵是什麼呢?正規一點的來說,信息熵指的就是可能發生的所有事情中所包含的信息的期望值,拿一個比較簡單的例子來說,比如說鳥不能在水中生活,這個違背了自然常理的事情,裡面所包含的信息熵就是零。
  • 完美解釋交叉熵
    通過幾個簡單的例子來解釋和總結什麼是交叉熵( Cross Entropy) 以及機器學習分類問題中為什麼使用交叉熵。其中2是這個方案中的交叉熵。而最優方案的交叉熵是1.75。給定一個策略, 交叉熵就是在該策略下猜中顏色所需要的問題的期望值。更普遍的說,交叉熵用來衡量在給定的真實分布下,使用非真實分布所指定的策略消除系統的不確定性所需要付出成本的大小。交叉的字面意思在於:真實分布與非真實分布的交叉。給定一個方案, 越優的策略, 最終的交叉熵越低。