資訊理論:新帝國的「理論基石」
資訊理論包括兩大定律:
1.香農第一定律,即信源編碼定律。
2.香農第二定律,即香農公式。
1948年,在劃時代論文《通信的數學原理》中,正是這篇「20世紀最重要的碩士論文」,標誌著資訊理論的誕生,直接炸出了一個新的學科:信息學。這個世界所有的信息都可以用0和1來表示,香農帶領人類從工業時代進入了資訊時代。
香農提出了「比特」和「信息熵」的概念。
比特是香農自創用來測量信息的單位,現已躋身於公尺、千克、分鐘之列,成為了日常生活中最常見的量綱之一,是計算機最小的數據單位。
例如「香農真的好牛逼」這七個漢字一共是112bits,一個漢字兩個字節,一個字節8bits,總共就是7*2*8bits。
「信息熵」則是香農從熱力學中偷過來用的,專門用於描述信源的不確定度,是消除不確定性所需信息量的度量。公式表示如下:
這個公式不在這裡具體展開,「信息學」專業同學曾經被它反覆虐過,這裡不再勾起傷心往事。
關於信息熵的公式,物理學家張首晟曾經感慨:這個公式雖然不像E=mc2那麼知名,但人類知識往前推進,牛頓力學可能不對,量子力學可能不對,相對論可能也不對,而信息熵公式卻是永恆的。
定義以上信息之後,香農提出「信息學」的兩大定律:
香農第一定律叫做信源編碼定律,簡單講就是教會人類如何用數學方式將「信息」編碼。
香農第二定律描述了一個信道中的極限信息傳輸率和該信道能力,這是現代通信的「金科玉律」。
香農的資訊理論在新時代掀起了一場信息革命,一個新帝國正以前所未有的速度崛起。
什麼是「香農公式」?
敲黑板,劃重點,談談「香農公式」。
1948年,香農提出的信息熵,解決了電報、電話、無線電等如何計量信號信息量的問題。
但怎麼在遠距離通信中進一步提高信道容量?也就是信息傳送速率上限,即「香農極限」。
這是個令人捉急的煩惱,不能一輩子總是只發幾個字的電報吧。
但信息這玩意兒無質無量,誰知道到底是什麼在影響它的速率呢?
這就是高手存在的意義。香農給出了信道容量公式,也就是「香農公式」,這使得至今幾乎所有的現代通信理論都是基於這個公式展開。其數學表達式為:
其中:C為信息速率的極限值;B為信道帶寬(Hz);S為信號功率(W);N為噪聲功率(W);S/N表示信噪比。
我們可以簡單地把信息通道看作是城市道路,那麼在這條道路上的單位時間內的車流量就受到道路寬度和車輛速度等因素的制約,在這些特定製約條件下,單位時間內最大車流量就被稱為極限值。而根據香農定理,由於受到一些固有規律的制約,任何信道都不能無限增加信息傳送的速率。
從香農公式中我們可以看出,想要提高信息的傳送速率關鍵在於提高信噪比和帶寬。
同時,C一定時,B與S/N可以互換,即帶寬和信噪比可以互相交換,也就是說,在傳輸速度不變的情況下,提高帶寬可以容忍更低的信噪比,反之亦然。帶寬和信噪比的互換是擴頻通信的理論基石,通過增加帶寬,我們甚至可以輕鬆應對小於0的信噪比。
香農公式雖然總共才112bits,卻是「資訊時代」的極簡《聖經》。
它是現代「信息革命」必須遵循的基本原理,也是「數字通訊時代」不可逾越的底線。
造物主就是這樣,世界很簡單,原則就兩條,你們自己玩去吧。
資訊時代:在「香農公式」中追逐極限
香農到牆角玩自己的雜耍去了,而全世界為他的公式瘋狂。
從1G至2G至3G至4G,甚至到5G的通信變更,全世界一流的通信運營商和生廠商也一直廢寢忘食地追逐著香農極限。
在這期間,以香農公式為通信理論之基,通過不斷革新技術,提高信噪比,增加帶寬,我們也經歷了大約每十年就發生一場時代劇變的移動通信技術演進史(如圖14-3所示),生活也因此而瞬息萬變。
圖14-3
1986年左右,依託著頻分多址(FDMA)技術,1G時代崛起,生活在信息依靠模擬信號傳遞的世界,我們手拿高昂的「大哥大」,躲在牆角裡,四處尋找能聽得清楚對方講話的最佳方位。
1995年左右,揮別1G,時分多址(TDMA)技術使我們進入到了2G世界,諾基亞7110開啟了人類手機上網的時代,也開啟了160字長度的簡訊來回傳遞的甜蜜夜生活,數字行動電話逐漸取代模擬行動電話,一代巨頭摩託羅拉也就此走下神壇。
2007年左右,碼分多址(CDMA)技術大行其道,伴隨著智慧型手機iPhone的出臺,3G網絡火了起來,手機APP生態系統開始建立,賈伯斯手握觸控式屏幕的蘋果一舉成功打敗了按鍵盤的諾基亞。
2013年左右,正交頻分多址(OFDMA)技術引發變局,4G以更高速的上網速度開創了移動網際網路時代。我們用微信語音聊天,通過支付寶掃碼付款,看抖音短視頻消遣娛樂,手機已成為我們生活中不可或缺的一部分。
短短幾十年,依託著香農定理建立起來的通信技術和系統,無時無刻不在以更快的速度推進時代進程。如圖14-4,2G實現從1G的模擬時代走向數字時代,3G實現從2G語音時代走向數據時代,現在,4G又開始要從移動互聯時代向5G萬物互聯時代邁進。
圖14-4
速度越來越迅猛,改變越來越劇烈,在更大的帶寬,更高的傳輸速率之下,收穫的是不僅是更低的通訊資費,而是更便捷的生活方式,以及更高效的生產效率。
那即將到來的5G又會給我們的生活帶來怎樣的改變?它有以下3個基本特點:
1.eMBB大帶寬:下載速率理論值將達到每秒10GB,將是當前4G上網速率的10倍。
2.uRLLC低延時:5G的理論延時是1ms,是4G延時的幾十分之一,基本達到了準實時的水平。
3.mMTC廣聯接:5G單通信小區可以連接的物聯網終端數量理論值將達到百萬級別,是4G的十倍以上。
屆時,VR/AR、自動駕駛等應用躍躍欲試,5G又是否會迎來人與物、物與物之間的通信,實現萬物互聯?
答案未知。也有聲音說別狂吹5G了,但無疑如何,新的一輪信息技術革命已即將來臨。
不過,這一切,仍然在「香農公式」的指掌之間。
與E=mc2比肩的香農公式
人類文明史上有許多讓人為之魂牽夢繞的公式。
它們有的簡潔美豔不可方物,有的高深莫測讓人膜拜。
但從實用層面來講,香農公式至少可以排在前5位,它的偉大程度可以與愛因斯坦的E=mc2相提並論。
無論是1G、2G、3G,還是4G、5G,甚至是未來的6G、7G,萬變不離其宗,全部都是在香農公式中尋找力量。大衛·福爾內曾稱讚:「香農重新建造了一個全新的世界,從宙斯的額頭開始」。
人類從狼煙烽火到郵政印刷,從電報廣播到網絡通信,這是技術的進步,是超越國家主權的物理存在。這種榮耀不僅僅屬於一個公司,一個國家,也屬於全人類,它最終惠及所有人。
沒有哪個國家永遠是第一的。中美歐在通訊標準上的「皇帝輪流做,明年到我家」,已經說明了這一點。
所以,在這樣的技術問題上,儘量避免動輒用「中美主宰」「技術霸權」這樣的字眼,真正的較量應該用在技術的研發和對未來的思考上。
如果真要談誰是5G的主宰,那它只能是「香農公式」。(作者:李卍)