天才是如何解決問題的——以資訊理論的創始人香農為例

2020-12-04 說些話讀寫書

克勞德·香農是美國數學家、電子工程師和密碼學家,被譽為資訊理論的創始人。不僅如此,香農還被認為是數字計算機理論和數字電路設計理論的創始人。

克勞德·香農花了大約十年的時間才完全形成了他開創性的信息理論。

他最初的想法是在研究生院為他那個時代的許多信息技術(如電話、收音機和電視)建立一個共同的基礎。

然而,直到1948年,他才發表了一篇關於溝通的數學理論。

不過,這並不是他唯一的重大貢獻。作為麻省理工學院(MIT)的學生,21 歲的他發表了一篇論文,許多人認為這可能是本世紀最重要的碩士論文。

對於普通人來說,這可能沒什麼意義。他並不是一個家喻戶曉的名字。但是如果沒有香農的工作,我們認為的現代計算機可能就不存在了。他的影響是巨大的,不僅在計算機科學,而且在物理和工程。

「天才」這個詞是隨便說出來的,但很少有人真正配得上這樣的稱號。香農是少有的能配得上這個稱號的人之一。他的想法不同,他的想法很有趣。

然而,這種天才背後的一個微妙原因是他處理問題的方式。他不僅提出了一個問題,然後尋找答案,而且在制定過程中,他在方法論上幫助他超越眼前的事物。

他的問題不同於我們要處理的許多問題,但處理問題的方式是通用的,這種方式可以幫助我們更清晰地思考。

所有的問題都有一個形狀和一個形式。要解出它們,我們必須先理解它們。

1. 在填充細節之前構建一個核心

我們每個人都知道得到答案的重要性,但我們很多人都忽略了一個問題的重要性,即以一種我們可以得到答案的方式來提問是多麼重要。

我們很快就會從一個細節跳到另一個細節,希望它們最終能聯繫起來,而不是把精力集中在對我們所從事的工作產生一種直覺上。

這就是香農反其道而行之處。事實上,正如他的傳記作者在書中所指出的那樣,他這樣做的程度之深,以至於一些當代數學家認為,他在構建一個連貫的圖景時,並沒有像他那樣嚴謹。他們當然想知道細節。

然而,香農的推理是,直到你從你正在處理的問題中消除了不必要的東西,你才能看到引導你找到答案的核心。

事實上,當你達到這樣一個核心的時候,你可能已經意識不到這個問題了,這說明了在你追求細節之前先了解全局是多麼的重要。否則,你就會開始把自己指向錯誤的方向。

細節是重要和有用的。實際上,許多細節相對於它們的表現來說,是不成比例的重要和有用的。但同樣有許多無用的細節。

如果你找不到問題的核心,你會從所有錯誤的細節開始,這會鼓勵你添加更多錯誤的細節,直到你陷入困境。

從剔除那些不重要的東西開始,你要如何訓練自己去看那些不重要的東西所造成的迷霧背後。那是你找到問題的核心的時候。

找到問題的真正形式幾乎和答案一樣重要。

2. 利用重組和對比

1952 年,在貝爾實驗室(Bell Labs)向他的同時代人發表的演講中,香農一頭扎進了他是如何在處理讓他有事可做的事情時,讓自己的大腦啟動創造性思維的。

除了簡化和尋找核心之外,他還提出了其他一些建議——這些建議表面上看起來可能沒有什麼不同,但對於不同的思維來說卻是至關重要的。

通常,當我們花了很多時間思考一個問題時,我們會創造出一個隧道式的視野,嚴格地指導我們沿著一條單一的道路前進。邏輯思維從一個點開始,建立合理的聯繫,如果做得好,每次都能通向同一個地方。

創造性思維有點不同。它也產生了聯繫,但這些聯繫不那麼合乎邏輯,更多的是偶然的,允許我們認為是新的思維模式。

香農的慣用伎倆之一就是儘可能多地重組和對比問題。這可能意味著誇大它,最小化它,改變它的表述方式,從它被觀察的角度重新定義它,並將它倒置。

這個練習的目的只是為了更全面地了解到底發生了什麼。

我們的大腦很容易陷入思維循環,打破這些思維循環的最好方法就是改變參考點。我們並沒有改變我們對問題的直覺理解或者我們已經確定的核心,只是改變了它的表達方式。

例如,我們可以問:解決這個問題的最好方法是什麼?但我們也可以問:解決這個問題最糟糕的方法是什麼?每一個都包含知識,我們應該對兩者進行剖析。

正如問題有形式一樣,它也有很多形式。不同的形狀代表不同的真理。

3. 將每一種的本質相乘

雖然關注創意的質量很重要,但考慮創意的數量也同樣重要。不只是關於總數,還有如何得到這些數。

要解決一個問題,你必須有一個好主意。反過來,要想有一個好主意,通常情況下你必須先經歷很多壞主意。然而,即便如此,把任何東西都扔到牆上並不是這樣做的。事情遠不止於此。

在第二次世界大戰期間,香農遇到了另一位計算機科學先驅艾倫·圖靈。圖靈在美國的時候,他們幾乎每天都喝茶。多年來,他們一直保持著聯繫,兩人都尊重對方的想法,喜歡他的陪伴。

在討論他認為什麼是天才時,香農用圖靈與他分享的一個類比,從中推斷出一個微妙的觀察。用他自己的話說:

「有些人,如果你向大腦中注入一個想法,你就會得到半個想法。還有一些人已經超越了這一階段他們對每一個想法都有兩個想法」

他謙卑地否認自己屬於後一類人,而是把像牛頓這樣的人放在那裡。但如果我們看得更遠,我們就能看到其中的奧妙。不僅僅是數量。

每一個輸入都有一個特定的本質在它的核心,傳達一個隱藏在表面背後的真相。這個真理是許多不同問題的許多不同解決方案的基礎。

我想,香農想要表達的是,產生好的想法就是要善於將每一個輸入的本質相乘。如果你把本質弄錯了,可能會產生不好的想法,但你越能發現它,你就能更有效地發現洞察力。

將你的想法的輸出加倍是第一步,但是抓住本質是不同的。

4. 你需要知道的

生活的大部分時間——無論是在你的工作中,還是在你的人際關係中,或者是在你的幸福中——都可以歸結為識別和解決問題,這樣你就可以克服它。

香農也許是一個有著獨特思維的天才,但他使用的過程對我們任何人來說都不是遙不可及的。他的力量在於這個過程和它的應用。

好的解決問題能力是批判性思維和創造性思維的產物。最好的方法是將它們結合在一起,讓它們各自發光發亮。

思維模式塑造我們的思維。我們的目標是擁有正確的思維模式。

相關焦點

  • 資訊理論創始人克勞德·香農:真正的天才是如何思考的?
    編者按:克勞德·香農(Claude Shannon),美國數學家、電子工程師和密碼學家,被譽為資訊理論的創始人。1948年,香農發表了劃時代的論文《通信的數學原理》,奠定了現代資訊理論的基礎。不僅如此,香農還被認為是數字計算機理論和數字電路設計理論的創始人,也為軍事領域的密碼分析, 包括密碼破譯和保密通信,做出了很大貢獻。
  • 資訊理論之父——克勞德·香農 | 致敬先驅
    如日中天的人工智慧正在或即將引爆整個世界,而那些在上個世紀就預知到人工智慧的未來的先知們,雖然早就在歲月的漩渦裡消失不見,但他們的天才般的智慧和意義非常的碩果,卻將被後人們萬世傳承、永遠銘記。1940年,香農博士畢業後曾在普林斯頓高等研究院工作過一年,和馮·諾伊曼有過不少的交流。「熵」(entropy)是香農創立的資訊理論中最核心的概念,代表了一個系統的內在的混亂程度。香農本來打算用「不確定性」(uncertainty)來表達這個概念,當他和馮·諾伊曼討論這個問題時,馮·諾伊曼對香農建議說:「你應該把它稱之為『熵』。」
  • 信息價值最大化:香農《資訊理論》的生活意義
    一段信息所包含的信息量不僅僅由信息的長短來決定,還決定於這信息克服了多少不確定性。克服的不確定性越大說明得到的信息越有價值。香農的《資訊理論》信息熵熵——物理上表示一個系統混亂的程度,物體越不穩定,熵越值大。而信息熵相似的表示信息中字符的不可預測程度,信息熵越大——可供選擇的範圍越廣,選擇的信息量就越大。這可以是好處,你可以得到更多內容。
  • 天才VS頑童,帶你走近克勞德·香農
    他的頭銜好像太多了:美國數學家、密碼學家、資訊理論創始人、雜耍學博士……沒錯!香農就是這樣一個集英俊與才華於一身的男子,妥妥的別人家的孩子,那麼今天就讓我們來看看香農和他的遊戲人生吧!(2019華南理工大學)簡述香農韋弗模式的運作方式,意義以及缺陷(2019陝西師範大學)香農韋弗數學傳播模式理論(2018安徽大學)香農韋弗模式(2018湖南師範大學)香農韋弗模式的貢獻我們都知道傳播學是一個多學科交叉的領域,其實,除了大家都熟悉的數學模式,香農定理及其資訊理論還在很多方面為傳播學的發展奠定了基礎。
  • 坤鵬論:香農說,信息是能夠用來消除不確定性的東西
    另外,在香農的資訊理論中,除了關於信息壓縮的理論外,還提出了用重複的方式增加一定冗餘來增強抗噪聲的能力。抗幹擾是信道編碼的基本目的,重複是信道編碼的基本方法。而如何重複,就是信道編碼研究的重點。香農對此的貢獻非常重大。
  • 克勞德·香農:看我如何發明未來
    【導讀】克勞德·艾爾伍德·香農,美國數學家、電子工程師和密碼學家,被譽為資訊理論的創始人。他發表了劃時代的論文——通信的數學原理,奠定了現代資訊理論的基礎。不僅如此,香農還被認為是數字計算機理論和數字電路設計理論的創始人。他不曾捧起過一座諾貝爾獎盃。他的名字也不曾如愛因斯坦、費曼般如雷貫耳,無論是生前死後。
  • 誰是第一個研究信息的科學家?看資訊理論之父香農的偉大人生
    Shannon),我們現在尊稱他是資訊理論之父。通訊問題不容易解決假如現在出現了一個傳感器控制器通訊的問題,請注意這個通訊問題並不是每次都有,十次有一兩次,你可以認為這是偶爾發生的,但是卻必須要找出原因。
  • 看這位跨界的天才,如何為我們描繪未來
    認真閱讀下面的文章,並思考文末互動提出的問題,嚴格按照 互動:你的答案格式在評論區留言,就有機會獲得由人民郵電出版社提供的優質科普書籍《數學之旅》一本。有了這位孤獨的天才的突破性工作,如今的資訊時代才成為了可能01 香農其人科學尋求自然的基本定律,數學則在舊基礎上構造新的定理,而工程學建造系統來解決人類的需求。
  • 後香農時代信息產業發展面臨的十大挑戰數學問題
    後香農時代的通信技術會如何發展?又有哪些值得業界關注的數學問題呢?在上月底結束的長沙「數學促進企業創新發展論壇」上,華為董事、戰略研究院院長徐文偉拋出了後香農時代信息產業發展面臨的了十大挑戰數學問題。 提到香農定理,通信領域的小夥伴應該是非常熟悉的了,可稱得上是該領域的「金科玉律」。1948 年,香農博士在《通信的數學原理》一書中提出了這一著名的定理。
  • 信息熵是怎樣煉成的 | 紀念資訊理論之父香農
    撰文 | 丁玖(南密西西比大學數學教授)紀念"資訊理論之父"香農的最好方式,莫過於重溫一下他怎樣定義信息熵的數學思想,去理解現代資訊理論這個基本概念——僅用初等代數即可推導,令人賞心悅目,流連忘返!確定性過程在數學裡是司空見慣的現象。
  • 香農定律:新帝國的基石,資訊時代規則的制定者,5G幕後的大Boss
    而第三次信息革命,則是香農提出的香農定律吹響了變革的號角。從 1948 年,香農定律的提出,標準著資訊理論的建立,美國之所以能夠對全球經濟具有話語權,除了是因為強大的軍事能力之外,還仰賴於香農定律構建的全球技術標準,讓美國成為新帝國的壟斷者。
  • 「資訊理論之父」——克勞德·香農是如何創造未來的
    因此,很少有人能夠同時為這三個學科做出重大貢獻,而克勞德·香農(Claude Shannon)就是其中之一。你可能從未聽過Claude Shannon這個名字,但我們現在所處的信息化時代背後的整個通信基礎架構,正是基於他七十多年前發表的一篇富有開創性的論文。1916年,Shannon在密西根州出生,他的父母是當地的商人和教師。
  • 「資訊時代之父」香農:用一隻木老鼠奠定人工智慧的基礎
    香農在鏡頭裡告訴觀眾,「解決一個問題並記住解決方案,涉及到一定程度的心智活動,這已經有點類似大腦了。」對於美國觀眾,「忒修斯」幾乎被驚為天物:這簡直就是一臺能夠思考的機器! 這隻木老鼠以及整個迷宮系統,是香農和他的妻子花了無數個夜晚建造起來的。他說,靈感來自他對兒童積木玩具的喜愛,以及他對位於倫敦漢普頓宮中的樹籬迷宮的興趣。
  • 坤鵬論:信息是熵?錯!
    後來,香農也改用這個詞。如今,information已經被定義為嚴謹的科學術語,並且定義比較繽紛,不統一,這是由於它的極端複雜性造成的。二、維納的信息量公式在《香農八年磨一劍,磨出一個撬動地球的支點》坤鵬論提到,歷史中有三個人不約而同地想到了用統計力學的熵公式來度量信息。他們是現代統計學奠基人之一、英國統計學家與遺傳學家R.A.費雪、控制論創始人諾伯特·維納、資訊理論創始人香農。
  • 香農,帥又有才的科學家
    今年是資訊理論的創始人香農(C. E. Shannon,1916-2018)誕辰102周年。他於1948年發表了著名的文章「通信的數學理論」(A Mathematical Theory of Communication)創建了資訊時代的理論基礎——資訊理論。香農因而被稱為「資訊理論之父」。
  • 華為發布:後香農時代,面向數學的十大挑戰問題
    過去20多年,數學在提升華為產品競爭力方面起了極大作用,我們非常願意與大家分享華為如何把工程問題轉變為數學問題的經驗,同時我們也將在本次大會發布信息產業面臨的十大工程和數學問題,張榜求賢,希望與數學家們攻克難關。 我們正處於交叉科學及新技術爆發的前夜,在未來二三十年裡,人類社會將進入智能社會。
  • Bear談無線通信|資訊理論與香農定理
    當然,在這上面也存在著信息不對稱,有興趣的同學可以去了解一下檸檬市場和劣幣驅逐良幣。但正是因為信息消除了不確定性,就給你帶來了「驚喜!」。因此,消除的不確定性越多,給你帶來的「驚喜」也就越大。這個信息對你而言也就越有價值。但是,就像物理擴散作用一樣,信息有向著最大不確定性的方向發展的特性。假設你跟人玩骰子,你搖到6點的概率應該是越來越接近1/6。
  • 香農告訴你:彪悍的人生就是玩也要玩出境界
    克勞德·香農,資訊理論之父,在科學史上,香農是足以和牛頓、愛因斯坦相提並論的天才。而且按照有些學者的說法,愛因斯坦開創了相對論,卻沒有把我們帶入相對論的時代,而香農開創了資訊理論,並且把人類帶入了資訊時代。所以,香農的影響比愛因斯坦更大。
  • 他用1和0解決了人類兩大難題,他是資訊理論之父,卻渴望做雜耍博士
    但還有一個人很少被我們提及,他就是帥到令人髮指,成就與牛頓、愛因斯坦比肩,他是資訊理論之父——克勞德·香農。為什麼想到了他?起因是我最近認真讀了《信息簡史》。雖然我仍然對熵的概念表示迷惑,但是完全不影響我對香農的崇拜。他真是太牛了!專注自己本職不說,還是一位跨界高手。簡直讓我等渣渣汗顏。聽說天才的人生都是開掛的,無一例外。8 歲時,他幫姐姐寫過高數作業。
  • 他用1和0解決了人類兩大難題,他是資訊理論之父,卻渴望做雜耍博士
    但還有一個人很少被我們提及,他就是帥到令人髮指,成就與牛頓、愛因斯坦比肩,他是資訊理論之父——克勞德·香農。起因是我最近認真讀了《信息簡史》。雖然我仍然對熵的概念表示迷惑,但是完全不影響我對香農的崇拜。他真是太牛了!專注自己本職不說,還是一位跨界高手。簡直讓我等渣渣汗顏。