小量變引起大質變,多項式幾何助力旅行商問題研究取得突破性進展

2021-01-08 機器之心Pro

選自quantamagazine

作者:Erica Klarreich

機器之心編譯

編輯:Panda

旅行商問題也稱最短路徑問題,是指給定一系列城市和每對城市之間的距離,求解訪問每一座城市一次並回到起始城市的最短迴路。自 1976 年 Nicos Christofides 提出了一種簡單的近似方法之後,這一問題在幾十年的時間裡鮮有進展。直到最近,華盛頓大學的一個研究團隊才最終證明十年前提出的一種方法能帶來非常細微的提升。進展的量雖小,但卻是在旅行商問題上邁出的一大步,也許更是未來進一步進展的突破口。本文將介紹這種突破性近似優化方法背後的故事。

兩年前,當 Nathan Klein 剛進入華盛頓大學研究生院時,他的導師提出了一個謙遜的培養計劃:一起研究理論計算機科學領域一個最有名的待解決問題。

他們當時的想法是,就算最終沒能解決它,Klein 也能在過程中學到很多。Klein 同意了這一想法。「我當時還不知道害怕,」他說,「我那時還是個一年級新生,根本搞不清狀況。」

而現在,在今年 7 月發布的一篇 arXiv 論文中,華盛頓大學在讀博士 Nathan Klein 及其導師 Anna Karlin 和 Shayan Oveis Gharan 終於實現了一個令計算機科學家追逐了半個世紀的目標:尋找旅行商問題近似解的更優方法。

論文地址:

https://arxiv.org/abs/2007.01409

旅行商問題是一個優化問題,其目標是尋找走完一組城市的最短路徑(或成本最低的路徑)。這個問題的解決方案可用於 DNA 測序和共享物流規劃等許多應用。幾十年來,這一問題激發了計算機科學領域多項根本性的進步,幫助展現了線性規劃等技術的力量。不過,其潛在的可能性還未得到完全探索,不過研究者為此付出的努力並不少。

正如計算複雜性領域著名專家 Christos Papadimitriou 說的那樣:旅行商問題「不是一個問題,而是一個會讓人上癮的東西」。

大多數計算機科學家認為:並不存在一種有效解決各種城市組合可能性的最優解。但在 1976 年,Nicos Christofides 提出了一種能有效找到近似解的算法——往返旅程最多比最佳往返旅程長 50%。那時,計算機科學家預計很快就有人能在 Christofides 的簡單算法上實現提升,進一步接近真實解。但預期的進展並未到來。

史丹福大學教授 Amin Saberi 表示:「很多人花了無數時間試圖提升這一結果。」

現在,Karlin、Klein 和 Oveis Gharan 已經證明:十年前設計的一種算法優於 Christofides 算法的 50% 標準,雖然它也只是將這個百分數減少了非常小的數字(10^-36,0.2 billionth of a trillionth of a trillionth of a percent)。儘管如此,進步終究是進步,這一微小進步能夠突破理論上的僵局以及心理上的門檻。研究者希望這能帶來契機,實現進一步的改進。

華盛頓大學研究生 Nathan Klein(左)及其導師 Anna Karlin 和 Shayan Oveis Gharan

康奈爾大學教授 David Williamson 表示:「這是我一生事業所追求的目標。」他自 1980 年代以來一直在研究旅行商問題。

旅行商問題是理論計算機科學家試圖解決的基礎性問題之一,旨在探索高效計算(efficient computation)的極限。Williamson 說:「這個新結果是向人們展示高效計算的發展前沿事實上比我們預想的更好的第一步。」

微末的進展

儘管可能並不存在找到最短旅程的有效方法,但卻有可能找到足夠好路徑的方法:連接所有城市的最短樹(tree),也就是一個由連接(「邊」)構成的網絡,其中沒有封閉迴路。Christofides 的算法使用了這個樹作為骨幹部分來進行往返旅行,然後通過添加額外的邊來將其轉換成往返旅程。

任何往返旅程路線連接每個城市的邊的數量都必然為偶數,因為每一次到達之後都必然有一次離開。事實證明反過來也是如此——如果網絡中每座城市的連接數為偶數,則網絡中的邊必然能實現往返旅程。

而連接所有城市的最短樹則不具備這種偶數性質,因為任何在路線末端的城市與另一個城市僅有一個連接。因此為了將最短樹轉換到往返旅程中,Christofides(已於去年逝世)發現最佳方法是連接有奇數條邊的城市對。他證明,所得到的往返旅程永遠不會比最佳往返旅程長 50%。

在此過程中,他設計出了也許是理論計算機科學領域最有名的近似算法——這個算法通常是教科書或課程中提到的第一個例子。

法國格勒諾布爾 - 阿爾卑斯大學與法國國家科學研究中心的 Alantha Newman 稱:「這個簡單算法人人皆知。」而且當你學習它的時候,「它就是當前最佳方法。」這個說法直到 7 月份時還依然成立。

長時間以來,計算機科學家猜想應該存在優於 Christofides 算法的近似算法。畢竟他的算法雖然簡單直觀,但並不總能有效設計出旅行商行進路線,因為連接城市的最短樹可能並非你可選擇的最佳骨幹。舉例來說,如果這個樹有很多分支,那麼每個分支末端的城市都需要與另一個城市匹配,這就有可能形成大量成本高昂的新連接。

2010 年,喬治亞理工學院的 Oveis Gharan、Saberi 和 Mohit Singh 開始思考:也許可以不選擇連接所有城市的最短樹,而從一個精心選取的集合中取一個隨機樹來改進 Christofides 算法。他們的靈感來自旅行商問題的一個替代版本,該問題中旅行商可沿路徑組合行進,比如為了到達丹佛,可以選取從芝加哥到丹佛的 3/4 路徑加上洛杉磯到丹佛的 1/4 路徑。

不同於常規的旅行商問題,這個分數化的問題可以得到有效解決。儘管這種分數化路徑(fractional route)並不具有實際意義,但計算機科學家長時間以來認為,最佳的分數化路徑能為尋找優良的常規路徑提供粗略的指引。

因此,為了創建自己的算法,Oveis Gharan、Saberi 和 Mohit Singh 定義了一種用於選取連接所有城市的樹的隨機過程,並令給定邊在該樹中的概率等於該邊在最佳分數化路徑中的分數。這樣的隨機過程有很多,研究者傾向於選擇能生成多個偶數連接城市的樹的隨機過程。在這個隨機過程選出一個特定的樹之後,再將他們的算法接入到 Christofides 的方案,匹配有奇數條邊的城市,並將結果轉化為一個往返旅程。

這個方法看起來很有希望,而且不止這三位研究者這麼看,其他計算機科學家也這麼想。瑞士洛桑聯邦理工學院副教授 Ola Svensson 表示:「其中的直觀理解很簡單,但證明它卻又是一大難題。」

不過,在第二年裡,Oveis Gharan、Saberi 和 Singh 成功證明他們的算法在「圖式」旅行商問題中優於 Christofides 算法。「圖式」旅行商問題將城市之間的距離表示為網絡(不必包含所有連接),其中所有邊的長度全都一樣。但他們沒能找到將這一結果擴展到一般旅行商問題的方法,一般旅行商問題中一些邊可能比另一些邊長很多。

Karlin 表示:「如果在匹配中加入一條成本很高的邊,這個方案基本就完蛋了。」

進展的歷程

儘管如此,在這場合作中,Oveis Gharan 有了一個不可動搖的信念:他們的算法在一般旅行商問題上同樣勝過 Christofides 算法。「我從未懷疑過。」

接下來的很多年裡,這個問題一直在 Oveis Gharan 的腦中盤旋。他猜想,一個名為「多項式幾何」的數學學科中可能有他需要的工具,但這是理論計算機科學社區不太關注的領域。因此,當 Karlin 兩年前建議他一起指導天才研究生新生 Nathan Klein 時,他回答說:「沒問題,我們就試試看——我正好有個有趣的問題。」Nathan Klein 在本科階段主修了數學和大提琴兩個專業。

Karlin 當時想的是,就算沒有成果,這也是一個學習多項式幾何的好機會。她說:「我當時確實認為我們沒法解決這個問題。」

她和 Oveis Gharan 毫不猶豫地將 Klein 帶入到了計算機科學研究的這一深層領域。Oveis Gharan 本人在 2010 年研究生階段時就研究旅行商問題。這兩位導師都認為給研究生布置難題大有裨益,尤其是前幾年他們還沒有出成果的壓力時。

這三位研究者開始了密切合作。Klein 說:「我這兩年裡思考的都是它。」

在第一年裡,他們解決了該問題的一個簡化版本,以便感受他們所面臨的難度。但即便在解決了簡化問題之後,Klein 說解決一般旅行商問題還是「難如登天」。

儘管如此,他們已經很好地理解了所用的工具,尤其是多項式幾何。多項式是帶有冪的變量的組合表達式,比如 3xy+8xz。為了研究旅行商問題,他們將城市構成的地圖提煉成了多項式,其中每個變量表示城市之間的一條邊,而每一項表示可以連接所有城市的每個樹。然後使用數值因子對這些項進行加權,以反映各條邊在旅行商問題的分數解中的值。

他們發現,這個多項式具有一個他們需要的特性,即「實數穩定性(real stability)」,也就是說能讓該多項式為零的複數永遠不會出現在複平面的上半部分。實數穩定性的優勢在於即便對多項式進行許多更改,它仍舊有效。舉個例子,如果研究者想要關注特定的一些城市,他們可以使用單個變量表示連接一個城市的所有不同邊,然後將不關心的邊的變量設為 1。在操作這些簡化版多項式時,他們的操作結果仍具有實數穩定性,這為各種技術的應用開啟了大門。

該方法讓研究者可以處理很多問題,比如算法被迫連接兩個相距較遠的城市的頻率是多少。在近 80 頁的分析中,他們成功證明該算法在一般旅行商問題上優於 Christofides 算法(該論文還未經過同行評議,但一些專家給予了肯定。)

論文剛完成,Oveis Gharan 就給他的博士導師 Saberi 發了封電子郵件。他開玩笑道:「我想我終於畢業了。」

史丹福大學教授 Amin Saberi(左)和喬治亞理工學院的 Mohit Singh

儘管該研究實現的提升微乎其微,但計算機科學家希望這一突破能啟發進一步的進展。

回想 2011 年,那時候 Oveis Gharan、Saberi 和 Singh 解決了圖式旅行商問題。之後不到一年時間,其他研究者就提出了非常不同的算法,並極大提升了在圖式案例上的近似性能。現在在圖式案例上,這些算法已經將近似率(approximation factor)從 Christofides 算法的 50% 下降到了 40%。

「當他們宣布有關圖式旅行商問題的結果時,我們覺得這是有可能的。我們也開始研究它。」後來在這一案例上取得進展的研究者 Svensson 說。他之前多年一直嘗試在一般旅行商問題上超過 Christofides 算法。他說:「現在我知道這是可能的,我會再次嘗試。」

過去幾十年來,旅行商問題已經催生了很多新方法。Oveis Gharan 希望現在人們能看到多項式幾何的價值,而且事實上他已經成為這一方法的熱情布道者。在最近十年中或自他開始學習這一方法以來,多項式幾何已經幫助他證明了很多定理。他表示:這一工具「塑造了我的整個職業生涯」。

這一旅行商問題的新結果證明了該方法的強大。Newman 稱:「仔細研究的話肯定能大受啟發。」

Klein 現在則必須找一個新問題來研究了。「失去這個問題是有點悲傷,因為它在我的頭腦中構建了許多結構,但現在它們差不多都消失了。」但他對計算機科學研究的貢獻已經很令人滿意了。「我感覺我們把未知之物又推進了一點。」

https://www.quantamagazine.org/computer-scientists-break-traveling-salesperson-record-20201008/

相關焦點

  • 哲學三大規律之一:自然萬物的量變質變規律
    自然萬物無時不刻永恆地發生著變化,這些變化從過程和結果的角度來看,分為量變過程和質變結果,而量變則會引起質變,當事物的量變發展到一定程度的時候就導致了它們本質上的變化。地裡的莊稼,春耕夏長秋收冬藏,一年一度周而復始。
  • 讀研被導師安排了計算機領域最難的問題,還解出來了是什麼體驗?
    大數據文摘出品來源:quanta編譯:徐玲、coolboy試想,當你剛進入研究生院的時候,你的導師向你提出:我們一起來研究理論計算機科學領域最有名的待解決問題吧,你會是什麼心情?進展的歷程儘管如此,在這場合作中,Oveis Gharan有了一個不可動搖的信念:他們的算法在一般旅行商問題上同樣勝過Christofides算法。他說:「我從未懷疑過。」接下來的很多年裡,這個問題一直在Oveis Gharan的腦中盤旋。他猜想,一個名為「多項式幾何」的數學學科中可能有他需要的工具,但這是理論計算機科學社區不太關注的領域。
  • 數學科學學院胡俊課題組在有限元方面取得突破性進展
    北京大學數學科學學院副教授、北京國際數學中心研究員胡俊及其課題組提出了一個理論上最直接、內蘊的設計彈性力學問題混合有限元方法的全新框架,取得突破性進展,解決了長達五十餘年的公開問題即彈性力學問題混合有限元方法。有限元方法是在求解彈性力學問題中發明的,主要用於工程中彈性結構的應力分析。
  • 磨磨蹭蹭的走法很好 量變終將推動質變
    今天市場磨磨蹭蹭的又漲了一丟丟,目前這種沿著五日線慢慢爬的上漲,其實是一種量變。這種量變最終其實是可以引起質變的,需要的只是時間的積澱。我們其實自從6月1日兩市出現標誌性上漲k線之後,就一直非常看好市場。在分析市場強弱的時候,我們需要一個篩子來篩選,過濾掉無用的噪音。最好的篩子就是「新」字,新方向、新價格、新幅度、新速率、新節奏、新成交量等等一切的新.
  • 質變數學革命
    從公元前460年到公元1872年,數學都在迴避無限集的問題。從1684年到1931年,數學都在追求無矛盾性和完備性。18世紀之前,數學是不嚴密的和直觀的數學。18世紀之後,數學才逐漸發展為嚴密的和抽象的數學。20世紀以來,數學逐漸發展為以公理集合論為主體基礎的集論數學。2003年之前,數學是基於演繹邏輯的量變數學,無法處理矛盾問題和質變問題,對於無窮大和無窮小的處理晦澀難懂且不實用。
  • 大連理工大學在自旋電子學領域取得突破性研究進展
    大連理工大學在自旋電子學領域取得突破性研究進展 作者:謝小芳 2019-12-01 01:18   來源:大連日報   大連理工大學在自旋電子學領域取得突破性研究進展有望從根本上突破傳統晶片發熱耗電等瓶頸  11
  • 什麼是 P = NP 問題?
    而千禧年大獎難題的破解,極有可能為密碼學以及航天、通訊等領域帶來突破性進展。最早的旅行商問題的數學規劃是由 Dantzig(1959)等人提出,並且是在最優化領域中進行了深入研究。許多優化方法都用它作為一個測試基準。儘管問題在計算上很困難,但已經有了大量的啟發式算法和精確方法來求解數量上萬的實例,並且能將誤差控制在1%內。
  • 南大洋增暖機制研究取得突破性進展
    海洋國家實驗室區域海洋動力學與數值模擬功能實驗室青年學者高立寶所率領的中-澳團隊在南大洋增暖機制研究方面取得了突破性進展,其研究成果「Recent wind-driven change in進一步的研究表明海表風應力是最主要的驅動力,模態水的增厚解釋了亞南極模態水熱含量增量的84%,而浮力通量則貢獻了剩餘的16%。基於多模式模擬結果,該研究還預測未來南大洋西風及其旋度的繼續增強會使亞南極模態水進一步增厚,因此會使更多熱量從海氣界面存儲到海洋內部,從而減緩全球海表溫度增暖的速度。
  • 學霸煉成記:量變到質變,外因到內因
    學霸煉成記:量變到質變,外因到內因先給大家講一個經典實驗。把一隻黑猩猩關在籠子裡,籠子外放了一根香蕉,籠子裡面放了兩根短竹棒,黑猩猩看到香蕉,用手去拿,拿不到,又用一根短竹棒去夠,夠不著。這個實驗是格式塔學派心理學家苛勒研究出來的,他提出了頓悟學習原理。苛勒認為,人和一些高級動物,運用他們先天具備的能力,就能認識到環境中事物間的關係,產生頓悟解決問題。他認為學習也是這樣的一個頓悟過程。
  • (助力2018考研)特徵多項式=最小多項式
    今天揚哥手寫了關於特徵多項式=最小多項式兩個結論的解答, 這也是最近同學問的比較多的知識點. 說明不止一個學校考過!
  • 大工在低溫等離子體物理基礎研究取得突破性進展
    近年來,隨著晶圓尺寸和電源驅動頻率的日趨增大,由駐波效應引起的等離子體不均勻性已成為制約半導體工藝設備發展的重要因素,由此引起了工業界及科研界的廣泛關注。近日,我校物理學院、三束材料改性教育部重點實驗室王友年教授課題組與美國加州大學伯克利分校Michael A. Lieberman教授及美國休斯頓大學Demetre J.
  • 中科大過氧化物研究取得突破性進展
    中科大過氧化物研究取得突破性進展     本報訊(通訊員楊寶國 記者王磊)記者從中國科學技術大學獲悉,該校國家同步輻射實驗室齊飛教授研究小組與法國南希大學Battin-Leclerc教授研究小組合作,將同步輻射真空紫外光電離質譜技術與射流攪拌反應器結合
  • 以色列科學家的研究取得了突破性進展!人類真能"長生不老"?
    以色列科學家的研究取得了突破性進展!人類真能"長生不老"?千百年來,"長生不老"一直是無數人熱議的一個話題。不管是古代的帝王將相,還是如今的平民百姓,幾乎每個人都有一個"長生不老"的夢想。
  • 高考化學59個量變引起質變的化學方程式匯總
    原標題:高考化學59個量變引起質變的化學方程式匯總 高中化學 相互反應的兩種物質,由於一方面的量的改變而引起產物的質的變化,或者是由於藥品的加入順序不同而導致截然不同的結果,或者隨著反應的進行,酸的濃度變了,產物也變了,上述的實例在中學化學中屢見不鮮
  • 2019影響力榜出爐 創新浪潮下中國馬拉松從量變到質變還有多遠
    社交平臺成為馬拉松傳播主戰場 新媒體時代賽事傳播逐鹿社交平臺 除了如何提升賽事品質,如何高效傳播賽事也成為各大賽事舉辦方思考的重要問題
  • 打造血液病診療生態系統,這家醫院經歷了從量變到質變
    本世紀初,單倍體移植技術取得突破性進展,成功解決了造血幹細胞移植供者匱乏的難題。隨著技術發展,單倍體移植取得了與親緣全相合以及非血緣移植相媲美的效果,這個方案就此成為多家醫療機構遵循的血液病單倍體移植的標準。路陽表示,現在的陸道培醫院,70%以上的患者都是採用這種異基因半相合移植方式。
  • 近期,鄭大在多個科研領域取得突破性進展
    河南日報客戶端記者 李樹華 通訊員 楊明電氣工程學院在高能量密度固態電解質熔融鋰金屬電池研究領域取得進展鄭州大學電氣工程學院電網儲能與電池應用研究中心聯合清華大學和史丹福大學,在固態電解質熔融鋰金屬電池領域研究取得進展。
  • 【獨家翻譯】對蝦EMS病原檢測取得突破性進展
    日本國際協力機構(JICA)和日本科學技術振興機構(JST)日前宣布,在早期死亡綜合症(EMS,困擾泰國和東南亞地區並引起對蝦大量死亡的病害
  • 以色列科學家的研究取得了突破性進展!人類真能實現「長生不老」?
    以色列科學家的研究取得突破性進展!人類真能實現"長生不老"?千百年來,"長生不老"一直是無數人熱議的一個話題。不管是古代的帝王將相,還是如今的平民百姓,幾乎每個人都有一個"長生不老"的夢想。衰老和死亡是每個人都要面對,卻又不想面對的事情。
  • 揭秘生命演化 我國多項古生物學研究取得突破性進展
    新華社北京3月22日電 題:揭秘生命演化,我國多項古生物學研究取得突破性進展  新華社記者 劉詩平、董瑞豐  冰河時期歐洲人的皮膚和眼睛長什麼樣?4億多年前的麒麟魚如何揭示脊椎動物頜演化之路?15.6億年前華北大型多細胞生物化石群的發現,揭開了地球生命早期演化的哪些秘密?