據外媒報導,英國DeepMind團隊的 人工智慧 研究取得了新進展:他們開發出了新一代的圍棋AI-ALphaGo Zero。使用了強化學習技術的ALphaGo Zero,棋力大幅度增長,可輕鬆擊敗曾經戰勝柯潔、李世石的ALphaGo。
戰勝柯潔之後,ALphaGo可以說在圍棋界裡已是「獨孤求敗」的境界了,幾乎沒有人類是它的對手。但是這並不代表ALphaGo就已經對圍棋領域的認知達到了頂峰。因此,ALphaGo想要再上一層樓追求圍棋知識的上限,顯然只有它自己能成為自己的老師。
而在過去,AlphaGo都是使用業餘和專業人類棋手的對局數據來進行訓練。雖然使用人類棋手的數據可以讓ALphaGo學習到人類的圍棋技巧,但是人類專家的數據通常難以獲得且很昂貴,加上人類並不是機器,難免會出現失誤情況,失誤產生的數據則可能降低ALphaGo的棋力。因此,ALphaGo Zero採用了強化學習技術,從隨即對局開始,不依靠任何人類專家的對局數據或者人工監管,而是讓其通過自我對弈來提升棋藝。
那麼到底什麼是強化學習技術呢?簡單地說,強化學習就是讓AI從中學習到能夠獲得最大回報的策略。AlphaGo Zero的強化學習主要包含兩個部分,蒙特卡洛樹搜索算法與神經網絡算法。在這兩種算法中,神經網絡算法可根據當前棋面形勢給出落子方案,以及預測當前形勢下哪一方的贏面較大;蒙特卡洛樹搜索算法則可以看成是一個對於當前落子步法的評價和改進工具,它能夠模擬出AlphaGo Zero將棋子落在哪些地方可以獲得更高的勝率。假如AlphaGoZero的神經網絡算法計算出的落子方案與蒙特卡洛樹搜索算法輸出的結果越接近,則勝率越大,即回報越高。因此,每落一顆子,AlphaGo Zero都要優化神經網絡算法中的參數,使其計算出的落子方案更接近蒙特卡洛樹搜索算法的結果,同時儘量減少勝者預測的偏差。
AlphaGo Zero的自我強化學習,圖片源自Nature
剛開始,AlphaGoZero的神經網絡完全不懂圍棋,只能盲目落子。但經歷無數盤「左右互搏」般的對局後,AlphaGo Zero終於從從圍棋菜鳥成長為了棋神般的存在。
DeepMind團隊表示,他們發現AlphaGo Zero自我對弈僅幾十天,就掌握了人類幾百年來來研究出來的圍棋技術。由於整個對弈過程沒有採用人類的數據,因此ALphaGo Zero的棋路獨特,不再拘泥於人類現有的圍棋理論,
DeepMind團隊還表示,這個項目不僅僅是為了獲得對圍棋更深的認識,AlphaGoZero向人們展示了即使不用人類的數據,人工智慧也能夠取得進步。最終這些技術進展應該被用於解決現實問題,如蛋白質摺疊或者新材料設計。這將會增進人類的認知,從而改善每個人的生活。