剛剛過去的 8 月,由 IEEE 主辦的第 32 屆 Hot Chips 成功落幕,光計算創業公司 Lightmatter 展示的 AI 推理專用光子晶片——Mars,作為壓軸大戲,給觀眾留下了極為深刻的印象。
Lightmatter 表示,在相同的晶片面積下,光子晶片的時延是電子晶片的千分之一,能耗是電子晶片的千分之一,工作頻率是後者的十倍。
圖 | Lightmatter 公開資料(DeepTech 整理)
並且,Lightmatter 對媒體表示,將於明年秋季推出商用產品。
顯然,這次不是又一個 「狼來了」 的故事,光子晶片是真的來了。
那麼,光子晶片是什麼?光子晶片能做什麼?是否可以用在我們的筆記本電腦上?為了搞清楚這些問題,DeepTech 聯繫到與 Lightmatter 共同領跑這一領域的曦智科技(Lightelligence)創始人兼 CEO 沈亦晨。
有趣的是,這兩家公司均於 2017 年 9 月成立,並且它們的 CEO 都出身麻省理工學院,更為巧合的是,2017 年他們分別以一作、二作的身份,在頂級期刊 Nature Photonics 發表了將光計算應用於人工智慧領域的關鍵論文。
諸多共同點的背後,隱藏著怎樣的故事?
光子晶片到底有多快?
有媒體稱 「光子晶片較電子晶片快 1000 倍」,「我個人認為這個說法並不準確。」 沈亦晨說。
首先,達成 1000 倍的約束條件很重要。如果僅就光子的純計算部分,從光已經轉換成光信號起,到完成計算止,這個過程所花的時間,說光子晶片較電子晶片快 1000 倍,倒不為過。
但如果計算整個光子計算機系統所需要的時間,那麼就要加上光電轉換、數模轉換以及內存和數字電路所花費的時間,肯定是達不到 1000 倍的。
其次,在不同的應用、算法環境下,所得到的結果是不同的。未來隨著越來越多的光部件滲入到電子計算機之中,光子計算機整體的速率會超過電子計算機越來越多。
根據沈亦晨的判斷,「在短期之內,光子計算機與電子計算機基於通用 Benchmark,在相同的節點之下,前者領先後者5 到 10 倍是非常合理的數字。對於特定的問題,比如退火算法等,現有的硬體條件已經可以做到百倍速率的提升。1000 倍可能是光子計算機提升的上限,需要把光的存儲之類問題全部解決才可能達到。」
但毫無疑問,光子晶片將在能耗、通量和延時,三個層面超越以 Intel 為代表的傳統電子晶片,沈亦晨篤定地說。
光子晶片如何計算?
Lightmatter 光子晶片的基礎計算單元被稱作 MZI。
這是一種光幹涉儀,可以用來觀測從單獨光源發射的光束分裂成兩道準直光束之後,經過不同路徑與介質所產生的相對相移變化,MZI 為英文縮寫。
圖 | 馬赫-曾德爾幹涉儀時常用於空氣動力學、等離子物理學與傳熱學領域,可以測量氣體的壓強、密度和溫度的變化。在本圖裡,設想分析一支蠟燭的火焰。兩種輸出影像都可以被觀測到,一個顯示出白色火焰,另一個顯示出黑色火焰(來源:維基百科)
這個構想最早產生於 1891 年,一百多年後的今天,它已經變成了下圖的樣子。
圖 | MZI 實物圖(來源:曦智科技)
Lightmatter 的晶片實際上由兩個垂直堆疊的晶片組成。頂部是一個 50 平方毫米的 12nm 工藝 ASIC,用於存儲內存並協調控制位於下面的 150 平方毫米的 90nm 工藝光計算晶片,布線距離不超過 1 毫米。兩個核芯均採用格芯代工,使用標準 CMOS 工藝製造。
圖 | Lightmatter Mars 晶片結構圖(來源:Lightmatter)
本次演示的 Mars 光計算晶片的工作頻率為 1 GHz,由 64x64 矩陣 64 個維度向量組成光矩陣乘法器,數據在不到 200 皮秒的時間內傳播到整個晶片,整個核心由 50 毫瓦的雷射發射器驅動。
在一次計算過程中,DAC(數字模擬轉換器)接收數字輸入信號,將其轉換為模擬電壓,並使用該電壓來驅動雷射器(該技術已在光纖發送器中廣泛使用)。
來自該雷射器的光進入計算陣列,這裡的基礎計算單元就是 MZI。進入 MZI 的相干光分為兩部分,每半部分的相位調整不同。將具有不同相位的信號組合會導致相長或相消幹涉,從而有效地調節通過 MZI 的光的亮度,該調節可被視為乘法運算。
在波導管(可理解為承載光的「電線」)相遇的地方,信號被有效地加在一起。這是光 MAC(Multiply-accumulate 乘積累加)的基礎,最終計算陣列輸出的光到達光電二極體,完成相應的計算。
圖 | Lightmatter Mars 光學計算過程(來源:Lightmatter)
Lightmatter 的研發人員說道,這些元器件的損耗極低,靜態功耗幾乎為零,且幾乎不會產生 「電子洩漏」 現象。
兩條 MZI 路徑
曦智科技的基礎計算單元,也使用 MZI,但是在 MZI 的結構及 MZI 陣列的架構上,都採用了與 Lightmatter 不同的方式。
MZI 的計算原理可以通俗地解釋為,它有兩條「手臂」,通過某種方式改變了兩條手臂的光程,以此來改變光通過兩條手臂之後相互幹涉的結果。
圖 | MZI 矩陣乘法原理圖(來源:Lightmatter)
Lightmatter 採用的是名為 NOEMS(Nano Optical Electro Mechanical System)的方案,這是一種機械式元件,原理是通過施加電壓,讓兩條手臂在靜電的作用下產生機械形變,以此改變手臂的物理長度。
曦智使用的是電驅動式的 MZI,具體做法是通過在兩條手臂之中加入電子,在改變了電子密度的同時,也改變了光的介電常數,以此來改變光程。
而電子的移動速度,是遠遠快於兩條手臂的物理形變速度的,所以曦智的調製頻率(reprogram)可以達到幾十個 GHz,而 Lightmatter 只能到 100MHz,前者高出兩個數量級。
「當然,曦智的方式也並非完美,但我們在我們認為重要的部分做了取捨。」沈亦晨說。
「我不對 Lightmatter 的方案進行好壞的評價,但我個人認為他們的方案是一個非常大膽的嘗試。當看到他們在網上公開的技術架構之後,我們的第一反應是對工藝和封裝的改動太大了,這條路可能會比較坎坷」。他補充道。
根據 Lightmatter 曝光給外界的 PPT 來看,他們的光子晶片架構是將所有的 MZI 連接到了一起,有點像三國赤壁之戰中曹操的鐵索連舟。
圖 | Lightmatter 的光子晶片架構(來源:Lightmatter)
「這樣的結構之下,一旦單個 MZI 節點出現問題,可能整個系統都會受到影響。而我們的架構中,因為實現光計算的原理不同,所以並不需要將所有的 MZI 直接相連,因此具有更強的容錯性。」
「我可以理解 Lightmatter 為什麼選擇這樣一種方案,因為以他們光計算的原理、架構來說,機械式很可能是一個最優的選擇。但這樣的方案接下來要面臨的就是產業成熟度,以及對於環境的敏感性等這些在產品和工程上的挑戰。」
曦智的時間表
去年 2 月,曦智已經做出了第一款產品雛形,DeepTech 此前也有報導《用光挑戰 「世界 7 大數學難題」 之首,麻省理工團隊再證光學計算潛力》。
圖 | 曦智科技光子晶片原型版卡
「經過一年多的研發改良,我們手上已經有了較之前領先得多的晶片。」沈亦晨自信地說。
在使用環境方面,曦智的光子晶片並不會比電子計算機有更嚴格的要求,在晶片內封閉的環境中,很少有外界手段能影響到光的運行,這方面反而電子更容易受到外界的影響而產生串擾。
和電信號相比,光信號基本不受電磁幹擾。所以,在信號傳播距離超過 1 到 2 毫米的情況下,維持電信號信噪比所需的能耗會很快超過光電轉換帶來的額外能耗。
一些來自外界的震動,也基本不會對曦智的光子晶片產生影響,因為他們採用的是 全固態結構,沒有任何的機械活動部分。「反而 Lightmatter 的機械式 MZI 可能會受此影響,當然這是我的個人推測。」沈亦晨如此說。
曦智的晶片包含了數萬個基礎光子器件,光電信號轉換的效率大概是 0.1~1 pj/bit,雷射發射器採用同光通訊一樣的設備,在這方面的相關技術已經非常成熟。
當 DeepTech 問及光子晶片的發布時間,沈亦晨表示,目前曦智已經可以作出非常明確的時間安排,但是暫時還是希望保持一定的神秘感。他補充道,這將是一個很近的時間節點,肯定會在一年之內。
據悉,未來曦智光子晶片將以板卡及伺服器的方式推出,同時也會以授權的方式向電子晶片設計廠商提供光子晶片的 IP,以此來提升現有產品的性能。「我們的供應商全都是世界一流的大廠,而且供應鏈也已經打通。」
圖 | 曦智科技原型光子晶片效果圖(來源:曦智科技)
沈亦晨補充道,曦智的光子晶片前期將傾向用於 AI 推理晶片,後續會研發 AI 訓練晶片,同時也會在幾個非典型 AI 的應用場景,如藥物研發、材料研發、量子模擬方向、超算方向等領域推出對應的產品。
「我們的產品適用於各種公有、私有雲服務及終端伺服器。此外,可用於超算及礦機的光子晶片產品也已經處於籌備當中,但這些絕不是曦智的第一款產品。」沈亦晨強調。
光子晶片由於其基本的運作原理,非常適合於做矩陣乘法,尤其是稠密的、高並髮式的計算。而這恰恰是人工智慧神經網絡所需要的。
除此之外,光子晶片在片上傳輸方面的優勢也很大,如:傳統計算機內存到計算單元的數據搬運,以及計算單元之間的搬運。
沈亦晨說,利用這一點,一方面可以據此推出自有的光子晶片,另一方面傳統計算機也可以使用光計算技術對晶片進行改造。其效果就像是把古人的驛站,替換成現在的高鐵。
「我們的技術可以幫助 Intel、NVIDIA 等巨頭升級它的晶片,而非單純地取代。嚴格來講,曦智的初代光子晶片屬於光電混合晶片,也可以理解為協處理晶片,並沒有完全將傳統的集成電路拋棄。」
「兩強」爭霸
目前,在光子晶片這個賽道,曦智科技與 Lightmatter,已經成為了事實的領跑者,誰先行發布量產的光子晶片,誰就可以贏得先發優勢。而在公司的背後,也同樣是沈亦晨與 Lightmatter 創始人兼 CEO 尼古拉斯 · 哈裡斯(Nicholas Harris)之間的競爭。
這兩位同樣天才的年輕博士,因同一篇論文而開始了同樣的事業。
圖 | 沈亦晨與 Harris 合作的論文
圖 | 該論文登上了當期的 Nature 子刊封面
圖 | 沈亦晨與 Harris 在麻省理工學院的創業大賽中獲得 10 萬美元獎金,他們一左一右共同舉起了象徵獎金的廣告板
沈亦晨對這段往事並不想多談,他只是說:「共同寫作一篇 Paper 很簡單,長不過一兩年,但是共同創業可能是三五年、十年甚至是一輩子的事情,我們只是各自尋找了合適自己的團隊、合作夥伴和投資人。」
想到未來,沈亦晨的眼神微光閃動。