解讀| 華為方舟編譯器的革命性到底體現在哪裡?

2021-01-08 雷鋒網

隨著 2019 華為開發者大會的臨近,華為消費者業務 CEO 餘承東此前在 P30 國內發布會上宣布的 「能夠實現 Android 性能革命」 的方舟編譯器也即將進入到開源階段。雖然此前在 4 月份華為已經就方舟編譯器進行了介紹,但人們更加關心的是:華為方舟編譯器的革命性到底體現在哪裡?

針對這個問題,餘承東在 8 月 6 日推薦了一篇由「菊廠搞機」發表的一篇題為《華為新貴!方舟編譯器的榮光和使命》的長文,該文對華為方舟編譯器的實現原理和背後故事進行了解讀——而雷鋒網也希望由此提取出關於華為方舟編譯器實現 Android 性能革命的諸多要點。

Android 代碼編譯的原理和弊端

在目前全世界的多種程式語言中,Android 作業系統採用的是 Java 語言。

Java 語言是在 1995 年 5 月發布的,它的一個重點特點就是可以跨平臺操作,而且需要藉助虛擬機機制來解釋原始碼並調度硬體資源;但同時 Java 是一種預編譯語言,需要先在開發者環境中將原始碼(Source Code)轉換成字節碼(Byte Code),然後在設備上運行時再將字節碼編譯或解釋成硬體能聽得懂的機器碼。

也就是說,從 Java 的字節碼到機器碼,中間需要兩樣東西:

而對於 Android 作業系統來說,為了將 Java 字節碼變成機器語言,Google 在不同的版本中進行了多樣化的嘗試,其目的自然是不斷推動應用程式的運行速度向前發展;我們來看一下 Android 在不同版本是怎麼做的:

Android 1.0(2008 年):採用一個名為 Dalvik 的虛擬機,並且集成了一個解釋器。當 App 運行時,就會調用這個解釋器,對代碼進行逐句解釋,速度很慢。

Android 2.2(2010 年):引入 JIT(Just In Time)即時編譯機制,當 App 運行時,會將用戶經常使用的功能編譯為機器能直接執行的 010101 機器碼,不用一句一句地去翻譯。當出現不常用的功能時,再調用解釋器來翻譯;這樣速度加快,但每次啟動 App 都要重新編譯一次,不能一勞永逸。

Android 5.0(2014 年 10 月):將虛擬機 Dalvik 換成 ART(Android Run Time),將 JIT 的編譯器替換成 AOT(Ahead of Time)。如此,App 在下載後安裝到手機上時同時把能編譯的代碼先編譯成機器聽得懂的 101010;剩下不太好翻譯的代碼,就在用戶使用時再叫醒解釋器來翻譯。如此,不用每次打開 App 都需要編譯,但安裝 App 的時間有點長,而且佔用手機空間。

Android 7.0(2017 年):採用混合編譯機制,安裝時先不編譯中間代碼,而是在用戶空閒時將能夠編譯成機器碼的那部分代碼,通過 AOT 編譯器先靜態編譯了。如果 AOT 還沒來得及編譯或者不能編譯,再調用 JIT+ 解釋器。這種機制,相當於用時間換空間,既縮短了用戶安裝 APP 的等待時間,又將虛擬機裡編譯器和解釋器能做的優化提升到最大效率了。

可以看到,無論是編譯器還是解釋器,只是在虛擬機上打補丁;手機上的虛擬機+編譯器+解釋器本身不僅佔用硬體資源,還無法最大發揮軟體運行性能。正因如此,所以絕大部分手機廠商只能無奈的通過簡單粗暴提升 Android 手機的內存和存儲空間,來彌補虛擬機的弊端。

由此出發,Android 系統在性能和應用運行層面有四個方面的問題:

1、如前所述,離不開虛擬機;

2、為了與 C/C++ 等代碼進行交互,Java 原生接口(Java Native Interface,簡稱 JNI)應運而生。目前 95% 的TOP應用都是使用 Java 和 C/C++ 等多種語言混合開發而成。Java 和 C/C++ 屬於兩種不同架構的語言,各有自己的使用規範。為了 APP 正常運行,它倆之間需要互通有無,這個互通有無的接口就是 JNI。在數據訪問、函數調用、生命周期維護、異常處理等方面都需要這兩種代碼互相調用。這就意味著手機硬體資源要分配一部分給 JNI 去做調度——這一機制本身的效率就不高,而且佔用了硬體資源。

3、Android 虛擬機的編譯器受限於手機硬體和代碼優化模板單一,代碼優化空間有限。 編譯器包含三個部分:前端 Front End,主要負責將原始碼翻譯成 IR(Intermediate Representation);中端的 Optimizer 主要負責代碼優化,將前端翻譯過來的 IR 代碼優化得更高效;後端 Back End 則將優化後的 IR 編譯成 101010 的機器碼——為了防止生態過於碎片化,Android 只為第三方開放了簡單的編譯代碼優化模板,代碼優化空間有限。

4、Java 現有的內存回收機制容易造成 「間歇性」 卡頓。 當手機內存資源不夠用的時候,Android 虛擬機就會召喚 GC(Garbage Collection,垃圾回收) 讓所有手機運行的 Java 線程全部暫停,等待它回收內存空間,避免過載超載。這個 GC 機制,無法精確控制和幹預,用戶也無法把它去掉,所以性能比較差的手機還存在 「間歇性」 卡頓。

這四個問題,也是華為試圖通過方舟編譯器解決的問題。

華為方舟編譯器是如何解決問題的?

在回答這個問題之前,先看一下華為從事方舟編譯器工作的時間線:

2009 年,華為啟動 5G 基礎技術研究的同時,開始創建編譯組,第一批海內外研究人員加入。

2013 年,華為推出面向基站領域的自研編譯器 HCC,並正式提出編譯器框架構想。

2014 年,眾多海內外專家加入華為,方舟項目正式啟動。

2016 年,成立編譯器與程式語言實驗室。

2017 年,方舟編譯器上的第一個 Java 程序 「HelloWorld」 跑通。

2018 年春節前一周,方舟編譯器跑通 Android 系統所有後臺服務,並成功移植到手機。

2019 年 4 月,華為方舟編譯器在 P30 系列的國內發布會上對外宣布。

那麼,方舟編譯器的原理究竟是如何實現的?

實際上,華為所謂的 「方舟編譯器」 與其說是一個編譯器,不如說是一個編譯運行系統;這個系統的運行需要開發環境和終端(也就是智慧型手機)的配合,其目的是繞過 Android 作業系統中 App 的運行所必須依賴的虛擬機,將 Java/C/C++ 等混合代碼一次編譯成機器碼直接在手機上運行,徹底告別 Java 的 JNI 額外開銷,也徹底告別了虛擬機的 GC 內存回收帶來的應用進程掉線——從而最終實現 Android 作業系統的流暢度。

正如上文所言,在方舟編譯器的這一實現過程中,需要解決四個方面的問題。

第一:將 Java 代碼直接編譯成機器碼

就目前的情況來看,Java 編譯成機器碼的過程中,要面臨的難題是 Java 中的動態語義(與之對應的是靜態語義,它是通過提前翻譯能夠解決的),靜態語義指的是確定的語言和意思,而動態語義指的是需要結合上下文來理解的內容——這其中,如果要像編譯靜態語義一樣去編譯動態語義,很多知乎大神認為是根本就不可能的。

而這個不可能,正是華為在開發方舟編譯器過程中解決的問題。

具體來說,方舟編譯器通過編譯階段和運行階段的雙向加持,將靜態編譯動態語義最大的兩大難點解決:一是設計數據模型,二是如何在運行時高效獲得動態信息。方舟編譯器團隊基本遍歷了 Java 的動態語義,進行了大規模的數據建模。同時,大大提高了編譯時動態語義分析的精度,特別是涉及跨語言調用時;另外,華為設計了一套具有核心專利的動態語義匹配機制,有效降低了運行時動態語義的開銷。

由此,方舟編譯器能夠將 Java 代碼編譯成機器能直接執行的語言。華為方面表示,經過華為方舟編譯器的 App,再也不需要在手機上編譯了,徹底告別了虛擬機,從而帶來了媲美甚至超越 iOS 的 Android 體驗。 

第二:解決混合語言的 JNI 開銷

由於 95% 的 Top 應用都是 Java/C/C++ 等混合語言編寫而成;因此方舟編譯器還需要幹掉混合語言互相調用帶來的 JNI 開銷。

這裡就涉及到上文提到的一個名詞 IR,它是用來表示代碼的數據結構,它是編譯器的各模塊以及相關工具之間用來傳遞信息的「協議和通用語言」,也是程序變換和編譯優化各種算法的承載體。它是編譯器的「大腦」,直接決定了編譯器的最終效果——因此,它的難度是最高的。

華為方舟編譯器團隊對 IR 進行了長達五年的精雕細琢,逐漸摸索出 「大腦」 裡每一條神經、每一個神經元的信號規律,並在此基礎上發明了一套核心專利,使得不同語言代碼在開發者環境中能夠統一編譯成同一套可直接執行的機器碼,從而徹底消除了混合語言互相調用的開銷。

也就是說華為方舟編譯器可以將混合語言實現統一的中間表示 IR,這就相當於同一個人能夠理解全世界的語言——當然,這背後是華為方舟編譯器團隊基於多個程式語言的深刻理解和大量研發積累。

第三:在統一 IR 之外進行代碼優化

華為方舟編譯器,直接將代碼優化從手機環節搬到了開發者環境,未來還可能搬到雲端。利用開發者環境更強大的算力,可以實現更先進和精細的優化算法,來達到更佳的優化效果——華為表示,在很多特定場景代碼優化的提升甚至是顛覆性的。

值得一提的是,開發者使用方舟編譯器,並不需要改變原來的編碼習慣。開發者可以自行開發代碼優化算法,也可以僅通過方舟編譯器預置的算法進行代碼優化。未來,華為還將提供代碼調優工具,開發者可以選擇根據工具的優化建議來調整代碼,和方舟編譯器配合獲得更優的執行效果。

第四:解決 Android 內存回收帶來的卡頓問題

為了解決這個問題,方舟編譯器採用了引用計數法(RC,Reference Counting)來進行內存的實時回收,並且配合使用了專門的消除環算法(消除對象互相引用帶來的無法回收問題),來避免 GC 集中式回收帶來的系統卡頓。相比 GC,方舟的內存回收是實時的而非集中式的,且不需要暫停應用進程,這樣便大大消除了卡頓。

另外,軟體有一個大家都很熟悉的死循環,就是電腦被一個無限循環的運行程序把計算機資源佔光。這種 「死循環」 在軟體中叫 「環引用」。為了從機制避免手機內存被環引用 「吃掉」,方舟編譯器引入 annotation 的「告警」標示,對基礎類的環進行標註。

當然,Java 程式設計師也可以對業務代碼中的環進行標註。經過豐富的實踐驗證,方舟這種機制可以減少大部分程序中環的出現。另外一方面,方舟編譯器在運行狀態下引入了高效的環回收機制,允許有選擇的智能回收某個 APP 的內存佔用,這對傳統的環回收算法是一個改進。

總結來看,面對現有的 Android 系統在代碼編譯、運行、IR、內存回收等四個層面的問題,華為方舟編譯器分別給出了自己的解決方案,這其中的核心創新點是混合語言的統一中間表示和完全靜態編譯,但更重要的是華為在解決 Android 作業系統 App 運行問題的嶄新思路,以及為了實現這種思路而敢於大力投入的勇氣。

雷鋒網總結

正如雷鋒網(公眾號:雷鋒網)所言,方舟本質上不僅僅是一個編譯器,而是一個編譯系統,它需要通過用戶終端和開發者的共同支持。對於華為手機用戶來說,華為在手機終端中已經用方舟編譯器替代了 Android system-server 的所有後臺服務,這一項就已經足夠讓華為 EMUI 比其他 Android 系統更快一步——根據華為官方測試,方舟編譯器提升手機系統操作流暢度高達 24%,系統響應性能提升 44%。

當然,華為要想充分發揮方舟這個編譯系統的實力,還離不開開發者在開發層面對方舟編譯器的大力支持,這本質上是華為在現有 Android 開發生態之外另闢蹊徑打造的一個全新開發環境——它究竟能否得到開發者的支持,還需要等華為將其開源之後才能有答案。

雷鋒網按:本文參考資料《華為新貴!方舟編譯器的榮光和使命》,點此查看。

雷鋒網原創文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • 拜拜虛擬機,全面深度解密華為方舟編譯器
    十年前華為啟動編譯組到這一刻,初見曙光。2019年4月,華為方舟編譯器正式面世!今天我們聚焦華為新貴——方舟編譯器,這個一發布就引起巨大響動的底層核心技術。它為什麼能擁有和世界對話的榮光?它承載著怎樣的使命?它能否做到傳說中的「出於安卓,勝於iOS」?
  • 華為鴻蒙作業系統全解讀:先進在哪?為何不現在用於手機?
    開發者和作業系統打交道最多的就是編譯器,以及以編譯器為核心的一整套開發工具。如果從開發者角度去看,甚至可以認為作業系統就是編譯器。開發者不想去管作業系統的事,希望編譯器可以解決所有平臺問題,讓自己的代碼輕鬆移植過去。方舟編譯器,就是華為對開發者給出的作業系統接觸窗口。
  • 華為手機有哪些與眾不同的功能?我覺得超級月亮很厲害
    如果按照這個標準,我覺得華為這四個功能讓人拍案叫絕。他們分別是超級月亮、超級藍牙、超級文件系統、方舟編譯器。這四個功能讓華為手機獨樹一幟,堪稱拍案叫絕的功能。1,超級月亮讓華為手機的拍照體驗領先友商。自此,華為手機成為新一代拍照手機5年前,說到拍照手機,大家一定會想到oppo和vivo,這兩個品牌在拍照上可謂不遺餘力。前置2000萬、前置3200萬都是這兩個品牌引領的。
  • 華為和vivo的旗艦機用3年後,哪款的流暢度更好
    為什麼我覺得華為mate30會更流暢呢?1,麒麟990 5g是為華為手機量身定做,優化效果更好華為mate30 5g採用了華為最新的麒麟990 5g處理器,這款處理器採用了7nm製程工藝,是華為目前最先進的晶片。這顆小小的晶片上有120億電晶體,集成了soc技術,所以在功耗和算法方面更為出色。
  • 華為IoT生態品牌擴大朋友圈,方舟實驗室首度亮相
    ,在華為「AI生活 享品質」媒體品鑑會上,華為拓展IoT品牌(華為智選),並發布了多款產品,華為方舟實驗室也首度亮相。應用家庭護理機器人、遠程醫療等,服務家庭;另外,沉浸式視頻體驗、智能家居,使得「人在哪裡家就在哪裡」;激發組織創新。通過智慧政務,視頻聯網,打通數據資產;出售引擎時長,汽車出行服務,變身數據服務。
  • 科技自立,手握Plan B,華為手機銷售勢頭不減
    過去的5月,美國動用國家力量,利用多種手段打壓華為。作為一個世界級科技巨頭,華為背後的龐大供應鏈牽動著全球很多企業。但是,華為早已布局了「備胎」計劃,任正非的硬氣、自信、大格局也迎來各界讚賞,華為內部更加眾志成城,並堅信「勝利一定屬於我們」。
  • Intel的「霸道」:深究編譯器對CPU性能的影響-Intel,AMD,編譯器...
    在CPU上有優勢主要是因為他們有自己的編譯器,為什麼AMD沒有?首先,AMD也參與了GCC編譯器工程,而微軟開發VS時也會跟AMD及Intel保持合作以便對他們的CPU作出公正(微軟語)而又統一的優化支持。另外,AMD贊助並推廣了Open64編譯器,它脫胎於一個編譯器研究計劃,後者最早是Intel贊助的、針對安騰架構所優化的編譯器項目。
  • 方舟:生存進化華為版下載
    方舟:生存進化華為版下載是一款大型生存探索沙盒手遊,由Wildcard工作室原班歐美團隊研發,依託虛幻4引擎,憑藉超高品質還原了端遊的所有玩法。
  • 華為HMS生態日益完善,有利於手機使用鴻蒙系統
    最近兩年華為可謂是一波三折,面對美國的打壓華為雖然是做到了見招拆招,但是也是在艱難前行。當然華為在晶片領域的短板還是很難解決的,不是華為能力不足,而是對手太強大。不過好在華為在別的方面這幾天又傳出了好消息,在與美國的交手中HMS幫助華為找回了一些『場子』,華為HMS用戶日活量在全球已經超過7億。這意味著華為的鴻蒙作業系統也有了底層堅實的生態支持,我相信支持鴻蒙系統的手機也會很快和大家見面的。目前華為HMS的生態圈已經日益完善,全球在華為HMS註冊的開發者也達到了160萬,接入HMS Core的應用數量也超過了八萬。
  • 獨家專訪華為諾亞方舟劉群:從 26 年學術生涯到執掌華為語音語義...
    日前,AI 科技評論有幸對劉群教授進行了專訪,主要就他在學術界長達 26 年的研究經歷、加入華為諾亞方舟實驗室的的契機、其執掌的語音語義團隊的整體布局和未來規劃以及對於自然語言處理的發展現狀和未來發展方向的看法,進行了一次深度對話。
  • 諾亞方舟在哪裡?
    諾亞方舟在哪裡? 舉世驚愕,瞪大眼睛尋覓。 在哪裡? 在哪裡?! 諾亞方舟在哪裡? 諾亞方舟,東方雄雞, 諾亞方舟,雄雞挺立! 諾亞方舟,中華大地!! (程湛馨,筆名燕山童,中國詩歌學會會員,河北省作家協會會員、河北省文藝評論家協會會員、河北省網絡作家協會會員,秦皇島市撫寧區作家協會主席、網絡作家協會主席。)
  • 華為Mate30pro再次確認:麒麟990+柔性屏,網友:華為開始反擊了
    而近日網上所曝光的關於華為Mate 30 Pro的詳細配置,也讓我們從另一個方面看到了華為針對iPhone 11所做出的反擊。990處理器,方舟編譯器和EROFS超級文件系統、擁有4500mAh的超大容量電池。
  • 華為5G機皇價格跳水,麒麟990+徠卡三攝,現在還值得入手嗎?
    在618期間,華為5G機皇價格跳水,華為Mate30 5G版到售價僅需4399元,相較於4999元的起售價跳水幅度達600元。不僅如此,該機還支持24期免息,大大降低了該機的入手門檻。但也有不少消費者猶豫,華為Mate30 5G畢竟是一款2019年9月份的機型,現在入手到底虧不虧呢?
  • cypress與Keil聯手為其PSoC Creator IDE推出編譯器
    賽普拉斯半導體公司與ARM公司的工具部門Keil聯手,為其PSoC Creator™ IDE推出高性能編譯器,用於其PSoC® 3 和 PSoC 5可編程片上系統架構。
  • 4800萬榮耀20 PRO到底多強?中國移動2019年終端質量報告說出了真相
    而《中國移動2019年終端質量報告》對整機性能的考核標準分為三個維度,每個維度中又包含不同功能體現,例如「美」中包含了帶給用戶視覺衝擊的影像和顏值體現;「知」中包含了對智慧更加有要求的AI技術體現;「效」中包含了可以提高手機效率的性能體現,這也從側面印證了用戶對目前智慧型手機的偏好需求,那麼榮耀20 PRO為什麼可以奪冠?我們一起來看看。
  • 諾亞方舟的故事,諾亞方舟在哪裡
    雖然很多網友小時候都聽過這個故事,但是諾亞方舟再一次受到熱議應該是在2012年,瑪雅人預言2012年12月世界末日只有諾亞方舟可以拯救人類。但是很多人對於諾亞方舟也許並不是很了解,所以下面大家就和小編一起來看看諾亞方舟的故事,諾亞方舟在哪裡吧。
  • 榮耀和華為的區別到底在哪裡?
    華為在手機業務上的發展也已經是很多年了,從最初的中華酷聯到現在的華為、小米、OV、魅族、一加,國產智慧型手機在行業內頗具影響力,甚至於華為在近段時間的銷量已經超過了三星,成為全球銷量最好智慧型手機品牌。而華為的智慧型手機品牌又分為華為手機和榮耀手機,一個是主打的高端旗艦品牌,一個是主打的中低端市場品牌,那麼這兩個品牌之間到底是什麼聯繫,它們之間又有什麼區別呢?華為像是家裡的老大哥,內斂,穩重,人家是要做科技行業的標杆,主要瞅準的是商務精英們的錢包。榮耀則像是一個張揚、大膽,喜歡炫酷風格的弟弟,要做的是年輕群體中的科技潮牌。
  • 方舟生存進化蠍子位置介紹 方舟生存進化蠍子在哪裡
    導 讀 相信很多玩家都不清楚在方舟生存進化中蠍子位置在哪裡?
  • 華為全球首家新模式客戶服務中心開業 到底新在哪裡
    華為給出了自己的答案。11月20日,華為全球首家新模式客戶服務中心在北京盈科中心正式開業,引得了不少人的關注,開業首日,線上預約渠道便出現了約滿的情況。既然是新模式服務中心,那麼它自然是有別於傳統的客戶服務中心,通過新的服務方式能夠給消費者帶來新的體驗。華為客戶服務中心北京盈科中心的新又體現在哪裡呢?今天我們就來說說。首先是新場景,在這裡,你能體驗到家的感覺。
  • 傳說中的「諾亞方舟」到底存不存在
    神對諾亞說,他要發動一場大洪水,對人類實行一次清洗計劃,於是命令諾亞他們一家建造一艘方舟,到時大洪水來臨時好得以逃生。還要他們在方舟建好後,選擇一些沒有汙染的牲畜,牲畜公母要平均。突然有一天,地底下噴出了大量的洪水,天上還下起了大雨,連續下了四十多天。