文|智東西
縱觀人類的發展歷史，每一次重大變革，都會使一些組織或行業產出成指數級增長。改良蒸汽機促進了工業時代的到來，而計算機的發明則引領了資訊時代的到來，兩個時代的技術革命都使生產力實現了革命性提高。
在國家層面，早就提出：加快發展新一代人工智慧是我們贏得全球科技競爭主動權的重要戰略抓手，是推動我國科技跨越發展、產業優化升級、生產力整體躍升的重要戰略資源。2020年3月4日，在強調加快新型基礎設施建設進度的中央會議上，人工智慧更是作為重點領域被再次提及和關注。
本期的智能內參，我們推薦方證證券公司的研究報告《 人工智慧發展報告白皮書 》，從人工智慧技術的新發展、面臨的挑戰、核心支撐技術、應用場景等多方面解析人工智慧的最新發展情況。如果想收藏本文的報告，可以在智東西（公眾號：zhidxcom）回復關鍵詞「nc470」獲取。
本期內參來源：新華三
原標題：《 新華三人工智慧發展報告白皮書 》
作者：楊新安 等
人工智慧最早可追溯到上世紀的四五十年代，被譽為「人工智慧之父」的艾倫·圖靈，在其論文《計算機器與智能》中，提出了非常著名的圖靈測試，即被測試的機器是否能夠表現出與人類等價或無法區分的智能。
人工智慧概念正式提出是在1956年，在美國達特茅斯學院舉辦的夏季學術研討會上，約翰·麥卡錫、馬文·閔斯基、克勞德·香農等學者參與討論「讓機器像人一樣認知、思考和學習」，這次會議上首次使用了「人工智慧」這一術語。因此，業內也一般都認為1956年是人工智慧元年。
▲人工智慧發展的三次浪潮
在過去的六十多年裡，人工智慧發展跌宕起伏，經歷了三次大的浪潮：
第一次浪潮（20世紀50～80年代）：人工智慧的起步階段，期間提出了人工智慧的概念，取得了一些突破性的研究成果，如機器定理證明、跳棋程序、LISP程式語言、首個聊天機器人等，但當時的算法理論、計算機的性能等因素，無法支持人工智慧應用的推廣。
第二次浪潮（20世紀80～90年代）：這階段主要以專家系統和日本的第五代計算機為代表。專家系統促使人工智慧從理論研究走向實際應用，並在醫療、氣象、地質等領域取得成功。但隨著人工智慧應用範圍的擴大，專家系統的缺點也逐漸顯現：應用領域狹窄、推理方法單一、缺乏常識性知識等，人工智慧的發展又進入了停滯狀態。在這階段也出現了神經網 絡算法，但是由於當時計算機的性能限制，最終也沒有較好的落地效果。
第三次浪潮（2000年～現在）：隨著信息技術蓬勃發展，為人工智慧的發展提供了基礎條件。這階段人工智慧的理論算法也在不斷的沉澱，以統計機器學習為代表的算法，在網際網路、工業等諸多領域取得了較好的應用效果。2006年，多倫多大學Hinton教授提出了深度學習的概念，對多層神經網絡模型的一些問題給出了解決方案。標誌性事件是在2012年，Hinton課題組參加ImageNet圖像識別大賽，以大幅領先對手的成績取得了冠軍，使深度學習引起了學術界和工業界的轟動。
近幾年，以深度學習為代表的人工智慧算法，在圖像分類和識別、語音識別、自然語言處理等領域取得了巨大的進步。究其原因，一方面計算機的性能得到了極大的提升，新型人工智慧晶片、雲計算技術都為大規模神經網絡計算提供了基礎平臺；另一方面是網際網路、大數據技術的發展，積累了大量的數據資源。算法、算力和數據三者的結合，直接促成了這次浪潮，將人工智慧再次推向繁榮期。
根據人工智慧的研究領域、周邊技術和涉及的產業，可以將人工智慧的技術體系分為三個層次，如圖2所示，具體包括：基礎層、技術層和應用層。
應用層：人工智慧技術與行業深度結合，針對具體的場景來實現智能化的方案，目前主要的應用行業領域包括安防、金融、醫療、交通、教育、製造、網際網路、電力等，未來將會拓展到更多的領域。
當前，人工智慧產品種類也比較多，比如機器人方面，包括家用機器人（掃地、陪伴、教育等用途）、工業機器人等；再如自動駕駛汽車，其中就使用到了大量的人工智慧技術，包括通過計算機視覺技術來識別車道線、交通標誌、信號燈等，進一步利用人工智慧算法進行決策分析，做出正確的動作指令。未來將會有更多的人工智慧產品進入生產生活當中。
技術層：產業界和學術界都比較關注的層面。底層包括各種機器學習/深度學習的開源框架等。以學術界為代表，對人工智慧的底層理論算法的研究，包括近年來比較主流的深度神經網絡算法、傳統機器學習算法，正是因為這些基礎理論取得突破，才使得當下人工智慧技術在產業化方面取得突飛猛進的發展。應用算法層主要的研究領域包括計算機視覺、語音識別、自然語言處理、決策規劃等，涉及感知、認知、決策不同的智能方向。
▲人工智慧技術體系層級
在每個研究領域中，又有很多細分技術研究領域，比如計算機視覺領域，包括圖像識別、目標跟蹤、視頻理解、行為分析、圖像超分、多維特徵識別等等。技術層是人工智慧中最為令人關注的，也是最具挑戰的，其優劣直接決定了行業應用落地的成效。
基礎層：作為人工智慧產業的底座支撐，包括硬體、軟體和數據的技術支持。硬體主要是為人工智慧應用提供強大的算力支撐，包括計算資源如GPU、FPGA、ASIC等加速晶片，網絡資源，存儲資源，以及各種傳感器件；系統平臺包括作業系統、雲計算平臺、大數據平臺等；數據資源是人工智慧技術（尤其是深度學習）獲得長足發展不可或缺的組成部分，猶如為發動機提供充足的「燃料」。
2016年，谷歌AlphaGo以4:1的成績戰勝了人類頂尖圍棋選手李世石，讓人工智慧走進了大眾的視野。人工智慧如今已不再停留在學術研究階段，開始大規模的應用到商業環境中。
人工智慧技術只有在實踐中解決了具體的問題，才能產生價值。因此合適的商業場景是人工智慧技術落地的關鍵。當前人工智慧技術主要是以深度學習方法為主，通過大規模數據驅動的機制，挖掘數據中蘊含的潛在規律。這種方法，機器並沒有真正的推理和思考的能力，並沒有人類所具有的高階智能，一般只能解決特定領域內的問題。
目前取得較好成效的主要在單任務、單領域的視覺感知方面上，有些已經做到了非常極致，甚至超越人類，比如圖像識別技術在安防、交通流量監測、閘機身份驗證等特定場景中，可以代替人工完成這些重複性的工作，取得了很好的效果。
但在認知方面目前效果不盡人意，還達不到像視覺感知領域的效果。隨著谷歌BERT等算法的突破，對於自然語言語義的理解和認知方面，也漸有起色。
由於目前人工智慧算法機制對數據集的重度依賴，需要有足夠的數據，而數據都是在行業場景中積累產生的，比如醫療影像數據、金融交易數據等。因此，將人工智慧技術與行業場景結合才能發揮人工智慧的價值。並且只有在場景歷練通過不斷的反饋機制，使數據形成閉環，才能持續不斷迭代優化和提升算法精準度。
人工智慧對企業變革影響巨大，在未來15年內，人工智慧和自動化技術將取代40-50％崗位，同時也帶來效率的提升。
例如，在工業製造領域，AI技術將深度賦能工業機器，將會帶來生產效率和質量的極大提升。採用AI視覺檢測替代工人來識別工件缺陷，帶來的益處：
識別精度，基於圖像數位化，可以達到微米級的精度；
無情緒影響，可以長時間保持穩定工作；
檢測速度，毫秒級就能完成檢測任務。
隨著人工智慧技術的普及，人們的居住、健康、出行、教育、娛樂等多方面的生活方式都將從中受益。
智能家居將會是人工智慧技術應用的一個重要突破口。未來，智慧家居助理會統籌管理所有智能家居設備，使其協同工作，根據不同的活動場景，為人們營造更加舒適和安全的居住環境。人們不再是通過雙手去操作使用各種電器，而是通過更加自然的方式與智慧家居助理交流，輕鬆地讓各種電器完成任務。
醫療也將是人工智慧大展身手的領域。AI技術的推廣，可以很大程度緩解當下的醫療資源緊缺、醫護人員工作強度大等問題，使更多的民眾受益。另外，通過健康穿戴設備，監測人們的生理數據，對人們的日常健康狀況進行檢測管理，做到疾病的提前預防。
人工智慧在糧食保障、能源利用、氣象預測、環境汙染、自然資源保護等領域上應用，可有效改善人類生存環境，促進人與自然和諧共生。
農業是人類賴以生存的基礎，為人類提供每天所需的食物。據《2019年全球糧食危機報告》顯示，全球仍有1億多人處於重度飢餓狀態。自然災害和氣候變化是導致糧食不安全的部分關鍵因素。人工智慧在一定程度上可以改善農業所面臨的問題。例如2019年底在全球較大範圍內發生的非洲蝗蟲自然災害，造成部分地區糧食大幅減產。
有些機構組織開始著手研究如何利用人工智慧技術結合衛星遙感地理信息，對類似的自然災害進行預警，減少農業損失。另外，利用人工智慧技術對小地域範圍內實時、精準的氣象預測，可以指導農業實施過程，在什麼時間適合進行播種、施肥、灌溉、採摘等。人工智慧還可以用於篩選優良種子，達到糧食增產的目的。
正因為人工智慧技術能夠對人類社會產生巨大效益，國家政策、資本等方面也大力支持，企業積極布局人工智慧戰略，增加研發投入、加快商業落地。人工智慧產業一片向好的景象。但在繁榮的背後，人工智慧也面臨諸多挑戰。據《IDC中國人工智慧軟體及應用市場半年度研究報告，2019H1》顯示，面臨的挑戰主要有缺乏人工智慧技術人員、缺乏高質量數據集、應用場景、成本等多個方面。
▲《IDC中國人工智慧軟體及應用市場半年度研究報告，2019H1》市場調研
面對這些挑戰，我們應該理性對待，尋找合適的解決方法，打造有利於人工智慧健康發展的良好環境。
場景化落地面臨的挑戰。目前，人工智慧商業落地效果比較好的是安防、金融等行業領域，在其他領域的部分場景中，落地效果並不是太理想。究其原因，一方面是安防、金融等落地效果好的領域，都是有良好的數位化基礎的，多年來積累了大量有價值的數據，利用人工智慧技術來挖掘數據價值自然是水到渠成。
另一方面，是對當前人工智慧算法所能解決問題的邊界沒有釐清，與用戶期望的有偏差，用戶期待的效果，可能當前AI算法還達不到成熟標準，而AI算法能解決問題的場景，還有待進一步挖掘。對此，建議各行業領域的企業，在實施人工智慧應用落地過程中，優先完成數位化改造，積累行業數據，然後再實施合理的智能化業務。
技術方面的挑戰。 在人工智慧技術層面上，也面臨一定程度的風險，主要表現在數據和算法上。首先， 當前算法嚴重依賴有標註的數據。數據在人工智慧商業化落地中有著不可替代的作用，目前人工智慧算法以有監督的深度學習為主，即需要標註數據對學習結果進行反饋，在大量數據訓練下，算法才能取得預期的效果。算法從大量數據中進行學習，挖掘數據中蘊含的規律。數據決定了人工智慧模型精度的上限，而算法則是不斷逼近這個上限。
其次， 高質量數據需求導致數據成本高昂。為了提高數據的質量，原始數據需要經過數據採集、清洗、信息抽取、標註等處理環節。得益於大數據技術的快速發展，當前採集、存儲海量數據已經不再是難事。在時間和成本上，數據標註成了制約環節。目前數據標註主要是人工標記為主，機器自動化標註為輔助。但是人工標註數據的效率並不能完全滿足算法的需求，研究提升機器自動化標註的精度，是提高效率的重要思路，也是數據標註的一個重要趨勢。
數據噪聲、數據汙染會帶來人工智慧安全問題。人工智慧訓練模型時用到的訓練數據，如果數據本身有較大的噪聲，或者數據受到人為破壞，都可能會導致模型決策出現錯誤。由於一些客觀因素，訓練數據中不可避免含有噪聲，如果算法模型處理的不得當，可能會導致模型漏洞，模型不夠健壯，給黑客有了可乘之機。
另外，也存在黑客故意在訓練數據中植入惡意數據樣本，引起數據分布的改變，導致訓練出來的模型決策出現偏差，進而按照黑客的意圖來執行。從數據源角度進行攻擊，會產生嚴重的後果。例如在無人駕駛車輛上，會誘使車輛違反交通規則導致事故。
當前深度學習算法有一定局限性。深度學習算法通過構建大規模多層次的神經網絡模型，從大量數據中學習經驗規則，從而達到擬合複雜的函數來解決實際問題。深度學習模型的學習能力強，效果也非常好，但在實際應用過程中依然面臨資源消耗、可解釋性、安全等方面的挑戰。
深度學習訓練的時候需要處理大量的數據，模型單元也會做大量的計算，所以會耗費大量的存儲和計算資源，成本高昂。即使是在模型推理階段，計算量相對較小，但在邊緣、端側部署深度學習模型，仍然需要對模型經過壓縮、剪枝等出來，來進一步降低計算量。目前國內很多企業在研究端側的AI晶片，提升邊緣側的計算能力，相信未來計算力的問題會得到解決。
人工智慧模型的可解釋性，是指人類能夠理解機器做出決策原因的程度。由於深度神經網絡模型異常複雜，參數量巨大，導致模型成為「黑箱」，我們很難獲知模型預測結果的準確原因，也不知道模型會在什麼時候或條件下會出錯。這就導致了在一些如醫療、無人駕駛等關鍵場合中，使用深度學習都比較謹慎。當然在學術界，也在積極研究可解釋性的人工智慧，包括如何改善用戶理解、信任與管理人工智慧系統。
深度神經網絡非常容易受到對抗樣本的攻擊的。一些圖像或語音的對抗樣本，僅有很輕微的擾動，以至於人類無法察覺這種擾動。但對於模型卻很容易覺察並放大這個擾動，進而處理後輸出錯誤的結果。這個問題對於在一些關鍵場合下危害非常大。對抗與攻擊也是深度學習研究領域的一個熱點，已經有很多防範攻擊的方法來降低風險。
人工智慧技術是一把雙刃劍，一方面能推動社會進步和經濟發展，另一方面也會帶來法律、隱私保護、倫理等的風險。人工智慧技術的運作效率極高，如果被不法分子利用了，發起網絡攻擊或者竊取機密信息，將會產生巨大的危害。
另外，深度學習依賴於數據，在數據採集過程中，不可避免的會收集到用戶的一些隱私數據，涉及個人的生活習慣、健康等數據，如果這些數據不加以監管被亂用，勢必會造成隱私侵犯。針對這方面風險，國家也在研究應對措施。
在《新一代人工智慧發展規劃》中明確指出，到2025年，我國初步建立人工智慧法律法規、倫理規範和政策體系，形成人工智慧安全評估和管控能力。在2019年6月，《新一代人工智慧治理原則——發展負責任的人工智慧》發布，提出了人工智慧治理的框架和行動指南。
相信隨著技術上的進步，法律、社會規範的出臺，人工智慧將會朝著安全可靠、公平、保護隱私等正向發展，促進人類福祉。
在2012年，Hinton課題組參加ImageNet圖像識別大賽，其AlexNet模型以大幅領先對手的成績取得了當年的冠軍，使得深度學習算法一時間轟動整個學術界和工業界。
深度學習算法本質上也是神經網絡，早在上世紀80年代就已經誕生。AlexNet模型使用了比以前更加深層的網絡，參數量高達千萬級，使用了大規模的圖像樣本進行訓練，當然也有一些細節上的算法創新。
當時支撐AlexNet模型的實現，是基於兩塊英偉達GTX 580的GPU，完成了當時CPU難以短時間完成的任務。從此，業內普遍認同了兩方面的事實：一方面是神經網絡的模型規模增大有助於提升識別效果；另一方面，GPU卡可以提供非常高效的算力，用來支撐大規模神經網絡模型的訓練。
近幾年，業內各廠家意識到算力的重要性，分別推出多種加速卡如GPU、谷歌的TPU等，用於加速人工智慧計算，直接推動了人工智慧算法飛躍式的創新。從2012年到2018年期間，以計算機視覺為主的感知類智能取得了突飛猛進的發展，有些領域如多維特徵識別等，其識別率遠遠超越了人類水平。
在2018年末，谷歌發布的BERT模型，在11項不同的NLP測試取得最佳成績，直接推動了NLP認知類智能的突破。在這驚人成績的背後，是強大算力提供的支撐。跟據作者描述，BERT-Large模型是在33億詞量的數據集上訓練的，擁有3億多的參數。試想一下，如果沒有能支撐這麼大計算量的算力資源，也許很難驗證算法的效果，算法創新也就更加不易。
另外，數據的爆發式增長，對算力的依賴也十分強烈。根據IDC報告顯示，「數據總量正在以指數形式增長。從2003年的5EB，到2013年的4.4ZB，在2020年將達到44ZB」。面對海量的數據，使用人工智慧算法挖掘其中的價值，也必須有強大的算力支撐才能實現，這也直接關係到人工智慧應用的創新和發展。
當前這種以深度學習訓練算法為主的時期，對算力和數據的需求是驚人的。OpenAI對近年來的模型訓練和算力需求做過一個分析總結，自2012年以來，最大規模的AI訓練運行中使用的計算量呈指數增長，且翻倍時間為3.4個月，遠快於晶片工藝的摩爾定律。
為了支撐巨大的算力需求，一種行之有效的方法就是採用異構計算集群。在人工智慧領域中，異構計算是指聯合了通用的CPU和面向AI運算加速的GPU/FPGA/ASIC等不同計算體系結構處理器的計算系統。另外，單顆晶片的計算能力是有限的，且隨著摩爾定律失效，僅從晶片角度來提升算力相對來說比較困難。
業界一般採用計算集群的方式來擴展算力，通過把成千上萬顆計算晶片，整合在一個系統中，為人工智慧模型的訓練和推理應用提供支持。目前，鑑於GPU的通用性、性能和生態等因素，面向人工智慧的異構計算集群，仍然以CPU+GPU的方式為主流，但在一些特定應用場景中，CPU+FPGA/ASIC的方式也有一定的優勢。
另外，異構計算集群實現算力的擴展，不單是硬體設備上堆砌。由於人工智慧特有的計算模式，設計面向人工智慧計算的集群需要區別傳統通用計算集群，如在進行模型訓練的時候，集群計算節點間需要大量且頻繁的周期性數據同步等，都是需要考慮的因素。
為了提升性能，需要考慮系統軟體和計算框架層面上的優化，如何合理的調度AI任務來最大化地利用計算資源。同時也還需要考慮高性能的網絡和存儲，來保障集群整體性能。
提升算力的另一條途徑，就是從晶片層面去實現。相對於傳統程序，AI計算有著明顯的特徵，導致傳統處理器無法滿足：當前很大一部分AI應用，處理的是視頻、語音、圖像等非結構化數據，計算量巨大且多數為矩陣運算，非常適合併行處理；另外，深度學習模型參數量非常多，對存儲單元訪問的帶寬和時延直接決定了其計算的性能。
為此，一方面可以通過不斷的改進優化現有計算體系晶片的計算能力，從早期的CPU，到專用於並行加速計算的GPU，以及在特定場景應用的FPGA和ASIC晶片，都是在朝著適應AI計算模式的方向優化，加速AI運算過程。
這種方式是目前AI計算加速的主流方式。另一方面可以採用新型計算架構，如類腦晶片、量子計算等，從根本上顛覆現有計算模式。2019年8月，清華大學類腦計算研究中心研製的Tianjic晶片登上了《自然》雜誌，展示了類腦晶片的潛力，是未來AI晶片的一個重要方向。
▲AI加速晶片及應用場景
不同的計算場景對算力的需求特點是有差異的：
在雲端/數據中心的訓練場景中，更多的關注算力的性能、精度、擴展性、通用性、可編程、能耗效率等；
在雲端/數據中心的推理場景中，對算力考量的側重於吞吐率、延時、擴展性、能耗效率等；
在邊緣端的推理場景中，考慮更多的是延時、能效、成本等。
隨著市場的強勁需求和國家政策的引導，國內研發AI晶片呈「井噴」趨勢，眾多廠家加入到了造芯行列當中。針對不同的人工智慧應用場景，各個廠家都在打造各具特色的晶片。尤其是隨著物聯網的普及，端側應用場景更加繁雜，AI晶片百家爭鳴的態勢，有助於解決AI多樣化的算力需求。
數據、算法、算力是人們常說的AI發展三要素，必然在AI中起著至關重要的作用。那麼除了這些，是否還有其他因素關係其發展呢？我們試想，AI是一輛火車，數據、算法、算力、好比其燃料、發動機，有更多，更好質量的燃料，才能讓火車跑的更遠，更先進的發動機才能使火車跑的更快。不過，在實際火車運營中，僅僅這些是不夠的。
火車要在鐵軌上運行，也就是有了更好的路，火車才能四通八達、通暢無阻。AI面對實際應用也是如此，其爆棚的數據量和超高的算力要求都不是一臺普通的伺服器能夠完成的，需要大規模的集群，集群中伺服器、存儲設備間的網際網路就是AI中的「路」，而這些當前的「路」是不能滿足大規模AI訓練場景需求的。
除了「路」之外，火車是用來運輸貨物或者人，那車廂本身的存儲容量以及裝卸車的速度也是火車運營的重要指標。對應到AI應用中就是存儲容量及數據讀寫訪問技術。
大規模AI訓練場景對網絡之「路」要求很高，有多方面原因。
首先，AI相關業務通常包含大量的圖像、視頻等非結構化數據，數據量上有一個指數級的增長，需要保證這些海量非結構化數據順暢、快速通過才能使AI系統平穩運行。
其次，AI運算相比以往運算更加複雜，一次智能化業務背後要幾百個模型計算，每次計算並非一臺伺服器能完成的，需要龐大算力和複雜的異構計算，背後實現往往是通過大規模集群並行處理的，那麼集群中的伺服器快速通信就成為完成一次計算任務的關鍵要素之一。
第三，AI業務很多需要實時學習，算法在框架層和應用層需要保持高精度一致。這些要求都是現存乙太網所不具備的，其中千分之一的網絡丟包對AI的影響都是巨大的。這個如同以前的馬車走土路，壓過一塊小石頭，或許就是有個小顛簸，不會發生什麼大問題，但是如果鐵軌上有一塊小石頭，可能就會造成火車的出軌，後果不堪設想。
當前鋪設的這條網絡「路」主要技術有TCP/IP及乙太網，這是最常用的網絡傳輸技術，其優點是應用範圍廣，成本低，兼容性好，缺點也很大，網絡利用率低，傳輸速率不穩定等。InfiniBand是一個用於高性能計算的網絡標準，伺服器間、 伺服器與存儲設備間、存儲設備之間均可以使用其進行傳輸。
它的優點就是傳輸性能好，可惜在大規模應用中支持不好，而且需要特定網卡和交換機的支持，成本相對高昂。還有諸如Intel提出的Omni-Path等技術，都是為了優化網絡性能，不過均存在各種兼容、成本等問題。
要滿足AI的大規模訓練需求，我們需要一種綜合的網絡解決方案，既能廣泛大規模使用，價格低廉、成本可控，又能夠完成高性能AI計算的需求。這首先要保證網絡達到90%以上的帶寬有效利用率的同時，網絡中無丟包，並確保低時延。
通過RoCEv2、Lossless無損網絡流控技術綜合方案可以實現上述需求。RoCEv2即RoCE（RDMAover Converged Ethernet，基於乙太網的遠程直接內存訪問）的第二個版本，較第一個版本支持跨IP子網的通信能力。該技術主要解決兩大問題：
1、 通過遠程直接的內存訪問繞過作業系統內的多次內存拷貝，遠程節點的CPU無需介入，降低CPU負載，數據直達對端應用buffer。測試顯示數據從CPU到網卡出口時間通過RoCEv2技術可以有效提升8倍，RoCEv2在提高網絡吞吐量的同時極大的降低了數據包傳輸延時。如圖5所示，傳統TCP/IP與RDMA方式的數據移動對比。
2、 RoCEv2是RDMA在乙太網上傳輸的實現，部署時僅兩端點需要採用專用的網卡硬體，中途路徑採用原有乙太網線路及設備即可，相較InfiniBand等技術大大降低了成本。
▲傳統TCP/IP與RDMA方式數據移動對比
RoCEv2解決了成本、延時、吞吐等問題，這樣還是不夠的，上面提到面對大規模AI計算，網絡中是不能出現丟包。這就需要Lossless無損網絡流控技術來保證。如圖6所示，無損網絡解決方案部署參考。
▲無損網絡部署參考
其實現包括如下幾個方面：
1、需要支持PFC流控能力，當某一優先級報文發送速率超過接收速率時，通過向上一跳發Pause幀通知上一跳設備暫停發送本優先級報文，實現不丟包機制；
2、開啟快速ECN能力，向服務端快速進行通告反壓，保證流量將要出現丟包時，快速通知發送端進行降速；
3、用戶可選擇開通ETS將網絡中的流量優先級分成不同的優先級組，為每組分配一定帶寬，如果一個組未消耗完為其分配的帶寬其他組可以使用這些未使用的帶寬，達到資源的合理分配及充分使用；
4、交換機與伺服器網卡之間，通過開啟LLDP協議的DCBX TLV，其報文中攜帶ETS/PFC配置狀態，實現全網的DCBX能力通告和協商，保證網絡無丟包。
5、通常的一個訓練模型需要千萬甚至上億的文件數量，面對這樣的海量數據訪問，傳統分布式文件存儲架構（如HDFS，MooseFS等）就顯得相形見絀了；
6、 很多的訓練模型都依賴於圖片、音視頻片段，為了進行更有效的特徵分析，即便是大文件也會被切片成小文件。有些特徵文件小到幾十、幾百字節，也有很多都在幾KB到幾MB之間。而傳統分布式存儲是針對大文件設計的，集群容量是其首要考慮的問題，面對AI訓練場景，80%以上是小文件，首要解決的是文件系統支持海量小文件的問題；
7、 業務部門數據組織存儲的不確定性，導致系統管理員不知道數據怎麼存儲的，很可能將大量文件放在同一個目錄節點上，這樣在AI進行訓練時，會同時讀取一批數據，數據所在目錄的元數據節點成為「熱點」被大量訪問，從而導致訓練性能出現問題。
這幾個問題就如同過去的綠皮車時代，車次少，乘客少，停車時間還長，那麼上下車就沒什麼特別要求，大家慢慢上，慢慢下，反正時間很充裕。而現代高鐵時代，車次多，有的地方甚至十五分鐘左右一班車，車廂長了，乘客還都滿員，每站停車時間幾分鐘，有些甚至1分鐘，這樣就要求有合理的上下車次序和分流等手段進行優化。
針對AI對存儲訪問的特殊應用需求，同樣需要針對性的進行優化。如將單點MDS（Metadata server，元數據伺服器）進行橫向擴展，形成MDS集群。MDS集群可以緩解CPU、內存壓力，同時存儲更多的元數據信息，並提高海量文件並發訪問性能。
這點像火車乘車進站以前的一個兩個檢票口，現在擴充到十個左右，減輕一兩個檢票口的壓力，同時能夠一起進出更多的乘客。針對小文件，可進行小文件內聯、聚合，客戶端讀緩存等優化手段。這點可以理解為，老人小孩的，一家人一起提前檢票進站。
而「熱點」訪問問題，可採用目錄鏡像擴展或增加虛擬子目錄的方式。同樣映射到坐火車場景，可以理解為乘車時點餐服務。以前是大家都到餐車排隊購買，現在是將二維碼都貼到每個座位上，自己使用手機掃碼就可以點餐，到時乘務員會按照座位把餐送來。
綜上，我們可以看到，真正的AI時代，不僅僅是其三要素數據、算法、算力技術發展就能滿足的，同時對AI的運行環境也提出了更多挑戰。當前是把AI效能發揮最大的一系列技術共同發展的時代，而非僅AI技術本身，相關技術要合力前行。無論是網絡還是存儲技術應走到更前面，在全球產業智能化轉型中充當開路者的重要角色，為AI提供更順暢的運行環境。
雲計算的核心依靠雲端超強的計算能力來完成計算要求很高的任務。進入雲計算時代，由於雲計算在成本、效益、規模、自動化和集中性等方面給企業帶來的好處，大量人工智慧服務完全部署在雲上或者在很大程度上依賴於雲。與此同時，隨著物聯網等技術的不斷發展、數據的不斷增加，如何在數據從生成到決策再到執行的整個過程中，保持儘可能小的延遲，就顯得尤為關鍵。在一個只有「雲」的世界中，數據可能要傳輸幾千甚至上萬公裡，較大的延遲是在所難免的。
對於一些時延敏感的人工智慧應用場景，如自動駕駛汽車，對實時性要求極高，純粹依靠雲端的能力是難以滿足的。另外，一些數據敏感的場景中，將數據上傳到雲端進行智能計算，也會面臨一定程度的風險。雲端服務在這些人工智慧場景中的應用效果大打折扣，而邊緣計算則可以有效解決這一問題。
邊緣計算作為雲計算的延伸拓展，是一種分布式處理和存儲的體系結構，它更接近數據的源頭。它是將計算任務從數據中心遷移到靠近數據源的邊緣設備上，因此它更擅長處理實時性、安全性要求較高的計算任務。基於邊緣計算的方式，大大降低了網絡延遲，處理數據更加快速，支持企業更快更好的做出決策。
▲邊緣計算模型
在人工智慧應用場景中，將一些重量級的AI訓練任務，或者對時延不敏感的任務，放置在雲上進行，而將一些輕量級、或者對時延敏感、或者對數據安全有要求的AI計算任務，下沉到邊緣設備或者終端設備中執行，通過邊緣、終端和雲端協同來實現快速決策、實時響應。在萬物智聯時代，只有雲、邊、端緊密協同工作，才能更好地滿足各種AI應用場景的需求，從而最大化AI的價值。
雲邊端協同工作將成為人工智慧應用部署的重要方式，可以滿足雲端AI短板，即時延或數據安全等方面，為支持更多有嚴苛要求的AI應用場景鋪平道路，提升應用效果。
▲雲邊協同的智能安防應用
在智慧安防場景中，傳統方式下需要將大量攝像終端採集到的視頻數據，通過網絡直接傳輸至雲端或伺服器進行存儲和處理，不僅加重了網絡的負載，也難以滿足業務低時延快速響應的需求。通過增加邊緣計算節點，將攝像採集終端採集的數據匯聚到邊緣節點，從而有效降低網絡傳輸壓力和業務端到端時延。
此外，智慧安防與人工智慧相結合，在邊緣計算節點上搭載AI人工智慧視頻分析模塊，面向智能安防、智慧安防、軌跡跟蹤、多維特徵識別等AI典型業務場景，以低時延、大帶寬、快速響應等特性彌補當前基於雲端AI的視頻分析中產生的時延大、用戶體驗較差的問題，實現本地分析、快速處理、實時響應。
▲雲邊協同的智能水利應用
在智慧水利場景中，5G、智慧安防、邊緣雲和AI分析緊密結合，可以智能的識別出水利業務中的異常場景（河道漂浮物、釣魚、遊泳、非法採砂等），做到無人值守，實時告警。採用邊緣計算（MEC）的網絡結構在河道附近部署無線攝像頭，在運營商本地機房部署MEC平臺。
實時性要求高的業務部署在邊緣雲，其他業務部署在中心雲，實現雲邊協同。視頻流經MEC分流後，將流量進行本地化分流，在本地完成AI智能分析，實施將告警信息上送中心雲。在本地進行業務流量的分流和處理，不僅提高了響應速度，而且減輕對運營商核心網絡的數據傳輸壓力。
在智能家庭場景中，邊緣計算節點通過各種異構接口就近匯聚、存儲和處理邊緣節點上的各類異構數據，執行AI任務，對敏感數據就地處理，不出本地，有力地保護數據隱私，同時將處理後的非敏感數據統一上傳到雲平臺。用戶不僅僅可以通過網絡連接邊緣計算節點，對家庭終端進行智能控制，還可以通過訪問雲端，對過往非敏感數據進行訪問。
在智慧交通場景中，汽車作為邊緣計算節點，通過集成的採集裝置採集實時數據，並與路側邊緣節點進行交互。邊緣計算節點進行視頻的就地處理和識別，將識別的車輛和位置信息通過5G等通信手段回傳到雲計算中心。雲計算中心通過大數據和人工智慧算法，為邊緣節點、交通信號系統和車輛下發合理的調度指令，從而提高交通系統的運行效率，最大限度的減少道路擁堵。
人工智慧技術發展迅速，目前在各行各業的應用已經日益普及，但人工智慧系統和技術自身的安全風險也越來越成為不能迴避和不可忽視的風險，甚至在某些場景下還會帶來很大的問題。
▲人工智慧系統自身面臨的安全風險
目前人工智慧在智慧型手機、辦公設備、智能家居上的應用越來越多，很多人家裡都有了智能音箱，另外不少電視、冰箱、電飯煲、空調、窗簾等都具備了人工智慧的功能，人們使用語音或者手勢就可以指揮它們幫人們完成查詢天氣預報、查找信息，甚至燒飯做菜，調節室內環境等。由於這些智能設備為了隨時響應主人的召喚，需要實時在線，加上其日益強大和不斷升級的語音、圖像和視頻的感知、認知能力，有可能對主人家裡每個人的一舉一動了如指掌，用戶在享受了人工智慧帶來的便捷服務的同時也帶來了自己和家庭隱私洩露的隱患。
人工智慧平臺和模型洩密風險主要有：模型竊取攻擊和用戶數據竊取攻擊。指的是攻擊者基於反覆查詢並分析人工智慧系統的輸入、輸出參數和其它外部信息，從而推測和猜測出系統的模型參數、訓練參數和訓練數據等信息。
目前很多雲服務商提供了AI即服務（AIaaS），由AI服務商負責模型訓練、識別等服務，對公眾開放，用戶可使用開放接口進行各種人工智慧識別等操作。但通過反覆調用AIaaS的識別接口，有經驗的攻擊者就可能通過多次返回的信息從而還原出AI模型的各種參數等關鍵特性，從而把AI模型竊取到。或者即使不能完全竊取到原模型，也可以通過竊取到的信息構建機器學習的對抗樣本或模型，從而對人工智慧系統進行下一步更深層次的攻擊。
在用戶提供訓練數據的情況下，攻擊者可能通過反覆查詢訓練好的機器學習模型，獲取到用戶的隱私數據。
當前的人工智慧模型和算法非常依賴於輸入數據的真實性、完整性和全面性。從攻擊者視角，惡意的數據注入是進行對抗樣本攻擊的重要手段。數據真實性風險主要體現在訓練數據真實性和判斷數據真實性兩個方面。
攻擊者在訓練數據中摻入的惡意數據，可能會大大影響機器學習模型訓練的有效性，降低人工智慧模型的推理能力。例如，研究者發現，只需要在訓練樣本中摻雜少量的惡意樣本（藥餌攻擊），就能很大程度感染AI模型的準確率。通過加入藥餌數據，在人工智慧健康資料庫應用中，攻擊者可以使模型對超過一半的患者的用藥量建議闡述超過四分之三的變化量。
在機器模型的判斷階段，對被判斷數據樣本加入少量噪音，即可能大幅改變判斷結果的準確性，甚至出現風馬牛不相及的結果。比如著名人工智慧科學家Ian Goodfellow曾發布論文，通過圖像生動闡述了基於判讀數據投毒的對抗樣本攻擊概念，一張原本是熊貓的圖片，在加入了少量幹擾白噪聲後，人眼看還是熊貓，但機器學習模型直接將其識別為長臂猿，且可信度高達99.3%。
包括TPU等AI專用晶片，GPU，CPU，FPGA，還有大到AI計算伺服器集群，小到我們的智慧型手機、終端，都可能存在軟硬體設計缺陷、安全漏洞、後門。例如處理器硬體的安全風險，可能很多人並不陌生，如2018年全球最大處理器生產商英特爾爆出的Meltdown漏洞，該漏洞被認為是史上最嚴重的處理器漏洞之一，本質上是英特爾處理器的預測執行技術設計缺陷，但由於預測執行讀取的數據防護不當，破壞了位於用戶和作業系統之間的基本隔離，從而可能允許惡意代碼訪問主機任意內存，進而竊取其他應用程式以及作業系統內核的敏感信息。這個漏洞「熔化」了由硬體來實現的安全邊界。允許低權限用戶級別的應用程式「越界」訪問系統級的內存，從而造成數據洩露。
而且漏洞修復會不可避免地造成處理器性能的降低。另外，研究人員發現，在晶片製造過程中也可植入後門，或者硬體木馬。攻擊者只需要通過短時間在處理器上運行一系列看上去非常安全的命令，就能夠地觸發處理器的某個隱藏邏輯，從而獲得作業系統的高級權限。而更加讓人擔心的是，這種非常微小的硬體後門基本無法通過任何硬體檢測和安全分析手段檢測出來，並且可能只需要晶片工廠中的某位普通員工就能完成此項任務。
至於軟體設計、編碼過程中由於不小心、不遵守設計和編程規範等，無心埋入的軟體Bug，甚至別有用心的軟體後門的植入，一直都是軟體開發和應用全生命周期中需要解決的重大課題，在人工智慧軟體系統中也不例外。而且由於人工智慧系統的黑盒性和不可解釋性，使得軟體後門更難以被檢測。
騰訊安全平臺部預研團隊曾發現某著名人工智慧系統框架存在自身安全風險，可被黑客利用，生成惡意模型文件，對使用該框架和平臺的人工智慧研究者進行攻擊，受害者自身的人工智慧應用可能被竊取或惡意篡改、破壞。
該漏洞危害面較大，一方面攻擊成本低，不需要太高深的人工智慧技術能力，普通攻擊者即可實施攻擊；另一方面迷惑性強，使用該平臺的大部分人工智慧研究者可能毫無防備；同時因為利用了該框架自身的跨平臺機制，其在PC端和移動端版本均會受到影響。
人工智慧架構、操作模式和運作流程設計的不合理。比較典型的例子有，去年某著名快遞企業的快遞櫃，被人發現使用用戶的照片就可以輕鬆通過其多維特徵識別系統的安全驗證，從而取走物品；目前還有一些企業的無接觸考勤系統也未能基於三維特徵來進行識別，也存在類似問題，這種由於各種原因導致的架構或工作流程設計缺陷使得人工智慧系統的安全性存在漏洞，容易被不法分子利用。
另外，AI模型的可檢測性、可驗證性、可解釋性普遍不足，在目前AI應用優勢領域的語音、圖像、棋類競技類場景，可解釋性差可能問題不大，因為結果一般是可以快速取得並且顯而易見的，只要AI系統識別的結果是好的，人們可以忍受它繼續以黑盒形式存在。但對於有些場景，不可解釋性則會帶來一些法律上或者業務邏輯上的關鍵風險。例如在銀行給用戶發放貸款前的AI評估系統中，如果AI模型無法給出做出相應判斷的依據和來龍去脈，那就無法獲得用戶的充分信任，如果連其深層次的判斷原理和規則都無法得知，該系統也就很難說是一個安全的系統。
綜上可見，人工智慧技術是一把雙刃劍，用好了可以造福人類，而如果用不好，甚至被惡意利用，也會給個人、企業、社會甚至國家的安全帶來危害。未來我們需要更多地從基礎技術到頂層設計上，從AI應用的全流程上考慮，對人工智慧系統和技術進行端到端的安全設計和優化，以使人工智慧技術能朝向構建信任和理解，尊重人權和隱私的方式進一步蓬勃發展。
智東西認為， 近幾年來，隨著數位化基礎設施的不斷完善，再加上以深度學習為代表的算法上的突破，人工智慧技術日漸成熟，已經在安防、金融、客服、工業製造等領域，取代了大量重複性高、繁瑣枯燥或者大量使用人工並不經濟的工作，不僅降低成本，而且生產效率提升也十分顯著。隨著5G商用落地，高帶寬、低延遲、大接入的特性將會進一步拓寬人工智慧應用場景的邊界，未來3-5年，為人工智慧技術在產業智能化的爆發奠定堅實的基礎。