圖靈獎唯一華人得主PPT:人工智慧四大挑戰,影響自動駕駛

這是「汽車人參考」的第263篇原創文章

無論當前自動駕駛，或是今後無人駕駛，都離不開以人工智慧為基礎的算法、算力和數據支撐，最近也一直在學習相關的知識。

全球人工智慧頂級大咖，也是圖靈獎唯一華人獲得者姚期智，在2020浦江創新論壇上，從前瞻和頂層的角度，發表了「人工智慧面對的挑戰」，個人覺得很有啟發，這裡與讀者進行分享。

「魯棒性」和「可解釋性」是當前研究熱點

魯棒性（Robustness），這也是汽車裡很流行的詞彙，系統受到不正常幹擾時，還能保證功能正常運作。

當前機器學習十分脆弱和不穩定，將一隻小豬的照片加入些許「幹擾」，就很有可能被系統識別為飛機。

「小豬變飛機」這種漏洞，會給人工智慧應用帶來安全隱患。例如自動駕駛汽車在通過路口時，交通信號燈指示「停止」，但只要稍微被幹擾和攻擊，系統很有可能識別為「通行」，會給自動駕駛帶來嚴重安全隱患。

機器學習算法缺乏可解釋性，是人工智慧的「黑盒子」挑戰。

基於機器學習算法開發的房地產估價系統，通過學習各地房地產價格大數據，構建了價格模型，能自動評估房地產價格。

但這個價格無法用很好的邏輯去解釋，估價沒有完整的依據，賣房人心中會產生懷疑，這套系統會不會「故意」低估了這套房產價值，從而讓價格有利於買房者。

這樣的漏洞會導致人工智慧在大規模應用時，特別是涉及到安全問題，如自動駕駛時，人們會有所顧慮。

以上兩個挑戰和例子是當前人工智慧研究的熱點。

「強化學習」近幾年產生驚人效果

強化學習，在未來在三到五年內，卻是很有可能在應用上產生驚人的效果，是最有可能被突破的方向。

無人機群可輕鬆完成燈光秀、農林作業等任務，但這些任務都是人類與自然界的對抗，自然界不是非常樂意地要與人類進行對抗，這並不是一個惡意的對抗，是很容易解決的。

但如果是人和人、單位和單位進行較量，這個時候，要找到一個最優策略的空間就會變得無窮大，傳統計算機裡面從數學角度嚴格來解決問題就行不通了。

而強化學習可以解決這個問題，是目前人工智慧發展最迅速的方向，和普通的圖像識別提升1%的精度相比，這是「0和1」的較量，很有前途。

「多方安全計算」解決隱私問題

關於人工智慧的隱私保護，1982年姚期智提出了「百萬富翁」的問題：

兩個百萬富翁街頭邂逅，他們都想炫一下富，比比誰更有錢，但是出於隱私，都不想讓對方知道自己到底擁有多少財富，如何在不藉助第三方的情況下，讓他們知道他們之間誰更有錢？

在這個經典問題之下，誕生了「多方安全計算」 （Multiparty Computation, MPC）這門密碼學分支。

通過MPC，多個資料庫可以聯手做計算，卻又不透露各自的數據，最終實現數據所有權和使用權的分離。

多方安全計算，對金融科技、藥物研發等AI應用非常有用。

「超級人工智慧」終極挑戰

人臉識別等僅適用於特定領域，通用的超級人工智慧何時會到來？這存在很大的不確定性。

超級人工智慧必須可控而有益，譬如原子能和基金編輯。同時需要具備「利他的、謙卑的、盡心的」三個原則。

也就是，人的利益應凌駕於機器利益，機器不能自以為是，而且要學懂人的偏好。

期望以上分享，能讓讀者對人工智慧趨勢（自動駕駛）有所把控。

本文為「汽車人參考」原創，如果您覺得文章不錯，請轉發此文，關注「汽車人參考」是對我們最大的支持。