胡逸
2020-10-21 15:42 來源：澎湃新聞
熱播電視劇《沉默的真相》，講述了隱藏在一起自殺案後面的不可告人的罪惡。一群好人，為了尋求正義，歷經十載，不斷碰壁，不斷失敗，最後只能以共謀和放棄生命的方式來拼死一搏。劇中呈現了三條時間線，2000年的侯貴平，2003年的江陽和2010年的嚴良。編劇為什麼把時間軸選在了2000到2010年這十年，而不是2010-2020這十年？
看完全劇，才發現這群好人最後得以獲勝的物證是一張照片。而如果放在後十年這麼一個時代背景，公安幹警們完全可以調用「雪亮工程」支撐下成千上百的攝像頭，來找到更多的物證。
讓我們想像一下這麼一個場景，如果政府有權接入每個人的電子設備（包括但不限於手機、穿戴式設備、智能音箱等等），獲取他們的地理位置、記錄他們輸入的文本內容，點擊的手機應用或網頁，甚至監聽每一通電話和每一條微信和簡訊，許多犯罪行為會被抓個現行，乃至提前制止。當然，會有反對派會站在隱私的角度站出來，反駁說這是奧威爾式的監控。但是，如果你是好人，你幹嘛要害怕呢？政府會保證，這項人工智慧技術只用於打擊犯罪，所有的無關信息和數據會受到嚴密保護和及時銷毀。
讓我們想像一下這麼一個場景：《沉默的真相》中，好幾次，相關犯罪嫌疑人，比如小寡婦丁春妹、黃毛，都快要開口交代了，但因為種種原因和阻礙，或被滅口，或被封口。如果人工智慧技術在2090年，通過機器深度學習技術，通過分析核磁共振掃描儀等腦部傳感器搜集的大腦數據，直接還原出嫌疑人腦中的真實想法和事實。那麼，法庭的證據質證階段是否會變得更快、更簡單和更公平？
自然，隱私派的支持者還是會站出來質疑，如果這種人工智慧系統犯錯誤了怎麼辦？還有，人類的壞思想，或者只要有犯罪的計劃，是否能夠接受合法的檢查？同樣，技術派會回答，既然你坐飛機，坐高鐵，能夠接受隨身攜帶物品接受儀器檢查，為什麼人腦就不可以呢？現代技術可以保證，只檢測違法亂紀的那部分，而自動忽略屬於你個人的那部分好的思想。在公平和隱私之間，在保護社會整體利益和維護個人自由之間，界限在哪裡？這條界限會不會不可阻擋地逐漸走向減少隱私的那個方向，以此來抵消證據會被隱藏和偽造的不良影響？
讓我們再次發揮想像力，模擬一下這個場景：如果有朝一日，有人可以藉助人工智慧，生成一段你實施犯罪的虛假視頻，而且它以假亂真，看起來非常真實，那麼，你是否會投票支持政府藉助人工智慧追蹤每個人，包括實時位置和通話記錄，以此來洗刷你被栽贓陷害的罪名？
英國電視劇《真相捕捉》（The Capture）就是講述了這個故事：從阿富汗反恐回國的士兵肖恩受審時，戰友攜帶的單兵視頻記錄儀拍攝下了他在戰場上濫殺無辜的鏡頭。而在即將被判決時，有一個視頻專家為大家提供了另一個調整後的版本。由於單兵視頻記錄儀視頻畫面和音軌不同步的原因，當調整完畢後，法官發現肖恩的開槍是絕對合理的，肖恩被當庭釋放。但很快，肖恩又被控謀殺，一段街頭公共攝像頭拍下的視頻，證明肖恩在無人的公交站頭扭打他的律師漢娜；而事實上卻是肖恩向漢娜表白後，她上公交車回家了。最後的真相是：律師漢娜假扮自己被殺，借用肖恩上一個案件的名聲將當局用高科技手段篡改視頻，構陷恐怖分子入獄的事實公之於眾。
這是編劇構撰的一個「人工智慧時代的電車難題」：警方一方面要制止可能危害公共安全的恐怖活動，另一方面卻沒有合法證據來證明其有罪。他們偽造視頻的初衷是抓捕那些有罪而無實質證據的恐怖分子，以保護更大多數人的公共利益。然而律師漢娜卻堅持制度規則不能變，她更想保護的是長遠意義上的程序公平和正義，雖然某種程度上，這種程序正義放過了壞人。
技術是中立的，但使用技術的人是有立場的。在人工智慧時代，隨著高科技的日新月異，將帶來技術邊界與倫理道德的衝突。如果你願意，請你抽個時間，看完上述兩部熱播劇，然後找一些你的朋友，大家放下手機，一起討論一下：比如「你想控制你的高科技產品，還是被你的高科技產品所控制？「你是否願意用自己的隱私去換取絕對的公平？」「在人工智慧時代，如果通用人工智慧（AGI）真的實現，身為一個人類的意義是什麼？」這些問題，不僅很有趣，而且對我們的未來還很重要。
（作者胡逸為無錫市大數據管理局局長）
(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)
關鍵詞 >> 胡逸,人工智慧,《沉默的真相》