對「腦機接口」應該潑一點冷水

2020-09-04 南方周末

日前，Elon Musk發布了Neuralink「腦機接口」研發的最新進展：在豬身上實驗成功，下一步將植入人腦。圖為硬幣大小的晶片。 （視覺中國/圖）

日前，Elon Musk發布了Neuralink「腦機接口」研發的最新進展：在豬身上實驗成功，下一步將植入人腦。

看完後，想到：科技發展從來都是雙刃劍……上古進入鐵器時代，人類開始了王國戰爭、帝國爭霸；近代，火藥發明，戰亂的破壞力指數級上升；而現代，隨著人類分裂原子核，終於擁有了能毀滅人類文明與人類物種自身的手段……那麼，AI發展，是否沒有任何副作用、反作用？不需付出任何代價？如果存在副作用、反作用，會作用在哪裡，代價由誰來承擔？

沒想到，僅僅一天之後，AI的副作用就砸到我自己頭上……社交軟體的紅包功能被凍結了。原因是：在單位時間內接收紅包數量超過了限額。

這種限制，主要是為防止洗錢，譬如：銀行對每個帳戶、每張銀行卡每日取現額度有限制，且多筆小額分拆取現，會引發報警。社交軟體的AI設計，效仿銀行限定了「每日收取紅包限額」，卻不顧紅包總金額：幾十筆十幾元的紅包，總共千把元錢，就觸碰了它的預警參數……「咔」把你的功能鎖定了。

在網上查解決辦法，怎麼試都不成。打客服電話，接聽的是AI語音，電腦錄音播放了很久，主要是新業務推薦，忽悠在他們那裡投資理財等等，關於問題的解答就幾秒時間，還沒聽明白就掛了。只好鍥而不捨反反覆覆打，非要擠進人工服務不可。在活人引導下，提交了申請和驗證文件，最終問題得以解決。

類似案例，僅在朋友身上就發生過多起，因數額較少，進行司法訴訟划不來，絕大多數人都自認倒黴。

事實證明，至少現價段大部分所謂「AI」不但沒有人性，而且真的不夠聰明。到目前為止，所有大規模應用的AI，是通過天量統計數據（「大數據」）來編織監控網絡，來測算人們行為的概率。

而問題是：這些天量統計數據的獲得途徑，是否合法？「科技巨擘」們根本不予解釋，我們的生活信息成了他們的「商業機密」，但誰授權他們隨時監控我們的生活呢？

譬如：人們想去吃湘菜，僅僅因為想吃，不需其它理由，這是人的欲望與自由選擇；而AI很可能會猜到你今晚有6成概率去吃湘菜，然後對你進行廣告推送。

這並非因電腦具有人類的性靈，而是因其偷偷監控了你的生活規律、消費習慣、支付情況。甚至偷偷入侵了你的手機、銀行帳戶、各種支付手段……長時間的監控和數據收集，描繪出你的生活圖譜，因此AI對你的行為進行概率推測。

這不但不智能，反而存在道德隱患，甚至可能涉嫌違法犯罪：公民隱私受到法律保護是通例，是誰給了那些社交軟體、購物軟體，甚至輸入法等等窺探、收集、監控、利用公民隱私進行牟利的權利？

而「科技巨擘」們，在利用我們的信息和隱私、獲取超額利潤同時，所提供的「AI」服務，往往是即無人工，也不智能，它只是極複雜的程序，大量的數據收集。編程者設定其「一定時限轉帳超過限額就凍結帳號」，AI就執行指令，編程者未設定轉帳金額多少，AI當然不會思考為何要執行指令。

如果有人每天轉帳30筆，每筆50萬，確有洗錢嫌疑，當然應介入調查。但社交軟體的編程者就給AI設置數據：每天收帳若干紅包，也不管總金額多少，就觸及警報線、凍結帳號……於是，升鬥小民做個小本生意、一天收了幾十個紅包，每個十幾元，「咔」被凍結。

而升鬥小民的投訴過程，是何其艱辛！面對一道一道又一道機器牆，冰冷的電腦界面、手機界面、AI錄音，而且這些所謂「AI」都被做成「不是專家不會用」的程度，每個問題每拖延一天解決，那些資金的一天利潤，就都進入「科技巨擘」的豪帳，積少成多、聚沙成塔！

在「科技巨擘」眼中：世界是抽象的，可以被描繪成數據公式，任何人不過是無數代碼裡的1和0而已。在「科技巨擘」眼中，只有自己的錢，才是真實的、具象的、不可侵犯的；為自己的利益，任何其它事物，甚至他人的生命都可以被犧牲……減少真人客服，而用「AI」將非專家級用戶投訴屏蔽在外，甚至迫使維權者「知難而退」放棄小額資金追討，這些錢就成了他們的錢了。

如今，Elon Musk又打開了另一個潘多拉魔盒，「腦機接口」在豬身上實驗成功了，如果有一天，用在人身上呢？

如果能向人類大腦寫入程序，也就可以刪除某些記憶、盜取某些信息。那麼，掌控人的大腦，就等於掌控了一切。未來世界，會不會發展到：社會管理權+執法權+財產權=AI=「科技巨擘」的意志？當普通公民的權益受到侵害後，甚至連投訴的意願都沒有，因為AI通過「腦機接口」刪除或修改了大腦某個扇區的記憶信息與功能。

這聽起來似乎科幻，但回想過去幾十年：手機、網購、面對「AI」進行投訴、投訴被「AI」拒之門外、腦機接口……不都是聽起來挺科幻的？不都實現了嗎？

毫無疑問，科技當然要發展，大集團當然要獲取超額利潤，「科技巨擘」們當然是大象，那麼我們怎樣避免成為螞蟻的命運呢？

AI發展，是標誌性的，其代表著科技發展與法治的博弈。科技發展意味著進步和利潤，而法治代表著公正。利益與公正，是人類文明幾千年博弈不休的主題，如今，輪到AI在前臺、「科技巨擘」在其身後唱雙簧演出這場戲，而我們每個人都應該好好想想這一命題。

（作者系歷史、軍事學者）

（本文僅為作者個人觀點，不代表本報立場）

美逸君

相關焦點

  • 什麼是「腦機接口」？馬斯克的「腦機接口」能幹啥？
    他表示：「腦機接口可以解決失明，可以解決癱瘓，可以解決聽力，控制智能設備，僅通過與皮層接口就可以解決很多問題。」不過這個「腦機接口」並沒有那麼神奇，這個技術早就出現了，腦機接口的研究根據作用方式不同，可以分為非侵入式和侵入式兩種。
  • 腦機實驗室系列 | 浙大求是高等研究院腦機接口研究所
    在去年1月16日，浙江大學對外宣布了"雙腦計劃"重要科研成果，求是高等研究院腦機接口團隊與浙江大學醫學院附屬第二醫院神經外科合作完成國內第一例植入式腦機接口臨床研究，患者可以完全利用大腦運動皮層信號精準控制外部機械臂與機械手實現三維空間的運動，同時首次證明高齡患者利用植入式腦機接口進行複雜而有效的運動控制是可行的。
  • 馬斯克的「腦機接口」，人類無法停止「作死」的車輪？
    這是人類歷史長河中早晚都要涉及的一步，對與錯，只有觀察後才知道，但人類在「作死」的路上，是不肯停息的，網際網路安全公司，應該早做準備。其一、提升人類學習速率 局座張紹忠也曾對腦機接口感慨，那人類還拼命的讀博士幹啥呢？
  • 什麼是腦機接口技術？
    而腦機接口技術便可以靠直接提取大腦中的這些神經信號來控制外部設備，它會在人與機器之間架起橋梁，並最終促進人與人之間的溝通，創造巨大價值。其實在很早之前，科學家就已經有了製造早期腦機接口技術的想法，但由於技術的限制，一直沒有什麼實質性的進展。在此後的時間裡，人們針對該技術的算法和應用不斷創新。
  • 腦機接口難題不少
    ——腦機接口。腦機接口是在人與外部設備間創建的信息連接通路。通過解碼腦信號，將其轉換為可被識別的命令信號，實現人與機器或外部環境之間的交互。1973年，計算機科學教授雅克·維達爾首次在學術期刊上提出「腦機接口」的概念。2014年巴西世界盃開幕式上，一名截癱男子用思維控制機械外骨骼成功開球。如今，腦機接口已成為腦科學、神經科學等領域最受矚目的研究方向之一。
  • 腦機接口，你準備好了嗎？
    最近有個新聞深深震撼了我，「矽谷鋼鐵俠」馬斯克28日舉辦發布會展示了腦機接口的重大進展。什麼是「腦機接口」？分為單向腦機接口和雙向腦機接口。單向，顧名思義，就是外部設備接受大腦提供過來的信號，來控制外部設備。或者反過來，外部設備發送信號來影響大腦。雙向就是允許腦和外部設備間的雙向信息交換。
  • 被馬斯克吹上風口的腦機接口:「人機共存」是在玩火?
    這場全球矚目的直播，再次點燃了人們對腦機接口技術的認識和期待。所以我們今天就來擺一擺「腦機接口」這個「龍門陣」。1、到底什麼是腦機接口？大家可以思考這樣一個問題：如果有一天你有機會去獲得任何知識和能力，甚至是對抗死亡來保存你的思想和意識。
  • 陳根：腦機接口是與非，再談馬斯克腦機對接
    文/陳根距離馬斯克公布升級版腦機接口和進行設備植入的手術機器人已經一周有餘，但學界對於被命名為the Link v 0.9版的腦機接口討論仍在繼續。事實上，「腦機接口」作為前沿科技研究的熱點技術，一直頗受業界關注。2017年，馬斯克成立腦機接口公司Neuralink，兩年後，馬斯克和他的Neuralink團隊發布了其首款產品，即「腦後插管」新技術，通過向大腦植入電極的方式來讀取大腦信號，並宣布了他們進一步開發腦機接口的計劃。
  • 腦機接口,賽博格時代的忒修斯之船?
    大量科幻作品描繪了關於腦機接口技術的瑰麗想像，其中的一些元素在現實技術發展中都有跡可循，科幻某種程度上已成寫實，比如《阿凡達》中無創輕鬆上傳記憶思維，顯然屬於非侵入式腦機接口；《黑客帝國》中通過在大腦中插入電纜以瞬間獲取知識則是一種侵入式腦機接口。
  • 河北日報:腦機接口,開啟「終極交互」
    科學家以行動回答了這個問題，在交叉研究中，一項新的技術——腦機接口，使得兩個看來相差甚遠、毫無關聯的研究方向產生了交集。腦機接口，是一種不依賴於大腦外周神經與肌肉正常輸出通道的通訊控制系統，它通過採集和分析大腦生物電信號，在大腦與計算機或其他電子設備之間建立起直接交流和控制的通道。
  • 當腦機接口裝上軍事按鈕
    2018年9月，DARPA腦機接口項目負責人宣稱：「藉助腦機接口技術和輔助決策系統，戰鬥機飛行員已能同時操控三架不同類型的飛機。」　　歸納已有實驗和各類預測，腦機接口軍事應用的潛力初見形態。　　一是協助操控各類無人裝備。
  • 會吹牛的馬斯克，危險的腦機接口技術
    那些想讓你掏錢的商人，那些想讓你服從的管理者，比你更熱愛腦機接口。他們不會跟你說加了腦機接口是為了把你變成「缸中大腦」。他們會這樣宣傳：腦機接口給人類帶來巨大福音，它可以讓你「心想事成」，也可以幫你思考決策。
  • 腦機接口植入帶來的無限遐想
    時隔一年，馬斯克的腦機接口又有了不小的進展。今天，在Neuralink 總部的發布會活動上，馬斯克將指甲大小的腦機接口晶片植入小豬格特魯德的腦部，從而讀取小豬的腦部活動。未來腦機接口技術應用於人類從而監測出數據，這一步不算太難，可能未來幾年就能實現。第二，就是根據分析出來的精神世界數據來影響人腦的神經活動，這一步叫控制。
  • 腦機接口神話當前,先要「去幻想」
    此後，腦機接口的突破性技術開始頻繁刊載於各大學術期刊，以及各新聞的科技版面。2020年8月末，馬斯克再一次召開了其腦機接口公司Neuralink有關腦機接口最新進展的發布會，並展示了三隻植入腦機晶片的小豬，人們可以通過顯示器來觀察豬的腦電波活動，並預測其行為。馬斯克的直播吸引了全球15萬人的關注，一時間，關於腦機接口的技術關涉和倫理擔憂等議題紛至沓來。
  • 陳根:腦機接口,一個關乎「人」的終極神話
    2020年8月末，馬斯克再一次召開了其腦機接口公司Neuralink有關腦機接口最新進展的發布會，並展示了三隻植入腦機晶片的小豬，人們可以通過顯示器來觀察豬的腦電波活動，並預測其行為。 馬斯克的直播吸引了全球15萬人的關注，一時間，關於腦機接口的技術關涉和倫理擔憂等議題紛至沓來。
  • 「科學狂人」馬斯克直播溜豬：腦機接口是魔法還是反人類？
    單從外表看，去年的機器人偏向於展示技術的可行性，而今年的機器人，長成了一個產品應該有的樣子。此外，還有一點很有趣：馬斯克在 2019 年發布的第一代腦機接口，包含 3072 個電極，而今年的第二代，數量卻減少到了 1024。電極數量越多，能覆蓋到的神經元才越多，馬斯克這個反向操作，有點耐人尋味，也許我們能夠從歷史中窺見答案。回憶一下，谷歌眼鏡為什麼失敗了？
  • 馬斯克說的腦機接口怎麼回事?
    馬斯克說一年內就能給人接上腦機接口？Neuralink是個什麼公司？目前全世界正在開發的腦機接口技術能夠完成什麼？ 實際上，腦機接口有兩種：非侵入式腦機接口和侵入式腦機接口。
  • 腦機接口先驅尼古萊利斯:人類無法實現數字永生
    作為腦機接口技術的先驅者之一，尼古萊利斯團隊首次完成了腦機接口在靈長類動物身上的實驗，提出並證明了動物和人類受試者可以利用他們的大腦電活動，通過腦機接口（BMI）直接控制神經假體裝置。
  • 腦機接口是個法子
    後者的代表是腦機接口，用信號加工技術將原始的腦活動轉化為數字命令，這樣，大腦或許可以在脫離身體後得到「永生」。在回答這些問題之前，下面這個案例揭示了腦機接口的應用成果。2016年11月，荷蘭一名漸凍症女病人Hanneke de Bruijne熟練使用一種新型大腦植入物打字。這種植入物是腦機接口的一部分，它幫助這位沒有呼吸機就不能呼吸的病人拼寫句子，與朋友交談。這是世界上首例完全植入、不需要專家協助，病人在家就能使用這種裝備的案例。這套系統是如何工作的呢？
  • 解密腦機接口:專訪CMU生物醫學工程系主任賀斌
    賀斌是無創腦機接口領域的優秀科學家，2013年，他的研究團隊利用無創腦機接口技術，實現了意念控制無人機飛行並跨越障礙，2019年，他的團隊又實現了意念控制下機械臂對運動光標的連續追蹤。在這次訪談中，賀斌談到了腦機接口技術的歷史與未來應用方向，並著重介紹了無創腦機接口相關的機遇與挑戰。