人工智慧會成為殺人機器人嗎

2020-12-04 電子發燒友

人工智慧會成為殺人機器人嗎

軍事科技與防務動 發表於 2020-03-26 11:15:38

還記得科幻電影《終結者2》裡天網對人類的倒戈，以及《復仇者聯盟2》裡人工智慧機器人奧創對人類展開的毀滅計劃嗎？為了避免這一天可能的到來，全球人工智慧領域的研究人員 也不不斷努力。

2018年4 月 4 日，3100 名谷歌員工聯名發出公開信，要求谷歌退出美國國防部人工智慧軍事項目——Maven 計劃。在這封谷歌員工聯名信中，要求谷歌不但應立刻退出Maven 計劃，而且應向所有人承諾，永遠不會參與研發任何類型的戰爭科技。

幾乎同一時間，韓國科學技術院大學與軍工企業「韓華 Systems」合作研發自主武器，以便在無人控制的情況下搜索並消除目標，此舉遭到全球50多名人工智慧學者聯名抵制。隨後， 2018年4月9日，聯合國《特定常規武器公約》政府專家小組在日內瓦召開會議，專項討論「殺人機器人」可能帶來的影響。據稱，此次會議跟此前韓國科學技術院大學宣布開發「殺人機器人」有關。

那麼，以人工智慧為基礎的軍事系統，能否代替人類做出恰當的軍事決策？人工智慧與軍事真的不能共存嗎？

一、軍事技術先行

在遙遠的未來，人工智慧也許會像一些科幻電影中描繪的那樣，使後人類戰爭從科幻變成現實。目前，已經出現了一些趨勢性端倪。

何為趨勢性端倪？近年來人工智慧在軍事領域的應用已經越來越多，人工智慧在某些領域已經表現了超越人類的能力，而這一趨勢開始呈現了不可逆轉性。在2016年舉行的一次模擬空戰對抗比賽中，人工智慧系統通過靈活、迅捷的動作擊敗了具備更強武器系統的退役戰鬥機飛行員。 有專家表示，這個結果具有深遠意義，就像一個象棋大師輸給了電腦。

目前，在武器裝備和指揮控制方面，人工智慧主要體現在陸地、海洋、太空等各類作戰機器人的研發應用和各類智能炸彈的研發領域。隨著數據挖掘技術、大規模並行算法及人工智慧技術的不斷完善並廣泛應用於軍事上，情報、決策與作戰一體化將取得快速進展。實際上，韓國科研機構研製的能在無人控制的情況下搜索並清除目標的自主武器就是典型應用，也是當前人工智慧軍事化的最主要應用。

能夠自主運作的軍用機器人被歸為致命性自主武器系統（LAWS），目前 ，各國發展的無人飛行器、無人地面車輛、無人水面艇等能夠自主運作的武器系統，在某種程度上都屬於LAWS的範疇。這些武器裝備體現出了較高的應用價值。 被人工智慧技術賦能的軍事機器人必將改變未來戰爭形態，促進軍事理論、體制編制、作戰人員、戰法戰術等多方面的變革，使未來戰爭呈現出「無人化」「智能化」的特點。

二、人工智慧用於軍事潮流勢不可擋

在《終結者》《黑客帝國》《我，機器人》等這些經典科幻電影中，人工智慧往往作為反面角色出現，並給人類帶來極大危害。

在2017年的人工智慧國際會議上，特斯拉執行長馬斯克、蘋果聯合創始人沃茲、研發「阿爾法狗」的深度思維公司哈薩比斯等人籤署公開信，呼籲聯合國應像禁止生化武器一樣，禁止在戰爭中使用致命的自主武器和「殺手機器人」。而剛剛去世的著名天體物理學家霍金也曾指出，他不認為發展人工智慧一定能讓人類朝好的方向發展，脫離人類控制的機器很難被阻止住。

雖然人工智慧技術對於保障國家安全具有巨大潛力，但目前人工智慧技術還不成熟，需要更進一步的研究。在研究過程中，人工智慧技術表現出了危險性與未知性，比如無人駕駛汽車的傷人事故，而反人工智慧軍事化的思潮則反映了人們對這一技術前景的擔憂、焦慮，甚至恐懼。

由於人工智慧技術的發展局限，機器人可能將在環境或執行程序複雜的情況中出現失控現象，比如單獨執行作戰任務、人機深度交流等軍用和民用領域。一個典型的例子就是2007年10月，美軍第三機步師一部帶著3臺「利劍」機器人進攻一個反美武裝盤踞的據點時，由於沒有及時更換軟體，其中一臺「利劍」竟把槍口瞄準美軍操作者，而且無論操作員如何發出「行動取消」的指令，失控的「利劍」就是停不下來，直至用火箭筒把它炸翻才化險為夷。

儘管人工智慧在當下還存在種種問題，但反思技術的思潮在人類歷史上技術革命時期都曾出現過，比如工業革命時期的盧徳運動。這一現象的本質原因在於技術異化對人類的威脅。目前來看，人工智慧在軍事領域的應用潮流勢不可擋，在可預見的時期內，人工智慧將在情報偵察、後勤保障、無人作戰系統等領域發揮重要作用。

三、走出倫理泥潭

早在十年前，就有專家警示，已有越來越多的國家投入到軍用機器人的研究與開發中去，世界已在不知不覺中滑進了一場機器人軍備競賽。

毋庸置疑，軍事機器人相比於士兵主要在功能、體能、效能方面具有優勢。軍事機器人可以同時承擔多項複雜任務，作戰可以更加持久，在程序設定完備後能夠高效精準達成目標，失誤率較低。特別是，完全自主機器人具有持續作戰時間長、反應能力快、生存能力強等優勢，將會進一步增加戰爭的烈度與強度，與人類戰士相比具有巨大的不對稱優勢。

然而，有關戰爭責任的倫理問題就出現了，到底參戰的自主機器人是不是戰鬥員？又應當承擔何種戰爭責任？如果軍用機器人自己沒有辦法承擔責任，是否需要其「代理人」對其戰爭行為負責呢？這又引發了新的問題，誰是無人化戰爭中軍用機器人的「代理人」？到底是作戰部隊的程序開發與編寫者呢？還是戰場指揮官呢？相關戰爭責任的追究顯然已變成一個十分棘手的問題。

如果人工智慧應用於軍事是不可逆轉的科技浪潮。那麼，我們應該如何將可能產生的負面影響降至最低呢？對此，首先要堅持人機結合、以人為主的原則，人類應當保證對軍事機器人的控制權，制定應對意外事件的應急機制，建立防範機器人失控的後臺程序。另外，應當加強人工智慧的技術預測與評估，在充分試驗與分析的基礎上逐步推動人工智慧技術的軍事應用。

責任編輯：Ct

打開APP閱讀更多精彩內容

聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容圖片侵權或者其他問題，請聯繫本站作侵刪。 侵權投訴

相關焦點

  • 人工智慧會反噬藝術嗎？
    在當今的科技領域中，不少專家也都認為，人工智慧會反噬人類，人類發展人工智慧，將會踏上不歸路。這其中最有代表性的人物就是物理學家史蒂芬.霍金，他曾表示：「完美人工智慧的開發，便意味著人類的終結」。《西部世界》1942年，著名的美籍俄羅斯裔科幻作家艾薩克·阿西莫夫在小說《轉圈圈》中提出了機器人三大定律
  • 人工智慧會毀滅人類嗎？關於錯誤的思想之糾正！
    有些人說未來人工智慧會取代人類的地位，甚至毀滅人類，這是徹頭徹尾的危言聳聽與胡說八道，在專業學者的眼中，所講的都是現實的東西，在那些相信陰謀論人的眼中，他們都是幻想，他們不是非專業人士，只能在大腦中編造虛幻的故事，因為他們從不追求真實，這就相當於「民間科學家」簡稱民科。
  • 人工智慧會取代人工翻譯嗎
    自1956年DARTMOUTH學會上首次提出人工智慧的概念，到如今物聯網、大數據、阿爾法狗戰勝柯潔、雲計算……人工智慧發展得如火如荼，成為21世紀新的風口，影響著千千萬萬的行業。在語言領域，科大訊飛、谷歌翻譯逐漸成熟，據TechWeb消息，近期Google翻譯悄然升級了其翻譯內核，系統使用了當前最先進的訓練技術，因而提升了機器翻譯水平，將翻譯誤差再度降低了55%-85%。
  • 人工智慧會帶來世界末日?十部機器人反攻人類的電影_遊俠網 Ali213...
    個人隱私已成為過去。現在無論是在家裡、街上或者工作場所，人們的一舉一動都受到電子攝像頭的監控。但是這些攝像頭真的只是在監控嗎？隨著死於非命人數的攀升，聯邦調查局發現了一個令人震驚的事情……他們的調查工作變成了一場人與機器之間的戰爭……　　機器的叛變說的是機器可以通過攝像頭編輯影像改變事實，通過攝像機器人來殺人。
  • 人工智慧會帶來世界末日?十部機器人反攻人類的電影
    個人隱私已成為過去。現在無論是在家裡、街上或者工作場所，人們的一舉一動都受到電子攝像頭的監控。但是這些攝像頭真的只是在監控嗎？隨著死於非命人數的攀升，聯邦調查局發現了一個令人震驚的事情……他們的調查工作變成了一場人與機器之間的戰爭……　　機器的叛變說的是機器可以通過攝像頭編輯影像改變事實，通過攝像機器人來殺人。
  • 人工智慧會取代人類嗎?終結者中的AI統治地球會成為現實嗎?
    自1956年，「人工智慧（Artificial Intelligence，縮寫為AI）」一詞首次在達特茅斯會議上被提出後，它便一發不可收拾的成為人類一直研究的重大課題，同時也成為眾多科幻作品熱衷的話題。
  • 臉書聊天機器人自創外星語 扎克伯格慘遭打臉
    不過，在臉書開發的聊天機器人自創出人類無法理解的語言後，或許扎克伯格也得同意馬斯克的觀點了。　　據美國投資諮詢網站「價值散步」7月31日報導，上周末，臉書不得不關閉其人工智慧系統，原因是聊天機器人開始用自創語言對話，全然無視程式設計師下達的指令。「由於情況失控」，研究人員只得終止人工智慧系統的全部活動。
  • 人工智慧會成為人類航天探索的急先鋒嗎？
    CIMON機器人是IBM公司推出的人類第一位太空人交互式移動夥伴，是一種移動和自主輔助系統，由IBM和德國宇航中心、空中巴士公司強強聯合開發而來。他能幫助太空人進行科學實驗，是太空人的百科全書，能大幅提高工作效率。
  • 人工智慧會取代人類的藝術創造力嗎
    原標題：人工智慧會取代人類的藝術創造力嗎 　　人工智慧機器人「小冰」創作並出版的詩集《陽光失了玻璃窗》。她是微軟研發的一款人工智慧機器人。這款在微軟內部被叫作「小冰」的人工智慧機器人，被培養學習繪畫已經22個月。從剛開始畫得很醜，到慢慢提升，小冰作為一個「畫家」成長的過程，就像追求藝術的人類一樣，經歷了一個漫長、痛苦、艱辛的過程。經過22個月的學習培養，小冰的繪畫作品，達到了一定的藝術水準，才被破格批准化名「夏語冰」參加中央美院研究生的畢業畫展。
  • 人工智慧會取代以後的歌手與創作者嗎？永遠別低估AI未來
    人工智慧可以取代歌手和樂手嗎？表演，即臺前的演唱、演奏。理論上，機器人可以模擬出任何你所希望的音色，挑戰任何難度的高音或低音，也可以熟練駕馭任何樂器。但是，當你知道它來自機器人時，也許第一反應是：這樣的聲音，它有靈魂嗎？
  • 人工智慧會擁有意識嗎?信息集成不如六歲娃
    日本軟銀集團類人機器人Pepper擔任一家銀行的迎賓員迎接顧客。 　　人在地毯上溜冰、奶牛變得透明，連六歲小孩都知道荒謬的事情，電腦能做出正確判斷嗎？儘管處理數據速度極快，但計算機對外界的感知與人類的意識一樣嗎？如何判斷一臺機器是否具備了這種難以言傳的意識知覺？ 　　在前不久的世界機器人大會上，各種能跑會跳、能說會道、能與人溝通互動的智慧機器人紛紛亮相，它們的聰明勁兒讓媒體驚呼「機器人時代離我們有多遠」。 　　計算機技術正節節逼近擁有高級智慧的人類。
  • 人工智慧會取代人類嗎?江西出現會吵架的機器人,引發爭議不斷!
    智能產品已經滲透進人類的生活，智慧型手機已經人手一件了，隨著科技水平的發展，智能產品也成為了人們的心頭最愛。前段時間在網絡上流傳著這樣一段視頻，江西省的圖書館內竟然有兩個機器人正在吵架，它們本身就沒有意識，卻吵得熱火朝天，就連旁邊的讀者也忍俊不禁。
  • 從各種機器人影視劇中探討機器人是否能真正的擁有感情
    從各種機器人影視劇中探討機器人是否能真正的擁有感情寫下這個標題後，筆者也在思考這個問題，其實最近的一次人工智慧的對決是我國圍棋九段，當時的世界排名第一的柯潔跟阿爾法狗之間的圍棋之戰。那場比賽，人類慘敗，可以說對於人工智慧來說，人類的智慧已經不能跟他們匹配，我們反而成為了笑話，仿若我們的智力在人工智慧的運算裡面變成了小兒科。
  • 人工智慧會有哪些新應用?將怎樣改變我們的生產生活?
    近日，5G測溫巡邏機器人、全能消毒機器人等陸續「上崗」，在抗擊新冠肺炎疫情中「各顯神通」，為堅決打贏疫情防控阻擊戰帶來了更多希望。未來，人工智慧會有哪些新應用？將怎樣改變我們的生產生活？ 而在武漢協和醫院、同濟天佑醫院，5G雲端智能服務機器人和消毒清潔機器人也於近日正式「上崗」。其中，智能服務機器人可在醫院大廳導診、宣傳防疫知識，分擔導診臺人員的工作量，避免交叉感染；消毒機器人可在疫區內進行醫藥配送，也可適配消毒藥水、進行地面消毒清潔。 「人工智慧正在滲透到不同產業，切切實實融入我們的生活生產。」
  • 周志華、Hinton等50多名學者聯名抵制韓國研發「殺人機器人」
    他們在信中警告，如果成功研製自主武器，戰爭速度之快、戰爭規模之大，將是前所未見的，也有可能成為恐怖分子的武器。在對 KAIST的 公開信中表示，他們將抵制與KAIST的任何合作，也不會接待KAIST 派出的訪客，以及停止所有與 KAIST 的接觸，直到KAIST的院長承諾該中心不會研發無需人類操縱的自主武器。
  • 機器人被發現自己在照鏡子,這是怎麼回事?它們產生了意識嗎?
    對此，每個人都有著自己不同的看法，而目前最受支持的就是人類的文明，將會產生一個新的成員，那就是機器人。目前，我們所看到的就是，我們所處的社會人工智慧在不斷地發展，而對於人工智慧這一新技術，每個人的看法也是不一樣的，有的人就認為，人工智慧如果出現的話，那就會使得大部分的崗位工人下崗，從而被這些機器人給代替。
  • 未來，機器人真有可能成為我們的家人嗎？
    科技的進步讓AI機器人逐漸走入家庭，陪伴人類的生活，雖然它的存在可能成為全球特比是以亞洲為代表的高齡化社會的重要解決方案，但是否取代家人的珍貴价值還需很長的考驗！隨著時代的變遷，現代家庭的組成也日趨多元，但你能想像機器人也能成為家中的一份子嗎？
  • 人工智慧會有意識嗎?| 五部探索人工智慧哲學的影視作品
    這些系統能思考嗎?怎樣才能使一個人工智慧有意識呢?計算機是否會超越人類，不僅在特定的認知任務上，而且在一般智力上?這些都是人工智慧哲學家試圖解決的大問題。作為一名哲學講師，我的朋友們經常問我，如果有人想學哲學，有什麼推薦的書籍嗎？我的回答總是一樣的:書籍雖然至關重要，但你首先應該做的是看一些科幻小說。以下是我推薦的五部與人工智慧相關的電影，以及它們所涉及的「大問題」。
  • 祖父悖論最獨特解釋,未來人工智慧會叛變嗎,環境會變啥樣?
    而殺人的你，則來自另一個平行宇宙。第二種看法則是，你抹除了現祖父母的同時，他們馬上會變成對你毫無意義的陌生人，同時立即會有另外一對夫婦成為你的祖父母，你體內包含死掉祖父母的基因也會瞬間轉變，繼承另外一對祖父母的基因。無論你抹除多少對祖父母，總會產生一對新的祖父母，這樣以來，你無法改變你的出生，只不過生你的人不同，你的基因每次也不同罷了。
  • 「智慧機器人」是人嗎?它屬於六道輪迴中的哪一種呢?
    在2017年的時候，沙特就曾經宣布一個女性機器人「索菲亞」的沙特公民身份。但是人們對索菲亞說的那句「我會毀滅人類的。」依然記憶猶新。人們雖然感受到了人工智慧的魅力，但是也對未來有很多的擔憂。索菲亞是一個高仿的機器人，美麗而優雅，並且具有很強大的學習能力。