為預防機器人攻擊 Google正在研究機器人"切斷開關」

2021-01-16 千家智客

[導讀]在近日公布的一篇論文中，DeepMind提出了給機器人安裝「切斷開關(killswitch)」的想法，為的是阻止AI學會如何阻止人類對某項活動(比方說發射核武器)的幹預。

　　Google收購的英國人工智慧公司DeepMind已經展現出AI先進的自學能力，其算法不僅在玩遊戲比人厲害，而且還在與人類頂級圍棋選手的對決中取得了壓倒性的勝利。這不僅引發了AI超越人類的擔憂，甚至還有人擔心類似《未來終結者》那樣天網對人類殺戮時刻的到來。現在DeepMind決定未雨綢繆，據英國鏡報報導，在近日公布的一篇論文中，DeepMind提出了給機器人安裝「切斷開關(killswitch)」的想法，為的是阻止AI學會如何阻止人類對某項活動(比方說發射核武器)的幹預。用專業術語來說，這叫做「安全可中斷性」。

　　關於安全科中斷性的作用，論文寫道：安全可中斷性可用於控制機器人不端甚至可能導致不可逆後果的行為，或者將其從微妙處境中脫身出來，或者甚至臨時用來實現某項機器人尚未學會執行或者未必會為此受到獎勵的任務。

　　天生具備拯救人類使命感的ElonMusk以及地球最聰明的大腦之一霍金都認為，機器對人類的威脅並非杞人憂天。去年底的時候，Musk和孵化器YC的總裁SamAltman共同宣布設立一家非盈利的人工智慧公司OpenAI。他們希望，這個項目能夠抵消邪惡的人工超級智能可能帶來的威脅。這種威脅的可能性正如牛津大學的哲學家NickBostrom發出的警告一樣—如果毫無限制地分享人工智慧的研究成果，在沒能確保安全的情況下，一些不懷好意的人可能就會利用它幹壞事：「如果你有一個按鈕，只要按一下就能夠對世界造成破壞，你肯定不希望每個人都擁有一個這樣按鈕。」而DeepMind的研究，就是對這樣一種按鈕的切斷按鈕。不過將來的問題也許是，哪一個按鈕會先起效？

 

相關焦點

  • 未來世界，當機器人面對歹徒攻擊無辜人群時，機器人會怎麼做？
    科幻電影中，機器人經常扮演二種角色，第一種：機器人戰士或機器人殺手，該機器人的功能就是幫助它的設計者屠殺人類，這種機器人代表著邪惡。但歸根結底這兩類機器人行為都是為實現它設計者的意圖而對人做出了傷害為了避免機器人成為人類屠殺人類的武器，早在上世紀五十年代，著名科幻作家阿西莫夫提出了機器人三大定律：第一定律.機器人不得傷害人類，也不能看到人類受到傷害而袖手旁觀。第二定律.機器人必須服從人類的命令，但不能違背第一定律。第三定律.機器人必須保護自己的安全，但不能違背第一第二定律。
  • 這位Google研究科學家幫助機器人做出正確的決定
    作為Google Brain Robotics的高級研究科學家，Aleksandra Faust博士使用機器學習來訓練機器人如何安全地導航世界並與人「禮貌地互動」。現在，浮士德博士正在為即將在墨西哥舉行的第13屆機器人算法基礎國際研討會(WAFR 2018)做準備。我們通過她在帕洛阿爾託的實驗室進行了電子郵件交流，以了解更多信息。這是我們談話的摘錄和摘錄。福斯特博士，您是如何首先對科技界產生興趣的?我早在五年級就開始對計算機科學感興趣，這是偶然的，當時機器人還沒引起我的注意。我在前南斯拉夫長大。
  • 快訊|天津大學3D列印軟性機器人;微創醫療機器人擬登科創板;美軍給...
    儘管這項研究的重點是為預防冠心病患者心力衰竭和中風而提議的藥物重定位，但該框架具有靈活性，可以應用於大多數疾病。俄亥俄州立大學的計算機科學與工程學和生物醫學信息學助理教授張平（音譯）說：「這項工作為我們展示了如何利用人工智慧對患者進行藥物測試、加快實驗假設的產生以及加快臨床試驗的速度。但是藥物決策仍將由臨床醫生做出，因此醫生不會被替代。」
  • MIT研發出腦控機器人:可使用腦波為機器人糾錯
    很多時候，這意味著不得不做出妥協：教機器學懂得人類語言的玄妙，比如，為它們提供特定任務的具體指令。但是，如果可以研發出一種類似人類自然延伸的機器人，讓它們可以按照我們的想法自如行動，又會怎麼樣？麻省理工學院的計算機科學和人工智慧實驗室（CSAIL）的團隊和波士頓大學正在攻克這一難題，他們打造出了一種反饋系統，讓人類僅用大腦就可以迅速糾正機器人犯下的錯誤，這款 MIT 研發出的反饋系統能夠讓人類操作者僅通過大腦信號就能實時糾正機器人做出的選擇。
  • SST光電液位開關在機器人系統中的應用
    打開APP SST光電液位開關在機器人系統中的應用 ISweek工採網 發表於 2020-01-25 08:39:00 （文章來源
  • 世界首個切斷電源飛行機器人,蒼蠅一樣大小,意義重大
    但是人類模仿蒼蠅製造的飛行機器人，可以切斷電源，而且飛行速度快，在飛行科技方面有著非常重大的意義。跟著橙子一起去看看這個飛行機器人吧！這是哈佛大學懷斯生物工程研究所研發的最新成果，製造它耗費了科學家15年的時間，經過無數次的反覆選材，反覆試驗，它終於試飛成功，基本達到了科學家們的預期。
  • 掃地機器人不堪一擊:被改造為竊聽器
    一項最新研究告訴我們，家裡的掃地機器人都可能其成為「作案工具」。 雷射雷達「旁敲側擊」 大體上，研究人員的想法是，利用掃地機器人的導航組件雷射雷達傳感器，設計一種新型的聲音側信道攻擊(acoustic side-channel attack)，即所謂的「雷射麥克風」(LidarPhone)。
  • 納米機器人能殺死癌細胞嗎?
    納米機器人或許將成為治療癌症的新方法，但前提是，科學家需要大量研究來證明它們在人體中的安全性。你還記得電影《我，機器人》（I， Robot）裡的場景嗎？蘇珊·卡爾文博士給智慧機器人桑尼注射了納米粒子，以消除他的人工智慧。注射液中那些銀色的小東西怎麼可能毀掉機器人的全部智能呢？
  • 焊接機器人安全操作注意事項
    2）在伺服電源供電狀態按壓緊急停止按鈕，確認機器人的伺服供電能否正確切斷。3）在伺服電源供電狀態鬆開示教盒背面的拉杆開關，確認機器人伺服供電能夠正確切斷。（3）示教操作過程中，請確認一下事項：1）示教作業時，操作場所應確保操作人員可及時避讓至機器人動作範圍外。2）操作機器人時，請儘量面向機器人進行操作（視線勿離開機器人）。3）不操作機器人時，儘量避免站立於機器人的動作範圍內。
  • 納米機器人你了解多少？它真的能殺死癌細胞嗎？
    早在1959年，他在一次大眾演講中，提到了使用納米機器人來治療心臟病的概念。從那以後，人們進行了大量的研究，想看看這些納米分子裝置究竟能帶來什麼奇蹟。有一篇論文提到，納米機器人的一個重要的應用便是癌症治療。值得注意的是，文章中提到的實驗只在動物身上進行。納米機器人在人類身上的應用還有待研究，而這篇文章並沒有提供治癒癌症的方法，只是作為未來可能的一種選擇。
  • 「章魚機器人」:開啟軟體機器人新時代
    據英國《自然》雜誌近日報導，研究人員稱，「章魚機器人」正在軟體機器人的海洋中翻起朵朵浪花。 　　製造出柔性零件是關鍵 　　近年來，工程師和科學家們對軟體機器人的興趣與日俱增，他們希望超越類似「終結者」那樣由堅硬的金屬材料製成的機器人，設計出一些新型機器人：它們能被擠壓進緊密的空間內；能根據周圍環境改變形狀；或者能安全地操作精巧的物體。
  • 福祉科普|柔性抓取機器人
    柔性抓取機器人可以說是現代機器人產業中的一股"泥石流"，和目前機器人最常用的剛性結構不同的是：其具有較多的自由度且結構簡單，不僅需要保證靈活性和柔韌性，還要在不傷害物品的前提下進行抓取。哈佛大學研發的超軟納米纖維機器人抓手，可抓取水下軟體生物，例如水母。又為我們打開了新世界的大門。
  • 西安市民自製消防「機器人」 電話遙控滅火
    【解說】西安市民自製消防「機器人高中文化的嚴西元今年56歲，記者見到他時，正忙著對「機器人」升級調試。獲得國家專利，打電話就能切斷天然氣滅火的「全球機器人遠程控制器」，耗時8年完成。嚴西元介紹，「機器人」工作原理很簡單，通過撥打電話將信號傳給「接收器」，再通過命令控制器關閉天然氣閥門完成最終滅火。同時，「機器人」還具有定時功能。嚴西元告訴記者，因家中發生過火災，以及多年來對火災消防的關注，遂萌生了研製消防「機器人」的想法。
  • 研究人員探索用於改造由機器人製成的機器人的材料
    圖片來源：（豐田汽車協會，Kohshi Katoh） 美國陸軍和麻省理工學院的位與原子中心的科學家們創造了一種將材料與獨特的機械性能聯繫起來的新方法，這為未來由該機器人製成的軍事機器人提供了可能性。 該方法使用離散的網格或類似Lego的系統統一構造各種類型的機械超材料，從而可以設計具有適合其應用的特性的模塊化材料。
  • 專為拆遷而生的機器人——ERO機器人
    專為拆遷而生的機器人——ERO機器人 2014年04月18日 02:38作者：喬然編輯：喬然文章出處：泡泡網原創 　　ERO機器人就是為拆遷而生的機器人，ERO是單詞erosion（侵蝕的縮寫，從名字可以猜得到，ERO機器人拆遷走的是銷魂蝕骨潤物細無聲的章法
  • 科學家治療癌症新方法:納米機器人殺死癌細胞
    納米機器人或許將成為治療癌症的新方法，但前提是，科學家需要大量研究來證明它們在人體中的安全性。你還記得電影《我，機器人》（I， Robot）裡的場景嗎？蘇珊·卡爾文博士給智慧機器人桑尼注射了納米粒子，以消除他的人工智慧。注射液中那些銀色的小東西怎麼可能毀掉機器人的全部智能呢？
  • 微型機器人可以給我們帶來什麼好處
    微型機器人（micro robot）是典型的微機電系統。世界各國已經在微型機器人的研究方面取得了不少成果。微型機器人的體形很小，和蜻蜓或蒼蠅一樣大，有的甚至更小，小到我們看不見它們。其外觀像石頭、樹木、花草，裝有各種微型傳感器，可以探測出人體的紅外輻射、行走時的地面振動、金屬物體移動造成的磁場變化等，並將信號傳送到中央指揮部，指揮部可控制防禦區內的武器自動發起攻擊。 　　（2）機動式的微型機器人。它們裝備有太陽能電池板和計算機，可以按照預定程序機動進入敵人陣地與敵人同歸於盡。 　　（3）生物型微型機器人。
  • 科學:大腦控制的機器人手臂為新型假肢指明了方向
    【科學：大腦控制的機器人手臂為新型假肢指明了方向】2011年4月，一名名叫凱茜哈欽森的癱瘓婦女近15年來第一次舉起杯子，使用了一個由她的思想控制的機器人手臂。哈欽森因中風導致腦部受損而癱瘓，使她的運動功能從身體其他部位切斷。
  • 劉辛軍團隊：為機器人賦能賦新
    來到清華大學以後，汪老師也很信任我，讓我開始做機器人理論研究。」博士後出站，劉辛軍先後前往韓國、德國進行訪問研究，之後又回到清華大學從事機器人與機構學、先進位造裝備設計與應用方面的研究工作。至今，劉辛軍擔任著精密超精密製造裝備及控制北京市重點實驗室和清華大學(機械系)-西門子先進工業機器人聯合研究中心主任，組建了一支科研能力強、業務水平高的團隊——現代機構學與機器人化裝備實驗室團隊。
  • 家用智慧機器人的應用研究
    本項目的研究方法、技術路線、總體安排及進度（限3000字以內）一、該項目研究的意義與價值，國內外研究現狀評估1、該項目研究的意義與價值直至今日,我國的工業產業正在經歷著從人工協助作業到完全自動化的逐漸轉變,以致在發展中出現了諸如"工業智能化"