全國首例機器人傷人事件:謹慎對待弱人工智慧失控

2020-12-04 億歐網

文丨極客王子

自丨億歐

高交會本是兵家摩拳擦掌,一比高下之地,今天卻發生一件「不愉快」的事情,一臺名為小胖的機器人突然發生故障,在沒有指令的前提下自行打砸展臺玻璃,最終導致部分展臺破壞,更為嚴重的是,該機器人還砸傷了路人。

伴隨著熱點流竄,網上更為詳細、真實的現場圖也流出,傷者被擔架抬離會場,玻璃碎落一地,小胖機器人應景地沮喪了一臉,呆若木雞於人群中,等待著審判。

小胖機器人是北京進化者機器人有限公司旗下產品,據簡介顯示,這家公司立項於2014年8月,成立於2015年2月,發展至今員工數量達260人,按照公司規模屬於中型公司,產品定位為家用陪伴機器人和商用服務型機器人。

機器人產生的流血事件,是Bug的原因嗎?是觀眾失誤操作?總之人受到傷害,毫無疑問,小胖作為機器人並不能承擔對應的法律責任,它的爸爸要負起全責了。

這個時候,既然法理不完善,那我們就需要搬出人類共識,在1950年末阿西莫夫撰寫的《我,機器人》著作中,強調了機器人三大法則。

①機器人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管。

②機器人必須服從人給予它的命令,當該命令與第零定律或者第一定律衝突時例外。

③機器人在不違反第零、第一、第二定律的情況下要儘可能保護自己的生存。

這次機器人違反了第一條。

在弱人工智慧時代,機器人即使做出傷害,仍然是在可控範圍之內,產品對應的商家可能負有生產劣質產品的罪名,而我們仍然沒有意識到機器人在不遠的未來不是一個產品,是一個獨立的個體,機器人的行為和大腦發育應該有所受制,否則,機器人蓬勃的發展最後將走向「失控」。

隨後,北京進化者機器人有限公司給出了情況匯報。

本文作者極客王子,億歐專欄作者;轉載請註明作者姓名和「來源:億歐」;文章內容系作者個人觀點,不代表億歐對觀點讚同或支持。

相關焦點

  • 人工智慧也有暴脾氣?我國出現首例機器人傷人事件
    近日,在深圳舉辦的中國國際高新技術成果交易會期間,創新創業成果展示區內突然發生機器人傷人事件。一臺名為小胖的機器人突然失控打砸展臺,導致展臺破壞,最終還傷及路人,而後傷者被擔架抬走,比較慶幸的是傷者並無大礙。據說小胖機器人是北京進化者機器人科技有限公司和北京航空航天大學聯合研發。主要用於教育方面,專門針對4-12歲兒童所研發。
  • 【盤點】機器人傷人事件 人工智慧安全性引質疑
    機器人的三大定律,對後世的創造有一定的指導意義:  機器人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管;  機器人必須服從人給予它的命令,當該命令與第零定律或者第一定律衝突時例外;  機器人在不違反第零、第一、第二定律的情況下要儘可能保護自己的生存。
  • 人工智慧"失控"真的出現了!機器人竟然能自己聊天了...
    上周末,美國社交網站「臉書」公司的人工智慧聊天機器人就出現了失控的狀況,研究人員不得不關閉他們正在研發的人工智慧系統的全部活動進行控制。這段話就是臉書公司公布的聊天機器人鮑勃和愛麗絲的對話節選。是不是看不懂?的確,這一對話讓研發人員也大吃一驚。
  • 全國首例大熊貓傷人案判決:咬人大熊貓被判"無罪"
    昨(15)日,全國首例大熊貓傷人賠償案復庭並一審判決。成華區法院判決第一被告成都大熊貓繁育研究基地不承擔責任;第二被告新都四中承擔主要責任,賠償原告林林(化名)30286.8元;原告承擔次要責任。  面對判決結果,除熊貓基地表示「公正合理」外,第二被告和原告均表示強烈不滿,要求上訴。  據悉,案件的焦點在於熊貓基地究竟有無責任?
  • 警惕人工智慧的失控風險
    桑希爾:數字操縱的威脅已經如此嚴峻,甚至有人開始質疑民主在大數據和人工智慧時代還是否有活路。  警惕人工智慧的失控風險   作為一項實驗,通德?奧蘭雷瓦朱(TundeOlanrewaju)有一天給維基百科(Wikipedia)關於他僱主的條目——麥肯錫(McKinsey)——搗了點亂。
  • 少年評論員-蔣宛餘 | 人工智慧的利與弊
    掃地機器人、AI智能音響、做飯機器人、人臉識別……人工智慧不僅給人類的生活打下了堅實的物質基礎,更是把更多的人從簡單煩躁而重複的工作中,解放出來。讓我們更加自由地去做更多的事情。不僅如此,人工智慧在醫療上也起到很大的幫助。很多醫生都不能確定的病情,人工智慧可以通過它的大數據進行分析和理療。再好比當下的人工智慧無人汽車。
  • 科學家解讀人工智慧:當機器有了意識 我們是謹慎接納還是拒絕
    科幻小說、電影中到處都有人工智慧、智慧機器人的例子。比如,《銀河系漫遊指南》中的艾迪、《星際穿越》中的機器人塔斯、《機械姬》中的伊娃。這些作品中描述的機器人都有一個共同點:容易出錯,且會對人造成傷害。不得不承認的是,當前的人工智慧遠不如小說那樣先進:它還不具備科幻電影中所描述的意識動機,可這並不能阻止我們擔心:人工智慧危機會發生在人類的未來。
  • ...首例機器人輔助全腦血管造影手術順利實施;白鱘滅絕了為什麼...
    每經10點丨北京CBD功能區總部企業達550家;全國首例機器人輔助全腦血管造影手術順利實施;白鱘滅絕了為什麼菜場有售?2020-01-05 09:55:08 每經編輯 杜宇     1丨全國首例機器人輔助全腦血管造影手術順利實施
  • Facebook:幹預對話機器人不是因為失控,而是無意義
    Facebook:幹預對話機器人不是因為失控,而是無意義 澎湃新聞記者 王心馨 實習生 張唯 綜合報導 2017-08-01 16:28 來源:澎湃新聞
  • 人工智慧會成為殺人機器人嗎
    二、人工智慧用於軍事潮流勢不可擋 在《終結者》《黑客帝國》《我,機器人》等這些經典科幻電影中,人工智慧往往作為反面角色出現,並給人類帶來極大危害。在研究過程中,人工智慧技術表現出了危險性與未知性,比如無人駕駛汽車的傷人事故,而反人工智慧軍事化的思潮則反映了人們對這一技術前景的擔憂、焦慮,甚至恐懼。 由於人工智慧技術的發展局限,機器人可能將在環境或執行程序複雜的情況中出現失控現象,比如單獨執行作戰任務、人機深度交流等軍用和民用領域。
  • 機器人互相對話,人類卻聽不懂? 揭Facebook關停「失控」AI項目真相
    編者按:近日,關於 Facebook關停「失控」 AI 項目的新聞滿天飛,更有媒體爆出機器人開始使用自己的語言進行對話,人們開始恐慌機器人失控之後會主宰世界,《連線》雜誌發表文章明確表示,這是一場鬧劇,有些媒體曲解了原義,Facebook 的聊天機器人不會主宰世界。
  • 名院周報 | 天壇醫院完成全國首例介入機器人輔助DSA手術
    技術⊙ 天壇醫院:介入機器人「魯班」完成全國首例機器人輔助全腦血管造影手術日前,首都醫科大學附屬北京天壇醫院導管室內進行了我國首例機器人輔助全腦血管造影手術。本次手術使用的「魯班」微創血管介入手術機器人是由北京天壇醫院李祐祥教授臨床研究團隊聯合北京理工大學肖楠教授的機器人技術團隊,在科技部 「血管內介入手術機器人的臨床應用研究」 國家重點研發項目支持下,研製出具有完全自主智慧財產權微創血管介入手術機器人系統。項目實施過程中實現了對同構式多器械協同管絲遞送、無菌隔離非固聯傳動等多項微創介入手術機器人的關鍵技術的突破。
  • 人工智慧的生物進化視角:讀凱文·凱利《失控》
    《失控》的英文原版標題為Out of Control:The New Biology of Machines, Social Systems, and the Economic World。在中文版中,副標題更換為「全人類的最終命運和結局」。這個更換實在太有吸引力,以至於許多人都拿起了這本像字典一樣厚實的大部頭埋頭苦讀以求窺伺天機。
  • 人工智慧的發展會失控嗎?
    打開APP 人工智慧的發展會失控嗎?最近幾年,他頻頻提醒人們注意人工智慧的威脅,批評人工智慧的無節制發展。 九三學社中央科技委委員張妍也深以為然。「人工智慧發展的腳步無法阻擋,『安全』就顯得尤為重要。」她說,「我們不是杞人憂天,要知道,防範的成本比補救的成本低很多。」
  • 人工智慧會否帶來 失控的未來?
    黑文斯最新出版的《失控的未來》一書,對於網際網路經濟和數字時代的描繪,卻秉持一種悲觀意味。他在書中假設他的女兒未來(2021年)患上了青少年帕金森病,被要求在大腦中植入一個可以遠程更新的晶片,但醫院方面對於晶片聯網運作帶給人體、人腦的潛在危害不置一詞,也沒有針對黑客入侵的應對預案。
  • 基努·裡維斯《複製人》 科學狂人用黑科技移植意識 機器人意外失控
    恭賀金華時代國際影城榮升為 完美世界影城——金華時代店       好萊塢科幻電影《複製人》將於11月23日全國公映,近日該片發布終極預告,基努·裡維斯飾演的科學狂人運用黑科技移植人類意識,卻導致事件全面失控,闖入禁區的他也深陷科技與人性的糾葛之中
  • 霍金:人工智慧或是人類歷史上最後事件
    霍金說,近來人工智慧的發展,比如電腦在西洋棋和圍棋的比賽中戰勝人腦,都顯示出人腦和電腦並沒有本質差別。霍金擔心:失控一方面,霍金擔心一些人利用人工智慧做壞事,比如最大化使用智能性自主武器,它將助長戰爭和恐怖主義,加劇世界動蕩局勢。
  • 人工智慧時代的刑事立法規劃
    在國家安全、信息數據、網絡通訊等領域內的人工智慧一旦被濫用將會產生難以想像的巨大危害有必要通過刑事立法進行風險防控 二是人工智慧失控的風險即人工智慧意外失去程序控制進而實施違法犯罪行為的風險 由於人工智慧是通過程序控制一旦程序出錯便會導致人工智慧失控 所以對於人工智慧的研發者、使用者而言必須在一定範圍內承擔相應的風險防控義務 應當看到對於不可預見的、外力所致的程序出錯與人工智慧失控顯然不可歸責於人工智慧的研發者
  • 全國首例智能骨科機器人輔助全新 生物型人工膝關節置換術在海南完成
    26日,國家骨科與運動康復臨床醫學研究中心在博鰲超級醫院,完成全國首例智能骨科機器人輔助全新生物型人工膝關節置換術。據悉,來自海南的57歲患者吳先生接受了此次手術。  據介紹,膝關節置換術是治療中晚期膝關節骨性關節炎的「黃金標準」,這個手術最重要的就是膝關節假體。
  • 國內首臺人工智慧(AI)煤矸分選機器人在開灤集團誕生
    人工智慧(AI)煤矸分選機器人。通訊員供圖  一個多月前,胡倉順告別了工作多年的洗煤廠手選工崗位,調到了皮帶看守工崗位。胡倉順口中的「它」就是新上崗的「手選工」——人工智慧(AI)煤矸分選機器人。  人工智慧(AI)煤矸分選機器人(以下簡稱AI分選機器人),由開灤集團林西礦業公司與深圳一家公司共同研發,可完全代替人工選矸,目前已應用於生產,在全國尚屬首例。