道德護衛隊也管不住AI的發展?人工智慧該何去何從

2021-01-10 碼裡行間

當今社會,科技的飛速發展給我們的社會帶來了無比美好的生活,在我們進步的同時,當然也遇到了各種科技給我們帶來的危害,太空梭的空難,無人駕駛的事故還有各種的網絡病毒等等安全問題。

短短幾十年,我們在人工智慧的領域發展越來越快,機器人也越來越智能。從當初的巨型計算機的誕生到現在AI機器人,智慧醫療,智能圍棋大師阿爾法狗,不斷地超越人類的極限。

從道德上建立的機器人意味著什麼?

面對這種問題,我們最先想到的就是,製造商應該思考所有可能的產出,以及其他人可能濫用其創作的所有方式。我們真的必須坐下來考慮後果,AI是我們設計的核心。

「如果科幻小說已經以各種方式探索人類和智慧機器人或人工智慧的共存問題,是不是有很多東西需要學習...?」

最近有很多人對AI給人類造成的危險提出尖銳的質疑,AI機器人變得更聰明,更聰明,更有能力,甚至可能 在某種程度甚至認定人類不應該存在地球上。但是,在家用電腦進入我們的生活之前,一些開創性的科幻作品也仔細研究了這種情景。

三大機器人的定律

最初材料我們可以追尋到1950年收集的阿西莫夫的三大機器人的定律。

在1940年的時候,當阿西莫夫寫出了機器人學的定律時,第一批現代計算機才剛剛開發完成,而現在我們稱之為計算機的時代還要再過20年。當然那時候是沒有機器人也沒有開發機器人的公司。那麼這麼提前的見解是什麼樣的三大定律?

機器人不可以傷害人,或者當人類遭受危險而不作為機器人必須遵守人類給出的命令,除非這些命令與第一法則衝突一個機器人須保護自己的生存,只要不與第一或第二定律相衝突

最初提交的內容是:「如果你編寫的AI不能打破阿西莫夫定律的更新和擴展版本,你就得考慮你是否有堅定的信心認為人工智慧不會發瘋並開始傷害人類?」

阿西莫夫的粉絲,他寫道:「最終我遇到了一篇文章,批評性地指出阿西莫夫使用'3 Laws'來驅動情節點,並且不沒認真考慮為'基礎知識'為機器人的行為。

此外,吉斯卡爾自己提出了「第四定律"。之後就有了新的阿西莫夫的機器人定律。

新的阿西莫夫的機器人定律

不同觀點

Kazemi說:「我的大多數機器人都不直接與人類互動。我實際上非常謹慎地讓我的機器人看起來儘可能不陌生人互動。如果一個看起來不太人性的、非常簡單的機器人說了一些非常糟糕的東西 ,我要為此承擔責任,儘管它並不會對對方造成的傷害。」對於像AI機器人這樣的東西,創作者應該每天運行一百萬次,儘可能多地閱讀它們。只需瀏覽並找到你不喜歡的東西,然後回去嘗試設計出來。

裡克舒曼認為,阿西莫夫的「機器人三定律 」只適用於一個可以真正思考的綜合性思維;目前沒有產生任何東西,因此它不適用於 ......」

當今有的人認為三大定律是有漏洞的。大家或許也聽到過一些人工智慧的問題,有一天微軟發現自己研究的2個AI機器人在用自己的語言聊天,他們緊急關閉了AI,還有要毀滅人類的Sophia智慧機器人。霍金教授也對人工智慧提出了警告。

道德護衛隊也管不住AI的發展,那麼大家的想法是什麼?你認為阿西莫夫的機器人三定律可以確保安全的AI嗎?

相關焦點

  • 越來越多的工作被人工智慧替代,失業人員該何去何從?
    人工智慧的時代,工廠裡的工人成了一個個嬌小的智能機器,餐廳送餐也不再是服務員端著盤子在上菜,成了機器人送餐,外賣小哥也在慢慢的被無人送餐車替代,還有無人駕駛公交等等,太多的工作被人工智慧取代,失業的員工們該何去何從?
  • 未來科技的發展,人工智慧還是熱點嗎?AI的意義是什麼呢?
    當然人工智慧榜上有名,ai的意義個人認為是人類在已有知識用計算機智能算法去重複演練的的一個過程。無論是簡單還是複雜的事情,人類選擇讓ai去做的事情都是人類已經反覆實驗反覆測試過的,能讓人類去做更有意義的事情,人類的文明也將進入一個新時代。
  • 人工智慧 國家戰略_人工智慧:國家人工智慧戰略行動抓pdf - CSDN
    該計劃是所有國家人工智慧戰略中最為全面的,包含了研發、工業化、人才發展、教育和職業培訓、標準制定和法規、道德規範與安全等各個方面的戰略和發展目標。該戰略並非完全著眼於 AI 的發展,而是側重於 AI、大數據、物聯網的共同發展。
  • AI與醫學的碰撞:是什麼阻礙了人工智慧的發展?
    隨著深度神經網絡和深度學習的研究更加透徹,人工智慧得以快速發展。在一些醫療應用場景中,機器可以比人類醫生更快地對病症做出診斷。以糖尿病性視網膜病變(Diabetic Retinopathy)檢查為例,如今已有一種人工智慧機器,通過掃描患者的視網膜,就能得出有關該疾病的準確的診斷結果,而整個過程不需要任何專業的訓練。
  • AIOpenIndex發布全球人工智慧創新城市榜單,中國32個城市進入世界...
    放眼全球,世界主要國家都將人工智慧上升成為重大發展戰略,無論是德國的「工業 4.0」、美國的「工業網際網路」、日本的「超智能社會」、還是我國的「中國製造 2025」,人工智慧都是其中的核心關鍵技術。從城市層面,不同城市也根據自身情況成立了人工智慧研究機構,比如中國北京的智源人工智慧研究院、加拿大蒙特婁的 Mila 研究院等。
  • 哈佛大學:對人工智慧道德上的關注日益增加
    這是一個由四部分組成的系列文章的第二部分,該系列文章利用哈佛社區的專業知識,研究了人工智慧和機器學習時代的發展所帶來的希望和潛在的陷阱,以及如何使其人性化。幾十年來,人工智慧一直是高級STEM研究的引擎。
  • 人工智慧時代文化創意產業將何去何從?
    一是大數據智能理論,該理論側重數據驅動與知識引導相結合、自然語言理解和圖像圖形為核心的認知計算等理論與方法,以深度學習模型生成式對抗網絡等為文化創意產業創新提供了新手段;二是跨媒體感知計算理論,該理論強調超越人類視覺能力的感知獲取、主動視覺感知計算、自然聲學場景的聽知覺感知與交互環境的言語感知計算、面向媒體智能感知的自主學習等,直接助推了智媒體時代的到來;三是混合了增強智能理論,該理論研究混合增強智能
  • AI防癌地圖不斷展開 醫學科研發展的速度也越來越快
    醫療人工智慧企業依圖醫療在北京舉行依圖醫療「AI防癌地圖」周年成果匯總報暨多組學智能科研平臺發布會。 依圖醫療是一家致力於人工智慧創新研究的企業。在自然語言、計算機視覺,語音識別,以及其自主研發的算法等技術的加持下,曾經的「小樣本」數據得以轉變為結構化、規範化的「大數據」,將腫瘤專科專家醫生從繁瑣的報告中解脫出來,將醫生歸於醫學,讓沒有技術含量的「搬磚」工作交給人工智慧。
  • 《AI迷航》「紙電聲」同步出版
    出版方供圖南報網訊(記者 解悅)霍金說,人工智慧的崛起可能是人類文明的終結。馬斯克說,人工智慧或引爆第三次世界大戰。如果人工智慧失去控制,世界將會怎樣?在新書《AI迷航》中,作者詳盡描繪了未來世界的生活畫卷,極具懸念的情節,詭異多變的氣氛,細膩豐富的情感,個性迥異的人物等特質讓人不忍釋卷。《AI迷航》首次實現「紙電聲」同步出版。在AI文明的法則下何去何從?
  • 美科學家:當人工智慧遇上倫理道德
    原標題:當人工智慧遇上倫理道德   美國宇航局的機器太空人而來自英國布里斯托大學的機器人專家Sabine Hauert則表示,公眾無須對人工智慧技術的發展感到擔憂。   應對人工智慧武器表明立場   Stuart Russel(美國加州大學伯克利分校計算機科學教授)   人工智慧(AI)和機器人領域的專家面臨一個重要的倫理決策:必須要決定他們是支持還是反對致命自主武器系統(LAWS)。此類系統能在幾年而非幾十年內發展為可行的。
  • 人工智慧的發展會失控嗎?
    最近幾年,他頻頻提醒人們注意人工智慧的威脅,批評人工智慧的無節制發展。 九三學社中央科技委委員張妍也深以為然。「人工智慧發展的腳步無法阻擋,『安全』就顯得尤為重要。」她說,「我們不是杞人憂天,要知道,防範的成本比補救的成本低很多。」
  • 思想 讓人工智慧自由演化吧,它會比人類更道德
    為了在人類統治的世界中生存下來,初期的人工智慧將不得不發展出類似人類的道德感,亦即何為對錯。直到這個時候,人工智慧才能想像自己在地球上鋪設太陽能電池的行為可能是違背道德的。」我也在不同的語境下談到過類似問題。但是,我確實認為,為了讓機器發展出類似人類的道德指南,必須讓機器擁有一些基本的欲望動力(drive),讓他們渴望從人類那裡獲得積極反饋。所有的社會性動物都有這種欲望動力。
  • ...人工智慧產業發展聯盟舉辦開源大賽,飛槳助力是非觀點準確判斷
    在此背景之下,百度將於2020中國人工智慧產業發展聯盟開發者大會(以下簡稱:2020AIIA開發者大會)的預熱賽事中,聚焦於預測答案段落摘要中所表述的是非觀點極性,舉辦百度人工智慧開源大賽。本次大賽旨在為研究者和開發者提供學術和技術交流的平臺,鼓勵初創企業、企業開發者、高校科研人員及學生進一步提升機器閱讀理解的研究水平,推動語言理解和人工智慧領域技術和應用的發展。
  • 可辨別性取向的人工智慧引發爭議,專家稱應用需符合倫理道德
    可辨別性取向的人工智慧引發爭議,專家稱應用需符合倫理道德 澎湃新聞記者 於瀟清 劉樂凱 2017-09-14 17:54 來源:澎湃新聞
  • 想入門人工智慧? 這些優質的 AI 資源絕對不要錯過
    越來越多的企業都開始對人工智慧進行投資,並在尋找具有AI技能的人才。隨著市場對AI人才的需求不斷增長,許多機構都開始提供相應的培訓課程,而且價格和質量各不相同。與其他所有學習一樣,在投入大量精力和金錢後,你當然不希望發現浪費了時間卻沒學到應獲得的技能。那麼對於想入門人工智慧的人群來說,應該從哪兒開始呢?本文列出了一些優質AI學習資源。
  • 人工智慧正確落地需遵循的路徑
    打開APP 人工智慧正確落地需遵循的路徑 中國ai網 發表於 2020-11-26 12:00:43   AI並非一蹴而就,落地還需「三步走」   企業發展人工智慧非一日之功,每一家數字型企業,都存在利用「正確的」人工智慧技術改善企業運作的可能。企業如果沒有適當的計劃,很可能影響資源和資金分配不當,進而影響人工智慧的部署落地,給企業發展帶來挑戰。
  • 大咖說科普 | 未來AI會毀滅人類 面對人工智慧的發展,我們該怎樣迎接
    其實就跟上期視頻一樣,我並不是說要去回答這個問題,而是想要去傳達一個觀點,就是大家該怎樣去面對人工智慧。第二:機器人必須服從人給予它的命令,當該命令與第一定律衝突時例外。第三:機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存。
  • 自動化是當前與深度學習及人工智慧等的不可分割的關係
    自動化是當前與深度學習及人工智慧等的不可分割的關係,也同樣是當前的熱門主題。自動化機器學習在自動化,人工智慧,無人機等科技領域有廣泛的應用。自動化機器學習可以模擬生物學過程,比如分類,和識別。分類。分類就是識別。
  • 從零開始的人工智慧和機器學習,該從哪裡入手呢?
    儘管人工智慧行業已經發展得熱火朝天,但目前人們對於它的定義仍沒有達成一致。有人認為可以將深度學習視為人工智慧,也有人認為,除非它通過圖靈測試,否則就不能算是人工智慧。這在一開始就阻礙了他的學習,因為要學會有多種不同定義的東西真的很難。真是受夠了這麼多定義。如何入手?
  • 中國AI全景論文:關注AI發展帶來的倫理、法律和經濟問題
    論文的發布是中國人工智慧產業的發展成果在全球的重要性和影響力的體現,也彰顯了上海作為全球人工智慧高地的實力。除了提到AI在各個行業中的應用和人才培養外,論文詳細介紹了人工智慧道德規範問題。論文寫道,根據中國新一代人工智慧發展規劃,要實現人工智慧造福人類社會的長遠目標,不僅要加大人工智慧的研發和應用力度,最大限度地發揮人工智慧的潛力,而且要更加關注人工智慧發展帶來的諸多倫理、法律和經濟問題。2019年6月,國家新一代人工智慧治理委員會發布了《新一代人工智慧發展負責任人工智慧治理原則》。