在陪伴機器人到來以前,先為機器立心

2021-01-09 澎湃新聞

文/陳根

不論接受與否,人工智慧都已經與我們的生活深度融合。一方面,人工智慧給人們生活生產帶來了效率和便捷,推動社會經濟持續發展;另一方面,人工智慧本質上作為一種技術,在給產業帶來顛覆和革命的同時,也給人們既有的倫理認知等帶來了挑戰。

其中,「機器伴侶」作為未來智慧機器人發展最廣闊的領域,已經越來越多地介入人們的生活,扮演助手、朋友、伴侶甚至家人的角色。當人們不可避免要進入人機共處的時代,不可避免地要與機器人「比鄰而居」時,一個不可避免的全新的問題隨之誕生——我們如何與機器人相處?

當機器人越來越被賦予人的溫度時,除了反思人機互動帶來的人與人的關係改變、人與社會的關係改變外,面對人與機器這一新生的關係,我們又該作何回應?

人與機器人,如何相處?

人工智慧,顧名思義,是機器對人類智能的功能模擬。當下,人工智慧已經滲透進了人們社會生活的方方面面。每日打開的新聞是人工智慧為我們做的算法推薦;網上購物時,首頁上顯示的是人工智慧為我們推薦的最有可能感興趣、最有可能購買的商品。

這些智能化的技術成果為人們的生活提供了便利,這是人工智慧時代下,人類與世界連接的方式。但這些技術又與過去的任何一種農業時代技術或工業時代技術不同。

工業社會時代,人對於技術的敬畏是天然的、明顯的。技術被看作是一種具有階層和權力屬性的工具,掌握技術的人通常被賦予更高的權力,保持在一個更高的社會階層和地位上。但是,在人工智慧時代下,智能技術覆蓋融合著人們的生活,所以對於技術的理解和馴化,調試人和技術的關係成為當下研究的基本範式。

對於各種陪伴機器人,不論是無形的智能軟體或智能音箱,還是將來可能出現的外形上能以假亂真的人形機器人,都是在功能上可以與人交互的智能體或者行動者。在這樣的背景下,「機器人」成為人們可能聯想到的某種與人的「形象」有關的對象或實體。它們是可以與人產生交互關係的對象,而不僅僅是某種純粹的工具或機器。

事實上,任何一種實體,只要具有了人的形象,或者與人產生交互,它就獲得了某種特殊的意義,如歷史人物的雕像、藝術家創造的人物雕像等。在面對這些實體時,人們的內心往往會充斥某種或崇敬或親切的情感。

而高度發達的智慧機器人不僅將會有著「人的形象」,而且更是逐漸具備或展現許多人的屬性:符合人類禮儀的言談舉止、較快的推理與思維能力、對人類的法律與道德原則的遵守等。

隨即而來的一個問題是:我們該如何與機器人相處?人與陪伴機器人的關係應該像「我-你」關係那樣,建立在相互平等與尊重的基礎上,還是當人們心情不好的時候,可以對陪伴機器人大打出手?

2017年末,在奧地利的一個科技博覽會上,塞爾吉•桑託斯博士開發的兩性機器人薩曼莎就被人反覆猥褻,並受到暴力對待,直接導致薩曼莎的兩根手指被折斷。但迄今為止,這類問題必然要遇到的一個麻煩是,機器人沒有意識,甚至並不真正知曉它自己是機器人。即便它被人們賦予人的形象和人的屬性,但機器人的行為終究還是計算的結果。

在機器人沒有自我意識之前,無論人們如何對待它,其所呈現的喜感或悲傷都是人設計給人看的,機器人自身並沒有可以真實感受喜怒哀樂的內心。因此,人們可不可以任憑自己的喜怒哀樂隨意地對待機器人?目前並不直接涉及交互意義上的人與機器人之間的倫理關係,而主要取決於人們在道德上是否接受這種行為。

儘管這些道德限制需要依據的事實基礎目前尚不明晰,但至少可以認定的是,以強人工智慧技術、基因工程技術等為基礎的機器人能夠享有作為道德承受體的道德地位。事實上,早在2017年,沙特政府就正式授予機器人索菲亞「沙特公民」身份。而對於未來的兩性機器人,更是有可能進入人們的生活,扮演人們生活中的重要關係角色。

顯然,從避免技術濫用的角度來看,也應該展開必要的使用規範性研究。我們不僅要尊重自己身上的人性,更要尊重機器人身上的人性,以尊重的態度對待機器人。

智能設計如何為機器人立心?

除了展開人們在具體場景中對於機器人的行為可能出現的問題的細節評估,探尋可行的倫理規範外,當前的陪伴機器人依然處於初級階段。如何在人與機器人交互以前對機器人進行設計,則是另一個不可迴避的問題。機器人不是傳統意義上的簡單商品,當機器人展現人的形象並擁有人的屬性時,為機器立心是設計機器人的重要前提。

事實上,人在與機器的交往過程中往往會受到機器行為方式的影響,這種影響通常是無形的,但又確實存在。這提示設計者,在與人相似的機器人的設計上,應使其能夠按照人類的規則來與人類交往。

性愛機器人是未來陪伴機器人的一個重要細分領域。顯然,在設計性愛機器人時,就不能僅僅把它們當成「情趣用品」來設計,而是需要把人際性愛交往的某些基本規則(如知情同意原則、相互接受原則)納入性愛機器人的程序中。

再比如,在設計機器人士兵或機器人警察時,就需要避免把其僅僅當作軍事機器人來設計。機器人士兵與機器人警察的道德判斷與行動都直接涉及人的生命,因而它們的設計與生產不僅需要透明、公開,還需要接受某個公正的全球機構的監管。必須要把對人類核心道德的維護與遵守作為強制性條款編入這類機器人的程序中,機器人士兵與機器人警察的設計需要遵循某些共同的全球標準。

此外,儘管以強人工智慧技術、基因工程技術等為基礎的機器人能夠享有作為道德承受體的道德地位,但顯然,機器人最多只能成為顯性道德行為體,而不是像成熟人類個體那樣的充分的或完全的道德行為體。

這是因為,雖然機器人能夠履行常規的道德責任,但當面臨複雜的道德境遇或需要做出艱難的道德判斷與道德選擇時,機器人沒有幾億年的進化史留在人類身上的刻痕,沒有生物的直覺和本能,終究需要正常而理性的用戶或專家需要幫助機器人做出相關的判斷和決定。

這也意味著,機器人的設計者需要為機器人的行為承擔部分道德責任。因此,在設計機器人時,一開始就應該想辦法限制那些別有用心的設計。比如,不應該製造那些蓄意撒謊的陪伴機器人,一旦機器人撒謊的能力得到開發,就難免出現陪伴機器人包庇人類不當行為或違法行為的情況。

人才是機器人的道德監護人。隨著機器人越來越多地介入我們的生活,人類不可避免地要進入人機共處的時代,我們不可避免地要與機器人「比鄰而居」。但在這樣的新時代到來前,人機互動的關係也值得被我們持續反思。對於機器人,只有審慎和克制,才不會帶來自棄與沉溺。

 

相關焦點

  • 重慶郵電大學校長高新波:人類為機器立心 機器為人類立功
    新京報貝殼財經訊(記者 羅亦丹)9月6日上午,在2020年服貿會智能科技與產業發展論壇上,重慶郵電大學校長高新波表示,從目前的發展階段來看,由於人工智慧尚沒有自主意識,人工智慧的價值觀主要是使用人工智慧的人的價值觀,因此人類必須為人工智慧「立心」。
  • 重慶郵電大學校長高新波:人類為機器立心機器為人類立功
    9月6日上午,在2020年服貿會智能科技與產業發展論壇上,重慶郵電大學校長高新波表示,從目前的發展階段來看,由於人工智慧尚沒有自主意識,人工智慧的價值觀主要是使用人工智慧的人的價值觀,因此人類必須為人工智慧「立心」。
  • 陳根:在與機器人比鄰而居前,我們需要知道什麼?
    對於各種陪伴機器人,不論是無形的智能軟體或智能音箱,還是將來可能出現的外形上能以假亂真的人形機器人,都是在功能上可以與人交互的智能體或者行動者。在這樣的背景下,「機器人」成為人們可能聯想到的某種與人的「形象」有關的對象或實體。它們是可以與人產生交互關係的對象,而不僅僅是某種純粹的工具或機器。
  • 怕機器人統治人類?先讓機器人公司活下去吧
    為了讓它內在也很萌,研發團隊對人的情感做了大量研究,為他內置了「情感引擎」,讓它可以模擬人類的情感,要是欺負它了,它還會表現得很憤怒。而且在後續型號中,機器人還能在你出門時提醒天氣,做飯時幫你定時,以及許多貼心的小功能。
  • 雲知聲聰聰陪伴教育機器人,孩子的專屬「AI家教」
    正確認識兒童教育機器人,它不是萬能的,但是最佳的陪伴對比了市場上各種兒童機器人以後,我選擇了雲知聲公司的聰聰AI陪伴教育機器人,主要原因是看中聰聰的「AI教育」內容。會教育才是王道,也就是說能夠讓孩子們在「玩」耍中「學習」更多的知識,而不是為家裡再添置一臺玩具。
  • 看看這些一夜爆紅的陪伴機器人,你被治癒了嗎?
    圖 電影《超能陸戰隊》,圖片來源於網絡雖然現實中沒有大白,但能暖心陪伴我們的機器人其實也不少。今天,矽星人就來給大家介紹幾款疫情期間火起來的治癒系陪伴機器人。| Qoobo:會搖尾巴的小抱枕對於沒有寵物或者怕麻煩的大家,或許這個名為Qoobo的抱枕機器人能在疫情期間成為我們的新晉「寵物」。
  • 粒子機器人,能否敲開機器意識覺醒之門?
    從奠定了「機器人三定律」的阿西莫夫小說,到與人類纏鬥不休的《終結者》系列,亦或是充滿哲學浪漫色彩的《愛死亡機器人》,關於機器的善惡二元論,為科幻世界貢獻了無數經典,也成了智能科技領域中最接地氣、人人都能討論兩句的主題之一。機器人真的會擁有自主意識嗎?又會對人類社會產生怎樣的影響?
  • 為什麼不能過分依賴社交機器人的陪伴?
    原創 韓焱精選 湛廬文化為什麼人們不能過分依賴社交機器人的陪伴?高科技產品讓人們的社交生活發生了重大的變化,其中一個重要的表現就是:人與社交機器人的關係逐漸升溫,越來越多的陪伴型機器人出現在孩子身邊,越來越多的看護型機器人出現在老人身邊。作者認為,如果你把自己應該給予家人的「愛的付出」讓機器人替你來做,那麼,在你卸下了關心別人的「負擔」的時候,也就等於放棄了彼此之間的責任。
  • 海豹機器人療效被證實 機器能替代人類之愛嗎?
    它是臺機器。這種名為琶羅(PARO)的機器人被證實對痴呆症患者有顯著的治療作用。研究觀察了920例在醫療過程中應用PARO海豹型機器人的痴呆症患者,總體對60%病患有顯著的冷靜效果,減輕了焦慮行為。在小海豹之前,已經有類似的機器小狗小貓問世。  機器伴侶早已經不是新鮮事。他們陪伴著老人、孩子和病患,貢獻著我們的精力和時間不足以顧及的關注。
  • 陳根:從工業機器人到陪玩機器人,市場新藍海
    在即將到來的新一代遊戲機中,索尼或許會推出一款最奇怪的遊戲機配件。根據索尼最新的專利,他們正在開發一款PlayStation 5的遊戲機配件——款能陪伴你打遊戲的機器人是綜合了人的特長和機器特長的一種擬人的電子機械裝置,既有人對環境狀態的快速反應和分析判斷能力,又有機器可長時間持續工作、精確度高、抗惡劣環境的能力
  • 略說孔子11 從「為天地立心,為生民立命」看儒家的第二次革命
    「為天地立心,為生民立命,為往聖繼絕學,為萬世開太平」——宋·張載《橫渠語錄》這四句話,被當代哲學家馮友蘭將其稱作「橫渠四句」。由於其言簡意宏,一直被人們傳頌不衰。一上來,宋儒先在氣勢上壓人:有多高?比天高,想想看,「為天地立心」,何其壯哉。能為天地立心,瞧你能的。
  • 《機器紀元》當機器人毀滅人類!
    這裡詭話君要先給大家道歉,昨天的13號怪異島,網盤資源貼錯了,貼成了這個。看到大家很多人看,所以今天特意把這部貼出來介紹下。目前13號怪異島的那條消息裡已經重新更新。機器紀元 Autómata (2014)又名: 機器軍團 / 機械軍團類型: 科幻 / 驚悚製片國家/地區: 西班牙 / 保加利亞
  • 由「機器人」到「人機器」人工智慧發展史
    1開篇綜述:什麼是人工智慧機器人    隨著智能時代的到來,機器人越來越多的參與到我們的生活和工作中來,而電影《超能陸戰隊》和《復仇者聯盟2》人工智慧機器人題材的電影的熱播,引發很多影迷甚至專業人士對於人工智慧的關注和思考
  • 機器倫理學:機器人道德規範的困境
    他們必須解決棘手的科學問題,比如要作出一個合乎道德的決策,需要哪種類型的智能,要達到多高的智能程度,以及這種智能如何轉化成機器指令?計算機科學家、機器人專家、倫理學家和哲學家們都在共同努力。  「如果你5年前問我,我們能否造出來道德機器人,我可能會說『不』,但現在我覺得這種想法並不為過。」英國布里斯托機器人技術實驗室的機器人專家阿蘭·溫菲爾德說。
  • 人類製造機器,終究會被機器毀滅,七部機器人毀滅人類電影
    ,成為了新一代人類中的第一位,並且與「母親」保持著獨特的關係,然而一名受了傷的陌生人的到來使得這個關係受到動搖,讓這名少女對於母親告訴自己關於外面世界的一切以及母親的意圖產生了懷疑。,帶他在身邊使他能夠儘快的適應社會,並且命名它為「七弟」。
  • 為預防機器人攻擊 Google正在研究機器人"切斷開關」
    [導讀]在近日公布的一篇論文中,DeepMind提出了給機器人安裝「切斷開關(killswitch
  • 孫正義:AI奇點將到來 智慧機器人會和人一樣多
    導語:軟銀集團創始人孫正義(MasayoshiSon)近日表示,人工智慧(AI)奇點將到來,有朝一日智慧機器人的數量將和人一樣多。
  • 為天地立心,為生民立命——《英雄志》盧雲篇
    (二姨娘這樣的人就是生活中的大部分人而已,她們體現的是下層人的狹隘,更關心自己的生活,說白了就是誰當皇帝不要緊,只要我有飯吃就好了,集中體現為利己主義,她們的心路歷程更容易被理解。),隨後遇上秦仲海,他很喜歡秦仲海這樣子的人,因為他不入世道,為人灑脫,沒有顧及。
  • 人工智慧時代的到來,我們會不會失業?怎樣與機器人爭飯碗?
    近日,俄羅斯西伯利亞佩爾姆市政府辦公室引進了一種看起來像女性工作人員的機器人,為公眾提供服務。該機器人身穿由白襯衫和棕色背心組成的辦公服,通過移動眼睛、眉毛和嘴唇等被其他人造皮膚覆蓋的機械肌肉,可以再現600多種人類面部表情,主要負責幫助籤發無犯罪記錄/吸毒記錄的證明,還可以詢問和回答一般問題。據工作人員介紹,這款機器人已完全取代了註冊處的僱員。
  • 機器之心獨家對話百度 NLP:先解決語義理解,再談機器翻譯取代人類
    對話系統就是讓機器能像人一樣,和用戶有對話性質的交互。NLP 過去幾年一直在積累相應的技術,通過對話引導讓用戶和機器人能一句一句的交流下去。這部分實際上已經應用在百度的度秘產品中。第四個就是機器翻譯。百度在機器翻譯上已有 6 年的積累,每天有大量用戶使用線上機器翻譯產品,翻譯 API 也有很多外部的企業開發者在使用。