陳根:在與機器人比鄰而居前,我們需要知道什麼?

2020-12-06 陳根

文/陳根

不論接受與否,人工智慧都已經與我們的生活深度融合。一方面,人工智慧給人們生活生產帶來了效率和便捷,推動社會經濟持續發展;另一方面,人工智慧本質上作為一種技術,在給產業帶來顛覆和革命的同時,也給人們既有的倫理認知等帶來了挑戰。

其中,「機器伴侶」作為未來智慧機器人發展最廣闊的領域,已經越來越多地介入人們的生活,扮演助手、朋友、伴侶甚至家人的角色。當人們不可避免要進入人機共處的時代,不可避免地要與機器人比鄰而居」時,一個不可避免的全新的問題隨之誕生——我們如何與機器人相處?

當機器人越來越被賦予人的溫度時,除了反思人機互動帶來的人與人的關係改變、人與社會的關係改變外,面對人與機器這一新生的關係,我們又該作何回應?

人與機器人,如何相處?

人工智慧,顧名思義,是機器對人類智能的功能模擬。當下,人工智慧已經滲透進了人們社會生活的方方面面。每日打開的新聞是人工智慧為我們做的算法推薦;網上購物時,首頁上顯示的是人工智慧為我們推薦的最有可能感興趣、最有可能購買的商品。

這些智能化的技術成果為人們的生活提供了便利,這是人工智慧時代下,人類與世界連接的方式。但這些技術又與過去的任何一種農業時代技術或工業時代技術不同。

工業社會時代,人對於技術的敬畏是天然的、明顯的。技術被看作是一種具有階層和權力屬性的工具,掌握技術的人通常被賦予更高的權力,保持在一個更高的社會階層和地位上。但是,在人工智慧時代下,智能技術覆蓋融合著人們的生活,所以對於技術的理解和馴化,調試人和技術的關係成為當下研究的基本範式

對於各種陪伴機器人,不論是無形的智能軟體或智能音箱,還是將來可能出現的外形上能以假亂真的人形機器人,都是在功能上可以與人交互的智能體或者行動者。在這樣的背景下,「機器人」成為人們可能聯想到的某種與人的「形象」有關的對象或實體。它們是可以與人產生交互關係的對象,而不僅僅是某種純粹的工具或機器

事實上,任何一種實體,只要具有了人的形象,或者與人產生交互,它就獲得了某種特殊的意義,如歷史人物的雕像、藝術家創造的人物雕像等。在面對這些實體時,人們的內心往往會充斥某種或崇敬或親切的情感。

而高度發達的智慧機器人不僅將會有著「人的形象」,而且更是逐漸具備或展現許多人的屬性:符合人類禮儀的言談舉止、較快的推理與思維能力、對人類的法律與道德原則的遵守等。

隨即而來的一個問題是:我們該如何與機器人相處?人與陪伴機器人的關係應該像「我-你」關係那樣,建立在相互平等與尊重的基礎上,還是當人們心情不好的時候,可以對陪伴機器人大打出手?

2017年末,在奧地利的一個科技博覽會上,塞爾吉桑託斯博士開發的兩性機器人薩曼莎就被人反覆猥褻,並受到暴力對待,直接導致薩曼莎的兩根手指被折斷。但迄今為止,這類問題必然要遇到的一個麻煩是,機器人沒有意識,甚至並不真正知曉它自己是機器人即便它被人們賦予人的形象和人的屬性,但機器人的行為終究還是計算的結果。

在機器人沒有自我意識之前,無論人們如何對待它,其所呈現的喜感或悲傷都是人設計給人看的,機器人自身並沒有可以真實感受喜怒哀樂的內心。因此,人們可不可以任憑自己的喜怒哀樂隨意地對待機器人?目前並不直接涉及交互意義上的人與機器人之間的倫理關係,而主要取決於人們在道德上是否接受這種行為。

儘管這些道德限制需要依據的事實基礎目前尚不明晰,但至少可以認定的是,以強人工智慧技術、基因工程技術等為基礎的機器人能夠享有作為道德承受體的道德地位。事實上,早在2017年,沙特政府就正式授予機器人索菲亞「沙特公民」身份。而對於未來的兩性機器人,更是有可能進入人們的生活,扮演人們生活中的重要關係角色。

顯然,從避免技術濫用的角度來看,也應該展開必要的使用規範性研究。我們不僅要尊重自己身上的人性,更要尊重機器人身上的人性,以尊重的態度對待機器人。

智能設計如何為機器人立心?

除了展開人們在具體場景中對於機器人的行為可能出現的問題的細節評估,探尋可行的倫理規範外,當前的陪伴機器人依然處於初級階段。如何在人與機器人交互以前對機器人進行設計,則是另一個不可迴避的問題。機器人不是傳統意義上的簡單商品,當機器人展現人的形象並擁有人的屬性時,為機器立心是設計機器人的重要前提

事實上,人在與機器的交往過程中往往會受到機器行為方式的影響,這種影響通常是無形的,但又確實存在。這提示設計者,與人相似的機器人的設計上使能夠按照人類的規則來與人類交往

性愛機器人是未來陪伴機器人的一個重要細分領域。顯然,在設計性愛機器人時,就不能僅僅把它們當成「情趣用品」來設計,而是需要把人際性愛交往的某些基本規則(如知情同意原則、相互接受原則)納入性愛機器人的程序中。

再比如,在設計機器人士兵或機器人警察時,需要避免把僅僅當作軍事機器人來設計。機器人士兵與機器人警察的道德判斷與行動都直接涉及人的生命,因而它們的設計與生產不僅需要透明、公開,還需要接受某個公正的全球機構的監管。必須要把對人類核心道德的維護與遵守作為強制性條款編入這類機器人的程序中,機器人士兵與機器人警察的設計需要遵循某些共同的全球標準。

此外,儘管以強人工智慧技術、基因工程技術等為基礎的機器人能夠享有作為道德承受體的道德地位,顯然,機器人最多只能成為顯性道德行為體,而不像成熟人類個體那樣的充分的或完全的道德行為體

這是因為,雖然機器人能夠履行常規的道德責任,但當面臨複雜的道德境遇或需要做出艱難的道德判斷與道德選擇時,機器人沒有幾億年的進化史留在人類身上的刻痕,沒有生物的直覺和本能,終究需要正常而理性的用戶或專家需要幫助機器人做出相關的判斷和決定。

這也意味著,機器人的設計者需要為機器人的行為承擔部分道德責任。因此,在設計機器人時,一開始就應該想辦法限制那些別有用心的設計。比如,不應該製造那些蓄意撒謊的陪伴機器人,一旦機器人撒謊的能力得到開發,就難免出現陪伴機器人包庇人類不當行為或違法行為的情況。

是機器人的道德監護人。隨著機器人越來越多地介入我們的生活,人類不可避免地要進入人機共處的時代,我們不可避免地要與機器人「比鄰而居」。但在這樣的新時代到來前,人機互動的關係也值得被我們持續反思。對於機器人,只有審慎和克制,才不會帶來自棄與沉溺。

相關焦點

  • 陳根:彈跳機器人,腳踩「風火輪」
    文/陳根自 2016 年以來,加州大學伯克利分校的仿生微系統實驗室,就一直在努力研發和改進單腿跳躍機器人的性能。除了相當出色的落腳準度,機器人還可輕鬆應付。儘管有腿機器人在爬樓梯時具有更大的優勢,但採用兩輪設計的 Ascento 2,卻更好地兼顧了雙輪滾動和彈跳技能。
  • 陳根:當AI 講人話,你知道陪你聊天的是機器人嗎?
    文/陳根Facebook AI和機器學習部門 FAIR 發布博客宣布,經過多年研究,其已經構建和開發了一個新的聊天機器人 Blender。並稱,這是有史以來最大的開放域(Open-Domain)聊天機器人。
  • 在去比鄰星b炒房之前,你需要知道的一切
    這就給了天文學家們誘人的機會去探查比鄰星b的大氣層和地表。我們可以直接搜尋水甚至地表生命的跡象了。但是——總得有一個但是——它不是你所想像的那種「宜居」行星。現在還不是。關於比鄰星b,我們到底知道了什麼?
  • 陳根:複製人類同理心,機器人怎麼理解機器人?
    文/陳根同理心是人類的一種特殊心理狀態,是設身處地地對他人的情緒和情感的認知性的覺知、把握與理解,也是指人們將心比心,心理換位的能力。顯然,這種能力除了幫助我們認識他人和理解他人外,也給我們提供了預測他人行為的可能,這意味著,人們能夠更好地合作。
  • 陳根:咖啡渣式足式機器人,將移動更快
    文/陳根足式機器人有著非常廣泛的用途,如波士頓機器狗已經能為人類牧羊了。不僅如此,足式機器人還能為我們探索災難現場,進入一些高危的區域。不過,對於災難救援而言,需要解決的核心問題就在於如何讓機器人能在廢墟上行走,並且能又快又穩地行走。
  • 人類到達比鄰星需要多久?什麼時候我們才能實現星際航行?
    本期節目我們來討論一下人類什麼時候才能實現星際旅行距離我們最近的恆星是比鄰星,它具有兩顆行星。因為即使我們乘坐最快的火箭,仍然需要11萬3000年才能夠到達比鄰星。,然後在航行的過程中利用太陽的引力進行加速,速度達到每小時幾百萬英裡,我們仍然需要6600年才能到達比鄰星。
  • 到達距離我們最近的恆星—比鄰星需要多久
    太陽系 距離我們最近的一顆恆星是比鄰星,遠親不如近鄰,我們先來了解一下這個鄰居。比鄰星的質量為木星的150倍,它卻只比木星大1.5倍而已。由於質量小,內部的核聚變烈度要比太陽低的多,這也導致比鄰星的平均光度很低。但它卻是一顆耀星,其亮度隨時可能由於磁場活動而劇烈增加。比鄰星上的磁場是由恆星內部物質的對流運動產生的,由這一磁場導致的耀斑活動使得比鄰星產生的X射線總量與太陽差不多。
  • 陳根:研究開發繪畫機器人,藝術和技術終將碰撞
    文/陳根藝術和技術的碰撞是文明演化中必然的經歷,卡內基梅隆大學近日開發了一種機器人,可以通過觀察人類藝術家的筆觸中學習繪畫。研究人員表示:「我們的主要貢獻是開發一種方法來生成模仿藝術家風格的筆觸,這些筆觸可以與基於筆劃的渲染器結合,形成機器人繪畫過程的風格化方法。
  • 陳根:宇樹科技推出四足機器狗,它可以幹什麼?
    陳根:宇樹科技推出四足機器狗,它可以幹什麼?在不遠的未來我們可以遛機器狗了,陪伴人類的寵物機器時代即將到來。雖然這還只是一個起點,但卻代表了人類能夠擁有寵物機器人的時代即將到來。
  • 陳根:從工業機器人到陪玩機器人,市場新藍海
    文/陳根在過去的幾年裡,許多遊戲機都致力於通過引入配件來提升遊戲體驗。Xbox 360推出了Kinect傳感器,甚至連NES也配了等離子槍配件。按照索尼的設想,陪玩機器人不僅解決了玩家孤獨的問題,同時藉助於機器人對玩家情緒的捕捉,以不同的語言表達方式來給玩家鼓舞情緒。
  • 我們都需要比鄰而居的歡樂
    隨著近年來許多城市高樓林立,冰冷的鐵門也鎖住了都市人的心靈,隔斷了比鄰而居的歡樂,鄰居之間,咫尺難認。在這一背景下,南寧市仙葫蓉茉社區居委會以端午節為紐帶,開展「鄰裡美食百家宴」活動,增進鄰裡間感情,值得推崇。  鄰裡關係是傳統社會關係的一個重要組成部分,這種基於空間的社會關係,在傳統社會中承載著情感溝通和社會支持的重要功能。
  • 陳根:從獵豹啟發到水母啟示,機器人的自然原型
    文/陳根聽到「軟體」,人們總是本能地想到毛毛蟲之類行動比較緩慢的生物。而對於機器人,我們本能的感受則是「剛硬」。而今年來,一支由美國科學家組成的科學團隊嘗試在軟體機器人上以獵豹的這種奔跑原理為靈感複製這種運動,這項稱之為LEAP的研究發表在《科學·進展》上。
  • 離我們最近的恆星比鄰星
    離我們最近的恆星是比鄰星,它是一顆小紅矮星,距離我們4.2光年。它是半人馬座阿爾法星系的第三個成員,雖然它離我們很近,但我們用肉眼是看不到它的。有了這些數據,科學家們現在知道了PC系統的視差、運動和綜合質量。但這項新工作背後的團隊並沒有就此止步。他們還使用了VLT上的SPHERE儀器來為PC c進行更精確的質量測量。天文學家發現新行星比鄰星c的質量大約是地球的7倍。
  • 陳根:打破醫院的圍牆,遠程機器人助力醫療
    文/陳根摘要:衝破物理空間的制約,遠程機器人助力醫療,隔空手術落地實現,醫院圍牆被打破的時代即將到來。據外媒New Atlas報導,遠程機器人系統是一種允許外科醫生在一個地方控制另一個地方的機器人進行手術的工具,因此他們可以在遠處進行手術。
  • 在陪伴機器人到來以前,先為機器立心
    文/陳根不論接受與否,人工智慧都已經與我們的生活深度融合。一方面,人工智慧給人們生活生產帶來了效率和便捷,推動社會經濟持續發展;另一方面,人工智慧本質上作為一種技術,在給產業帶來顛覆和革命的同時,也給人們既有的倫理認知等帶來了挑戰。
  • 陳根:體感交互將開啟無人機控制新時代
    陳根:體感交互將開啟無人機控制新時代 2020-04-30 20:45 來源:澎湃新聞·澎湃號·湃客
  • 我們前往比鄰星都會經歷些什麼?
    我們前往比鄰星都會經歷些什麼
  • 陳根:日本推出的女性機器人,真的能成社會福音嗎?
    文/陳根根據國家統計局發布的數據,2019年中國大陸總人口140005萬人,比上年末增加467萬人。女性機器人解決了單身男性什麼問題?女性機器人最淺顯直接的作用,無非是幫助廣大的單身男性解決日常起居的生活問題和生理問題。
  • 陳根:癌細胞的突變需要什麼「先天努力」?
    文/陳根 所有癌症都在細胞中開始。 我們的身體由超過一億(100,000,000)個細胞組成,而癌症則始於一個細胞或一小組細胞的變化。癌細胞從出現到擴增,再到轉移,它們為了獲得生存空間爭奪養分,選擇了許多生命體無法實現的演化策略。
  • 我們所知道的最近的比鄰星b,可能比我們想像中的更像地球
    【內容簡介】:比鄰星 b 是太陽附近已知的最有趣的行星之一,最新觀測顯示,這顆離我們太陽系最近的外星行星,比科學家們想像中的更像地球。Kornmesser)新的觀測表明,離我們太陽系最近的外星球比科學家想像中更像地球。在一項新的研究中,一個國際研究小組發現,距離地球僅4.2光年的比鄰星b,僅比我們的地球打17%。