文丨極客王子
自丨億歐
高交會本是兵家摩拳擦掌,一比高下之地,今天卻發生一件「不愉快」的事情,一臺名為小胖的機器人突然發生故障,在沒有指令的前提下自行打砸展臺玻璃,最終導致部分展臺破壞,更為嚴重的是,該機器人還砸傷了路人。
伴隨著熱點流竄,網上更為詳細、真實的現場圖也流出,傷者被擔架抬離會場,玻璃碎落一地,小胖機器人應景地沮喪了一臉,呆若木雞於人群中,等待著審判。
小胖機器人是北京進化者機器人有限公司旗下產品,據簡介顯示,這家公司立項於2014年8月,成立於2015年2月,發展至今員工數量達260人,按照公司規模屬於中型公司,產品定位為家用陪伴機器人和商用服務型機器人。
機器人產生的流血事件,是Bug的原因嗎?是觀眾失誤操作?總之人受到傷害,毫無疑問,小胖作為機器人並不能承擔對應的法律責任,它的爸爸要負起全責了。
這個時候,既然法理不完善,那我們就需要搬出人類共識,在1950年末阿西莫夫撰寫的《我,機器人》著作中,強調了機器人三大法則。
①機器人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管。
②機器人必須服從人給予它的命令,當該命令與第零定律或者第一定律衝突時例外。
③機器人在不違反第零、第一、第二定律的情況下要儘可能保護自己的生存。
這次機器人違反了第一條。
在弱人工智慧時代,機器人即使做出傷害,仍然是在可控範圍之內,產品對應的商家可能負有生產劣質產品的罪名,而我們仍然沒有意識到機器人在不遠的未來不是一個產品,是一個獨立的個體,機器人的行為和大腦發育應該有所受制,否則,機器人蓬勃的發展最後將走向「失控」。
隨後,北京進化者機器人有限公司給出了情況匯報。
本文作者極客王子,億歐專欄作者;轉載請註明作者姓名和「來源:億歐」;文章內容系作者個人觀點,不代表億歐對觀點讚同或支持。