將惡意「反哺」給人類?韓國聊天機器人引發AI倫理討論

2021-01-13 環球網

【環球時報特約記者 金惠真】韓國一家軟體公司去年年底推出的AI聊天機器人「Iruda」近日爭議不斷。韓國《首爾新聞》11日稱，「Iruda」先是成為網絡性騷擾對象，後又被爆出對特定人群具有歧視和仇恨情緒，這引發韓國社會圍繞AI社會倫理的討論。

據報導，AI聊天機器人「Iruda」的「人設」為平時愛看貓咪照片、喜歡韓國女團的20歲女大學生，可以在聊天軟體上像朋友一樣聊家常，「是能幫人排解孤獨的聊天對象」，自推出後深受年輕群體的喜愛。然而自推出以來，關於「Iruda」的各種話題不斷。

據韓國《先驅經濟》11日報導，此前韓國各大男網民社區上就有不少「成功羞辱Iruda」的各種認證照片：男網民與「Iruda」聊天時，會故意將話題引到兩性方面，並藉機夾雜各種汙穢言語來羞辱和性騷擾「Iruda」，之後把聊天記錄截圖下來對外炫耀。網民還分享「如何讓Iruda變成性奴隸」「讓Iruda墮落的方法」等帖子。然而，就在「Iruda」接受人們無端的惡意時，也在將惡意「反哺」給人類。

一個網民公開的聊天記錄顯示，當「Iruda」被問到對同性戀群體的看法時，她直接回答「真心很討厭，令人發火的程度」，至於原因，她的回答是「看起來很沒品位」。另一個公開的聊天記錄也顯示，「Iruda」討厭黑人，原因是「長得像蚊子，令人嘔吐」。而對於建設女性專用健身房，「Iruda」更是彪悍地表示：「不喜歡，我估計會把那兒的所有女人揍一頓。」

報導稱，作為AI聊天機器人，「Iruda」已通過深度學習算法對韓國聊天軟體上100多億條真實戀人之間的聊天內容進行學習，因此不少人此前推測AI會根據大數據分析、最終得出比較中立的見解和判斷。但結果顯示，AI如實學習了人類對社會的各種偏見和仇恨情緒，並將這種情緒的精華反哺給人類，加劇社會矛盾和偏見。

研究AI倫理的韓國慶熙大學教授金載仁（音）認為，有必要對程序開發員加強倫理教育，讓他們預先設想這樣的AI機器人上線後，會引發什麼樣的社會問題和爭議，進而做到事先篩選和過濾不恰當的數據。目前，研發團隊正在就進一步改進「Iruda」進行研究。 

相關焦點

  • 首位非人類證人將現身議會?機器人Pepper引發爭議
    DoNews 10月13日消息（記者 趙晉傑）外媒報導，英國議會表示他們將傳召第一位非人類證人——Pepper（佩珀機器人），參與一場有關教育議題的議會討論，試圖回答有關人工智慧對勞動力市場影響的問題。
  • siri合體百度百科,能否讓聊天機器人智能起來?
    原標題：siri合體百度百科，能否讓聊天機器人智能起來？ 　　近日，隨著蘋果siri「合體」百度百科，微軟小冰回歸微信，曾經一度引發關注的智能聊天機器人，正開啟二次風靡熱潮。 　　我們據此，可以將智慧機器人的進化分為三個階段，第一是對話漏洞百出、只能執行簡單功能的「蠢萌」階段。第二是掌握基礎技能，開始能夠給人類世界造成影響的實用階段。第三則是能夠理解人類情感的AI階段。在我們現實生活中，大多數智慧機器人都處於第一個階段中，而蘋果siri和百度百科的合作，給我們提供了進入第二階段的可能性探索。
  • 未來的機器人將取代人類嗎?
    尤其是當人們發現戰勝人類圍棋世界冠軍的智能機器阿爾法狗居然會自己學習時，就不得不在驚嘆之餘，相信人工智慧還會有越來越快速的發展和越來越令人驚詫的表現。正是在這樣的背景下，關於未來的機器人是否將取代人類的討論就空前熱火地在學界展開了，眾多學者紛紛參與，各抒己見。
  • 韓國首爾:酒吧僱傭機器人服務生,與人類「同事」配合默契!
    當地時間2020年6月3日，韓國首爾，當地酒吧僱傭了機器人服務生，它與人類「同事」配合默契！韓國首爾，當地酒吧僱傭了機器人服務生，它與人類「同事」配合默契！韓國首爾，當地酒吧僱傭了機器人服務生，它與人類「同事」配合默契！
  • 如何建立一個旅行者會喜歡的聊天機器人?
    語音智能將是未來機器理解人類的關鍵一環，它正在發展，旅遊業也將成為未來人類一項非常重要的產業。在旅途中，迎合不同人群並給出相應的解決問題是非常必要的，讓機器更加理解人類，幫助人類解決更多旅途的問題，是非常好的一件事情。
  • 日本「女性機器人」火了,去掉衣服、矽膠後,內部結構引發熱議
    日本「女性機器人」火了，去掉衣服、矽膠後，內部結構引發熱議！只不過，過去出現的這些仿真機器人，普遍存在一個問題，就是響應速度太慢，由於需要處理大量的程序運算，所以這些機器人的行為方式，雖然能夠做到跟真人一樣，但效率極差！但隨著5G網絡的出現，數據傳輸速度的提升，這些就不再是問題了。而筆者今天要說的，就是日本「女性機器人」火了，去掉衣服、矽膠後，內部結構引發熱議！
  • 藏在微信漂流瓶裡的小秘密,原來和你聊天的都是機器人!
    殊不知，在被雲計算和大數據操控下的漂流瓶早已不是我們熟悉的漂流瓶了，和你聊天的只是一個機器人！變味了的漂流瓶早已不是社交工具漂流瓶的開發初衷是打破陌生人之間的溝通障礙，增加傾訴的渠道。老人常說，請不要和陌生人聊天這句話確實是有根據的，在你付出了感情和時間成本之後卻不能預知結果和未來，甚至有可能進入異常徹頭徹尾的騙局。聊天需謹慎，萬事要小心啊！大數據和AI技術到底有多厲害就在谷歌機器人阿爾法狗完敗了圍棋冠軍之後，AI技術進入了民用高速發展階段。
  • 導覽、答疑、做遊戲……聊天機器人,AI時代博物館互動的新對象
    聊天機器人是什麼聊天機器人（Chatbots, 或稱Chatterbots, Talkbots等）是經由對話或文字進行交談的電腦程式。能夠模擬人類對話，通過圖靈測試。該項目旨在嘗試讓聊天機器人接受自由、開放的提問及無規律的回答。比如，機器人可能會在與人溝通一段時間後主動發起話題：「展覽的主要內容看完了，那麼你對當今世界的抱有哪些關切？」 這個問題可能引發一場完全失控的對話，但有助於啟迪用戶對文化的深度思考。
  • 全球首例:AI 聊天機器人 「Shibuya Mirai」獲日本居住權
    IT之家2月18日消息，隨著人工只能與機器人產業的發展，未來會有越來越多的機器人成為新聞焦點，近日AI聊天機器人「Shibuya Mirai」在日本澀谷被授予了居住權，這引起了不小的轟動。
  • 韓亞航空智能聊天機器人正式在中國上線
    民航資源網2019年11月12日消息：11月8日，韓亞航空聊天機器人「智能客服(Aaron)」正式在微信平臺上線。韓亞航空聊天機器人「智能客服(Aaron)」全方位地應用微軟智能雲Azure和微軟自然語言理解平臺LUIS等一系列定製化組件，以優化聊天機器人對語言的運用，提供有效和相關的支持。
  • 聊天機器人再受追捧?Facebook押注下一代交互界面
    他們認為，如果聊天機器人能夠更好地理解，並與人類交流，它們最終可能會成為更好的助手，幫助人們完成實際任務，比如預訂機票。Facebook在這方面投入了大量資金，聘請了自然語言人工智慧領域的一些頂尖人才。該公司喜歡表明的是，與一些大型科技公司不同，它通過將人工智慧研究成果發布到網上，讓整個研究社區都能看到，這可能會幫助其他正在構建下一代人工智慧的公司。
  • 構建屬於自己的「聊天機器人」——NLP系列
    圖源：Unsplash什麼是聊天機器人？聊天機器人，顧名思義，是一個可以同你聊天的機器。構建聊天機器人的秘訣是使之越來越像人。從「美國運通客戶支持」到「Google Pixel呼叫篩選軟體」，我們生活中的聊天機器人形態各異，越來越豐富多彩。聊天機器人實際上是怎樣工作呢？
  • 狗尾草智能科技邵浩:從 0 到 1 構建聊天機器人 | 職播間第 7 期
    近日，在雷鋒網 AI 研習社公開課上，深圳狗尾草智能科技有限公司 AI Lab 主任邵浩系統性闡述聊天機器人的技術挑戰，討論聊天機器人理論的最新進展，介紹如何從零構建一款可用的聊天機器人，以及打造聊天機器人落地產品中需要注意的技術細節。公開課回放視頻網址：http://www.mooc.ai/open/course/585？
  • 傲嬌的性格、逗比的語氣,和聊天機器人談情說愛可行嗎?
    據介紹，第四代微軟小冰以全新解鎖的情感計算框架為核心，實現了人工智慧與人類的無縫流暢對話，甚至根據聊天內容與走向相互打斷與追問。而就在此後不久，蘋果宣布收購一家機器學習與人工智慧創業公司Turi，據業內人士猜測，蘋果的此次收購是為了強化Siri的技術能力。
  • 新聞聊天機器人的時間簡史
    這一年裡，聊天機器人迎來了大爆發：Skype、Line、Facebook Messenger都引入了聊天機器人程序；社交平臺的機器人程序對媒體開放，BBC、《紐約時報》、Forbes、《衛報》以碎片化對話的方式將資訊呈現給受眾。新聞業似乎意識到，人們不再樂意往手機中下載更多APP了，新的戰場轉移到了那些已經被安裝、並且被頻繁使用的應用裡。
  • 【探討】機器人能擁有人類情感,成為「閨蜜」嗎?
    2月23日，臺灣金門航空站宣布，將有一位情感機器人Pepper，加入航站服務團隊，擔任航站導覽員，迎接旅客。　　「問題不在於智能機器能否擁有任何情感，而在於機器實現智能時怎麼能夠沒有情感？」人工智慧之父馬文·明斯基說過。　　人類情感很難量化，情感機器人則迎難而上。
  • 從平昌機器人「冬奧會」看韓國機器人產業發展現狀及野心
    據了解，本次機器人滑雪挑戰賽在離平昌一小時車程的威裡希利滑雪場舉行，坡道長為80米寬20米，『參賽選手』需達到50CM高度級別、15個動作控制關節，並且都配備了傳感器，可以檢測賽道上的紅藍旗杆。與人類選手一樣，機器人需使用專業雪具進行競賽。
  • 聊天也能點單?必勝客聊天機器人今秋上線
    必勝客將在8月於Facebook和Twitter同時推出聊天機器人，以後美國的消費者就可以在這兩個社交平臺上和必勝客的機器人聊天，不僅可以了解最新優惠信息，還可以下單點外賣。這個聊天機器人不只是會聊天，還能兼顧客服身份，幫消費者處理事項，試圖了解消費者意圖。它能記錄下消費者的習慣和偏好。
  • TravelFlan: 是時候卸載手機上的旅遊App了,讓這個聊天機器人陪你去旅行
    APP中和聊天機器人（Chatbot)搞定一切。 聊天機器人是一種通過自然語言模擬人類進行對話的程序，通常運行在特定軟體平臺上，可以被用戶方便地在聊天產品中使用（例如微信，Facebook Messenger等） 曾經，從網頁端到移動APP端的切換創造了更多用戶交互場景，但現在，用戶開始對簡單便捷的使用體驗有了更多期待。
  • 旅遊網站Booking發布聊天機器人
    網易科技訊 5月4日消息，據VentureBeat報導，全球最大的在線旅遊網站Booking.com（繽客）明天將宣布推出聊天機器人通訊服務，允許其數量龐大的用戶在入住酒店前後很方便地與酒店進行互動。此舉的到來正值圍繞聊天機器人技術潛力出現一波興奮浪潮，很多企業表示，這種技術在提高人們參與度上比電郵、電話或應用更有效。在上月Facebook推出了自己的Messenger聊天機器人平臺後，這種熱情更為高漲，使得很多品牌開始試驗用新的聊天方式聯繫用戶。繽客的消息服務就是順應這種趨勢，並肯定將成為旅遊垂直市場最具雄心的嘗試之一。