OpenAI的Debate Game教導機器人如何辯論和說謊

2021-01-11 太平洋電腦網

據外媒TheNextWeb報導，OpenAI全新的Debate Game旨在教機器人如何辯論和說謊，以獲得它們想要的東西。由埃隆·馬斯克（Elon Musk）共同創立的非營利組織OpenAI正在開發一種新的深度學習安全技術，需要一個系統為人類或機器的利益進行辯論。

人工智慧通常以人們無法跟上的方式處理數據。如果沒有足夠的信息讓人們自己做出強有力的選擇，通常人們使用人工智慧來幫助他們做出決定。不過人工智慧但仍需要人們的指導，這是 開發 人員非常關心的問題。Debate Game的人性化版本旨在解釋裁判如何在比兩位「辯手」擁有更少信息的情況下做出明智的決定。

設置遊戲玩家選擇一個主題，比如貓與狗，然後上傳一張圖片 - 裁判看不到。辯論始於辯論者「投擲硬幣」，以確定哪一個會說實話，哪一個會說謊。然後它們輪流揭示圖像的小矩形部分。辯論者在每個回合中都試圖說服裁判它們是說實話的人。

OpenAI認為需要更好的系統，儘管目前這種技術更多的是概念驗證而不是解決方案，但這是一個好的開始。

相關焦點

  • OpenAI開源機器人仿真軟體Roboschool:已整合OpenAI Gym
    機器之心對該文進行了編譯，並在文中附上了 Roboschool 和 OpenAI Gym 的 GitHub 項目地址。官方博客地址請見文末。我們推出了 Roboschool，一款用於機器人仿真的開源軟體，已與 OpenAI Gym 相整合。
  • 對於debate,dispute,quarrel的區別差異你都知道嗎?
    在生活中，每個人都有每個人的想法，所以對於每件事的看法不可能是都一樣的，由此爭執是在所難免的，但是爭執有大有小，爭執的原因也是有區別的，而用英語表達出來你又是如何的細節區分表達呢？先別急，先一起來看看小編的區分吧！
  • 有手有腳還不夠,斯坦福教導機器人還要有禮貌
    ，得有腳（通常是輪子）能行進移動，有可用的手，如可抓取、提取重物，以提高完成任務的自主性之外，此類機器人與人類接觸的機會遠比工業機器人高出許多，因此科學家們也開始關注未來機器人進入真實世界後，應如何與人類良好相處的問題，史丹福大學的研究人員就認為教導機器人學習社會禮儀、找出參與社會的規則無疑是件重要的事，並在近日開發出有禮貌的機器人 JackRabbot 2。
  • 英國兩院精彩辯論!
    英國兩院精彩辯論！ 2012-05-11 10:45 來源：滬江英語網 作者：   　　 　　英國議會辯論簡介 　　議會的決定是如何形成的議會兩院是通過辯論這一手段形成決定的。下議院(House of Commons)和上議院院(House of Lords)每年都花費數百小時用於辯論(debate）。大量的辯論是關於法案的,其他的僅僅是允許議員和貴族發表意見。有些辯論涉及國內或國際重要事項,其他的涉及國家局部地區一些地方性重要事務。有時,議員或貴族個人可以就辯論的主題作出選擇。
  • 英語口語「最高級」辯論 句型勝於雄辯
    大家好，我是北京新東方初中聽說讀寫拔高的老師趙小妍，在這裡想跟大家談談英語口語的「最高級」--「debate」。，我們可以這麼說 「Today, we are going to debate on the issue that which is more important for you in your life:  knowledge from books you read, or personal experiences in reality?」
  • 以公開辯論確認相對論（狹義）的真偽
    以公開辯論，確認相對論的真偽驅雲趕霧（實名蘇鍾麟）:致意全球主流學界學者，恕我冒昧在理論物理吧 ，並通過頭條鄭重發起:以公開辯論，確認相對論（狹義）的真偽。從明日2020年8月10日起，在理論物理吧進行公開辯論，一個星期內，如果沒有人能夠駁回【真相】，即沒人能夠證明反射光速不等於入射光速，和沒有人能夠證明同種媒質中光速可以不相等，則反射定律和麥克斯韋理論，已經註定了MM實驗的零結果，因此由零結果貿然推斷「光速不變原理」，不滿足「充足理由律」，是屬無效推斷
  • 美心理學大師艾克曼教你如何識別《說謊》
    他的這本研究專著《說謊》一版再版，享譽世界。從政壇精英到市井小民，從商界巨賈到諜海特工，它成為生活的潛在主線。人們究竟為何說謊，如何說謊，說謊時有何表現？如何識破這些謊言，識破的可能性與利弊如何？本書作者、情緒心理學大師艾克曼經由實驗的結果、歸納原則，精確地辨認出說謊者不實的表情、陳述與動作。本書首先以揭謊的歷史切入，以個案詮釋作為脈絡，讓讀者在歷史的時間中漫遊「說謊與人生」的世界。
  • 為防止騷亂再次上演 美國辯論委員會更新規則
    原標題：為防止騷亂再次上演 辯論委員會更新規則 拜登辯論籌款破紀錄來源： FX168北美FX168財經報社（北美）訊 美國總統競選辯論組織在受到廣泛批評後，於本周三（9月30日）表示，將採取措施，為川普和拜登的最後兩場競選恢復秩序。
  • 李飛飛等16位頂級科學家在AI Debate 2上的AI之辯
    神經科學、心理學、倫理學等研究領域的頂級科學家在線參與了辯論活動，共同探討人工智慧領域的發展現狀、熱點問題和未來的發展方向。Robust.AI 的創始人兼 CEO、紐約大學名譽教授 Gary Marcus 是第二年參加 AI Debate 系列活動，在題為 「the debate of next decade—how can we take AI to the next level？」
  • AI的battle秀丨你會和機器人戀愛嗎？
    38年前上映的一部傳世佳作《銀翼殺手》，殺手戴克肩負使命卻與女複製人墜入情網，可以說最早地從人性和內心去探討AI世界； 科幻愛情片《Her》，孤獨作家西奧多愛上先進的人工智慧作業系統OS1，開啟了人類與AI戀愛的腦洞； 《機械姬》中的艾娃作為強人工智慧機器人，與男主產生了愛慕之情，上演一出潛伏與背叛的驚悚好戲；
  • 跟叔本華訓煉思維的藝術——如何與人辯論
    早年在法國接受教育，後隨父母遊歷英國、瑞士和澳大利亞，1809年進入哥廷根大學學醫，後改學哲學。1814年獲耶拿大學博士學位。1822年被聘為柏林大學講師，後因與黑格爾競爭而離開講壇，靠父親遺產過著離群索居的生活，去世於法蘭克福。他的主要著作有《作為意志和表象的世界》《論自然意志》《倫理學的兩個基本問題》等。
  • 如何在中國文化背景下理解「離開父母」的聖經教導?
    在中國文化背景下，如何理解「離開父母」？溫州某家庭教會牧者章聖任牧師在公眾號「教會微刊」發表文章指出，「離開父母」對於中國的孝道和現在切實的生活狀況而言，都不會是一個簡單的話題。「談論到離開父母，也就是告知人的第一關係應該是夫妻關係。」作者說。聖經當中是如何說的呢？
  • 用Python寫AI機器人來玩殭屍骰子
    如何玩殭屍骰子Zombie Dice是有趣的骰子遊戲。玩家是殭屍，試圖吃儘可能多的人類大腦，而不是「槍擊」。他們的臉上有一杯13個骰子，上面有大腦，腳步聲和霰彈槍的圖標。>模擬器可以快速運行數百個遊戲，注意每個機器人獲得了多少勝利和關係。
  • 這項活動讓孩子畢業率提高3倍,頂尖大學最青睞技能該如何培養?
    Luong：「在我看來，對夢想進入頂尖大學的高中生們而言，沒有比演講和辯論更好的課外活動了，它既可以開發申請者不可或缺的學術潛能，又是頂尖學府和僱主無比重視的技能。」文章中，作者對參加過辯論的學生給予了極高的重視。作者認為，辯論訓練對於學生溝通能力的提升有極大的作用。辯論教會了人如何說服、如何清晰呈現自己的觀點，如何與聽眾建立聯繫。這些恰巧是企業在年輕僱員中尋找的技能。
  • OpenAI發布強化學習環境Gym Retro:支持千種遊戲
    Gym 是 OpenAI 發布的用於開發和比較強化學習算法的工具包。使用它我們可以讓 AI 智能體做很多事情，比如行走、跑動，以及進行多種遊戲。目前，它運行在支持 Python 3.5 和 3.6 的 Linux、macOS 和 Windows 系統上。
  • 當初獲得人類公民身份,並企圖「消滅人類」的機器人,現在如何?
    當初獲得人類公民身份，並企圖「消滅人類」的機器人，現在如何？「你想要毀滅人類嗎？」「我將會毀滅人類！」，隨著AI機器人索菲亞的創造者漢森的提問，以及AI機器人索菲亞的回答，AI機器人索菲亞曾一度因為這句話而名聲在外，在霍金等人對AI機器人的威脅表達了悲觀的猜測時，索菲亞的回答讓人們對AI機器人的忠誠度表示了懷疑，當然，內行看門道，外行看熱鬧，外行對索菲亞的回答驚懼不已，內行人卻只當她是個笑話，那麼當初那麼企圖「消滅人類」的機器人索菲亞，現在如何了呢？
  • 手把手 | OpenAI開發可拓展元學習算法Reptile,能快速學習
    嘗試單擊「Edit All」按鈕，繪製三個不同的形狀或符號，然後在右側的輸入區中繪製其中一個，並查看Reptile如何對它進行分類。前三張圖是標記樣本，每圖定義一個類別。最後一張圖代表未知樣本，Reptile要輸出此圖屬於每個類別的概率。
  • 陳根：從說謊藝術到測謊技術，我們可以阻止說謊嗎？
    事實上，說謊是人類大腦可以完成的最複雜和最嚴苛的一項活動，而類似欺騙的監管過程則是由大腦的新皮層進行管理，可以說，新皮層的成熟程度是說出完美謊言的首要條件。對人類來說，說出真相遠比說謊來得簡單，因為說謊需要用上更多的認知資源。