來源：人機與認知實驗室
一、休謨問題的由來
以前的一些哲學家認為，道德可以像幾何學或代數學那樣論證其確定性，但是，休謨指出，對於道德問題，科學是無能為力的，科學只能回答「是什麼」的問題，而不能告訴我們「應該怎樣」的問題。他在《人性論》中寫道：「在我所遇到的每一個道德學體系中，我一向注意到，作者在一個時期是照平常的推理方式進行的，……可是突然之間，我卻大吃一驚地發現，我所遇到的不再是命題中經常的『是』與『不是』等連繫詞，而是沒有一個命題不是由一個『應該』或一個不『應該』聯繫起來的。這個變化雖是不知不覺的，卻是有極其重大的關係的。因為這個應該或不應該既然表示一種新的關係或肯定，所以就必需加以論述和說明；同時對於這種似乎完全不可思議的事情，即這個新關係如何能由完全不同的另外一些關係推出來的，也應當舉出理由加以說明。不過作者們通常既然不是這樣謹慎從事，所以我倒想向讀者們建議要留神提防；而且我相信，這樣一點點的注意就會推翻一切通俗的道德學體系……」。儘管休謨自己沒有明確回答自己提出的問題，但它的意思卻是否定的，即從「是」中不能推出「應該」。
嚴格說來，休謨問題並非指事實與價值的關係問題，而是指事實命題與價值命題的關係問題，由於事實命題一般以「is」為系詞，而價值命題一般以「should」為系詞，所以休謨問題又稱「實然與應然問題」，人機融合智能指控系統的本質也是這個實應然分類的問題。
二、「是」如何推導出「應該」
由「是」推導出「應該」，必須分兩步來完成：
1、由事實關係的「是」可以推導出價值關係的「是」。事實關係的「是」反映了「客觀事物」的狀態、特性及其規律性；價值關係的「是」反映了「客觀事物對於人的價值」的狀態、特性及其規律性。顯然，「客觀事物對於人的價值」本身就是一種「客觀事物」，只是前者比後者更為複雜多樣、更為變幻莫測，因為「客觀事物對於人的價值」不僅取決於客觀事物的品質特性，而且還取決於主體的品質特性和介體的品質特性等眾多因素。也就是說，「客觀事物對於人的價值」是由眾多簡單的「客觀事物」按照一定的組合規則（即是否有利於人的生存與發展）有機地組合而成的複合事物。由此可見，價值關係的「是」是由眾多事實關係的「是」按照一定的組合規則（即是否有利於人的生存與發展）複合而成，或者說，價值關係是事實關係的「函數」。實際上，價值就是直接或間接的有序化能量，就是按照主體的生存與發展的需要有機地、有序地組合起來的能量，即價值是能量的「函數」。對人而言，價值就是事物或事實的重要狀態，而機反映的常常是（數據等的）事實狀態，人機初級融合智能就是聯繫「事實」態與「價值」態的關係。
2、由價值關係的「是」可以推導出價值關係的「應該」。當事物的狀態與特徵只是單一性的、確定性的和清晰的時，對於該事物的狀態與特徵就可以用「是」來描述；當事物的狀態與特徵是多值性的、概率性的、模糊性的時，對於該事物可以運用多值函數、概率論和模糊數學等方法，取其中具有最先（易）出現的、最大概率的、最相似的狀態與特徵確定為「應該」來描述，即「應該」是具有最先（易）出現的、最大概率的、最相似的「是」。人的一切行為和思想都是為了追求可持續的利益最大化或可持續的價值最大化，價值關係的「應該」是指所有價值關係中具有最大價值率的那一種價值關係，即價值關係的「應該」是從眾多價值關係的「是」之中選取具有最大價值率的那一種價值關係的「是」。總之，「應該」是由眾多「是」所組成的函數並取其極大值或最大值，對人機融合智能指控系統而言就是（要把握）最重要「價值態」的發展趨勢——「價值勢」。
三 、「事實命題」如何推導出「價值命題」
由事實命題推導出價值命題，必須分兩步來完成：
1、由事實命題可以推導出價值概念。事實命題是關於事實關係的描述方式，事實關係就是指客觀事物之間客觀存在的、不以人的意志為轉移的相互聯繫與相互作用；在所有事實關係中，存在一種特殊的事實關係，它體現了人類主體與客觀事物之間的的相互作用，它就是能夠維持和促進人類主體的有序化進程的動力源—廣義有序化能量（即價值），對於這種特殊的事實關係最基本的描述方式就是價值概念。也就是說，價值概念是由眾多事實命題按照主體的有序化進程為規則所組成的「函數」。對於人機融合智能而言，一個價值概念可以有兩個坐標軸判定，一個是事實軸，涉及時、空、屬性、物理、邏輯等客觀現實方面，另一個價值軸，涉及心理、藝術、關係、倫理、非邏輯等主觀可能方面。其內涵外延常常在這兩個坐標軸決定的坐標系中千變萬化，從而構成了璀璨多彩的智能世界和眼花繚亂的指控情境。
2、由價值概念可以推導出價值命題。以人機工效學意義的價值概念為基礎，可以推演出一個最重要的、最基礎的、最普遍的價值命題：人機融合的一切行為和思想都是為了追求可持續的利益最大化或可持續的價值率最大化，再根據這一命題可以推演出所有人機環境系統工程領域的價值命題，因此由價值概念可以推導出所有價值命題。也就是說，價值命題是由價值概念按照不同的事實命題的要求取其極大值或最大值，人機融合智能指控系統就是要通過價值命題的實現來達到目標任務的。
總之，人機融合智能指控系統的價值命題是由眾多事實命題按照主體的有序化進程為規則所組成的函數並取其極大值或最大值。
綜上所述，可以得出兩個結論：
1、「應該」為系動詞的複雜命題是由眾多「是」為系動詞的簡單命題按照一定的邏輯規則（是否有利於主體的生存與發展）有機地組合起來的函數或複合函數，並取其中的極大值或最大值的「是」作為「應該」，即「應該」是一種特殊的「是」，由「是」完全可以推導出「應該」。
2、「價值命題」是由眾多「事實命題」按照一定的邏輯規則（是否有利於主體的生存與發展）組合起來的函數或複合函數，並取其中的極大值或最大值的事實命題，即「價值命題」是一種特殊的「事實命題」，由「事實命題」完全可以推導出「價值命題」。
由此，休謨問題似乎可以解決。但是以上的論證者忽視了一個非常重要的問題——那就是價值的多重性、相對性以及隨機性。
首先，說說價值的多重性。事實上，正如函數往往有多個最大值一樣，「有價值」的結果往往也不止一個。很多時候，我們並不能證明誰更有價值，就像我們無法證明，玫瑰花和月季花誰更有價值。有些事實是截然相反的，但他們的價值卻是一樣多。很多時候，我們只能做出一個選擇，但我們並不能判斷哪個選擇更好。事實上我們無法回答「應該是什麼？」的問題。就好比說，假如你現在有一塊錢，你是應該用它來買包子，還是應該買油條呢？
其次，再來說說價值的相對性。眾所周知，每個人心目中的價值函數並不相同。同一件事物，對不同的人，其帶來的效用並不相同。例如雨天，有利於農民，卻不利於趕路的人。那麼下雨這件事情，到底是應該發生，還是不應該發生呢？既然對於每個人，效用函數都各不相同，那這個所謂的「最大值」又該如何求得呢？有人可能要說，「應該把所有人的價值函數加總之後，求一個最大值。」但是，這種簡單相加的笨辦法，其實根本是沒有任何道理的。如果一件事情能給一個人帶來500塊錢，而使另外九個人每人損失1元錢，總價值增加了，但這種事情是「應該做」的麼？顯然很荒唐！實際上，倫理學道義中的「義」就是「應該」的意思。
再次，我們再來說說價值函數中的隨機性。了解數理統計的人都知道，任何模型，都需要在其模型中設置一個隨機誤差項，用於表示這個模型中的隨機變量。我們往往假定這一項是同方差和正態分布的，但事實上並非如此。隨機誤差項的異方差性和非正態性，會嚴重影響函數的估計的效果，使得因變量的值不再是一個無偏差估值。那麼，由此函數估計的「最大值」的結果，又有多少可信度呢？所以，這個所謂的「最大值」，其實根本算不出來。
由此可見，由於人機融合智能指控系統價值函數自身的多重性和相對性，休謨問題其實還是無法得到解決！
休謨問題重要意義
不難發現，休謨問題（即「是」與「應該」的關係問題）實際上集中反映了事實與價值的關係問題，集中反映了自然規律與社會規律的關係問題，也集中反映了自然科學與社會科學的關係問題，因此徹底解決休莫問題將會對自然科學與社會科學的發展產生十分巨大的影響。
1、為社會科學全面走向自然科學鋪平了道路。價值問題是社會科學所要解決的核心問題，價值理論是整個社會科學的基礎理論，休莫問題的解決可以幫助人們從「事實」角度看「價值」，從能量角度定義價值，有利於實現價值理論的統一化、數學化和自然科學化，最終實現社會科學的同一化、數學化和自然科學化，從而為最終消除社會科學中普遍存在的主觀性、歧義性和模糊性奠定基礎。
2、把唯物主義徹底貫徹到了精神領域（特別是情感領域）。長期以來，休謨問題把自然科學與「精神科學」徹底隔離開來，使唯心主義思想長期佔據精神科學領域，學術界普遍認為：精神科學（如道德科學）與自然科學完全獨立，價值判斷只是一種主觀意識、根本無法被科學確證；自然科學受普遍而必然的永恆自然規律制約，而精神科學的規則總是約定俗成的；自然科學的歷史發展是不以人的意志為轉移的，而精神科學可以為人類所規劃；自然科學強調的是一種說明，而精神科學主要強調理解，前者強調的是一種因果關係的揭示，後者則講究一種體驗。休謨問題的解決可以幫助人們認識到，人類社會是自然界的物質運動形式，社會規律是自然規律的複雜表現形式，精神科學是自然科學的複雜表現形式，完全可以從自然科學的基本公理中推導出來，這就為唯物主義徹底貫徹到精神科學領域掃除了障礙。但是，需要注意的是，休謨問題至今尚未真正得到解決，人機融合智能指控系統研究同樣也舉步維艱，很難被突破攻克。
正因為「價值」是相對的，因人而異的，所以這一問題也永遠不可能真正得到解決，這一點已經在上面作出了論述。機械唯物主義者雖然想把唯物主義貫徹到精神領域，但這是永遠也不可能做到的。因為精神和物質，在本質上是完全不同的東西，一個是主觀，一個是客觀。就如同懷疑論者經常使用的「桶中腦實驗」（英國哲學家普南(Putnam)提出，有的版本也翻譯為「缸中腦」）描述的那樣。我們對於這個世界的認識，其實完全只是一種主客觀的混合判斷，這種判斷和真實的「客觀世界」是否一致，我們永遠也不可能知道。（雖然某些機械唯物主義者總喜歡用「無數次的實踐」來證明主觀與客觀理論上最終能達到這種一致性，但實際上，「無數次的實踐」是不可能做到的。）
後記
為什麼美軍人機融合智能指控系統「深綠系統」不好用？並常常被指揮員們所詬病，其關鍵在於它只試圖用數據Being解決事實問題，而忽略了用意識Should 解決價值問題。若進一步問「人、機、環境系統是怎樣失調的？」、「為什麼會失調呢？」……就會涉及到休謨之問這種更深層次的機制機理問題……
人工智慧並不創造事物，它只能執行我們本身了解如何去做的事情……
未來智能實驗室是人工智慧學家與科學院相關機構聯合成立的人工智慧，網際網路和腦科學交叉研究機構。
未來智能實驗室的主要工作包括：建立AI智能系統智商評測體系，開展世界人工智慧智商評測；開展網際網路（城市）雲腦研究計劃，構建網際網路（城市）雲腦技術和企業圖譜，為提升企業，行業與城市的智能水平服務。
如果您對實驗室的研究感興趣，歡迎加入未來智能實驗室線上平臺。掃描以下二維碼或點擊本文左下角「閱讀原文」