「深度」價格歧視、選擇偏見、數據洩露,人工智慧這樣「看透」你

2020-12-03 新浪財經

來源:網際網路金融

作者 | 陳璐溦

來源 | 中國電子銀行網

其實,某種程度上我們已經是半個機器人了,正常生活已經離不開手機、電腦等等一系列電子設備。

當然,成為人工智慧共生體還需要很長一段時間,但不可否認的是人工智慧正在改變現有世界的運作方式。

就目前我們在手機銀行使用的指紋識別、語音交互都是基於人工智慧技術實現的,除了這些看得見的人工智慧技術,當然還有許多看不見的AI應用。

人工智慧五大特點

人工智慧如何抓住你的錢包?

移動網際網路初期,曾經掀起過一波由網際網路巨頭瓜分零售端市場所引發的價格歧視,主要是通過微信搶紅包等補貼式價格歧視策略搶佔市場,「掌上專享」、「手機特惠」等非常常見。

而今時今日精明的商家推出的就是AI化價格歧視。AI化動態定價可以根據用戶數據、供求關係精準推算出支付意願,當然這也會使那些不精明的消費者支付更多。就比如說,晚上的麵包買一送一會更划算;深夜乘坐滴滴價格會翻倍。

曾經線下零售商很難在價格上做出快速反應,但現在通過電子化顯示的「智能貨架」或者「智能價籤」可以讓超市在一天中不同的時段提供不同的價格,背後的一系列智能化算法,消費者是無法察覺的。就比如說,盒馬鮮生已經全面使用電子價籤。

零售系統研究公司(RSR)對美國用戶最近的一項調查發現,71%的消費者並不關心動態定價策略,但14%的年輕消費者表示他們比較喜歡這一方式。

也就是說,當用戶了解了「遊戲規則」後更容易接受動態定價。當然,精明的消費者也將受益於動態定價。

雖說銀行不會發生動態化定價,但是同樣會有差異化服務。舉個最簡單的例子就是手機銀行的千人千面,根據用戶常用功能進行界面智能化排布;針對不同細分人群推出不同版本手機銀行(銀髮族版本、私人銀行版本等)。

在智能化風險定價方面,由於利率市場化推進,擠壓銀行利潤,這就使得銀行不得不根據客戶利率敏感程度、金額、周期、信用風險預測等因素,通過智能化手段建立差異化的定價模型,對不同人群推出不同信貸利率,從而獲得更高的收益。

人工智慧為什麼最懂你?

當然,有些智能服務的主要目的並不是要掏空我們的錢包,而是要建立用戶關係,提升消費者的體驗感,增強客戶對企業的粘性。

AI系統推送就是其中一類,電商平臺產品推薦、頭條新聞推薦、銀行資訊推薦都包含在其中。為什麼APP總能推薦出你感興趣的新聞或資訊、最心儀的產品,那是因為你在每次操作時,APP後臺都在進行成千上萬次的運算,通過數據採集、存儲、模型訓練、算法、協調過濾,找出你可能喜歡的放在最前面。

影響用戶感知的因素

圖片來源:羅婷予,Miguel Baptista Nunes.從用戶視角理解智能推薦系統.數字圖書館論壇,2019,(10):30~36

與此同時,這也衍生出另一個問題,AI推薦讓用戶關注內容更集中,也更狹窄。AI推薦可以作為彌補用戶偏好不完整的修行為,推薦那些我們平時沒關注到的電影或產品,開闊我們的視野,但現實卻不是這樣的。

主要是因為用戶對推薦內容的多樣性以及新穎度多數情況下是負向感知,而AI推薦系統會根據用戶的反饋對推薦內容進行誤差修正,所以最終呈現的內容就是推薦內容集中度高。換言之,也就是AI很容易產生選擇偏見。

另一方面,人工智慧技術也有兩個非常明顯的優勢,不會犯低級錯誤、不會受情緒影響。現在金融工作的發展目標是流程自動化,透明化,確保工作流程的一致性。

本質上,其實是提高效率,減少人為操作的風險,避免人為決策的不一致。而人工智慧恰好能有效改善這一狀況。

在資管領域,智能投顧的優勢更為明顯。除了費率低、操作便捷、適用人群較廣以外,最重要的就是降低主觀因素對投資的影響。

據興業證券預測,到2022年,中國的智能投顧管理資產總額將超6600億美元,用戶數超過1億。

但智能理財、智能投顧平臺依舊存在獲客難,流失率高等問題。某平臺負責人稱,一旦智能投顧表現不穩定後,客戶馬上流失,並且是長久性流失。這主要是由於智能投顧擅長的是長期投資而非短期投機。

智能理財的短期收益無法滿足激進用戶,同樣也無法滿足 「保本」用戶。另外,由於我們的市場有效性不足,缺少成熟的投資品種,難以做到智能化的高效配置和調整。這恐怕在短期內也無法解決。

人工智慧要便利還是要隱私?

另外,由於應用場景較多,人機互動時使用的生物識別認證也比較常見。在金融領域,櫃面開戶、自助銀行、行動支付等等都會用到。

據CFCA發布的2019中國電子銀行調查報告顯示,指紋登錄是操作最快的,也是用戶滿意度最高的輔助身份認證方式。

除了指紋、聲紋、人臉識別,現在虹膜識別和靜脈識別也在快速發展。預計到2023年,中國生物識別行業的市場規模將達到379億元。

儘管人臉識別存在風險,但便利性卻超過了用戶顧慮。憑藉人臉識別功能的便捷性,即使不是全部,目前大多數應用程式App也會提供類似的功能。

而且,越來越多的網站和應用程式App正在轉向基於面部識別的驗證,許多在線開戶正從過時控制項轉向更現代的控制項(例如拍照文檔匹配)這對生物數據以及文檔儲存提了極高的要求,部分用戶還沒意識到其中的巨大的風險。

其實,個性化生物識別數據已經存在活躍的暗網交易,並且在2020年將繼續增長。一部分信息的獲取是來自開放源和社交媒體;另一部分是通過網絡釣魚,不僅竊取靜態憑據,而且還竊取用戶面部自拍和視頻。

另一個威脅是,先進的惡意軟體可以闖入行動裝置身份驗證。2019年5月,中國消費者協會對29款主流智能門鎖進行試驗,發現85.7%的商品信息識別卡開啟存在安全風險。

除了生物識別,其他領域也涉及到隱私與便捷的問題。比如,智能推薦只有犧牲掉部分隱私數據(行為數據)才能獲取便捷性功能。用戶是否願意用隱私換便捷就又是另一個問題了。

去年年末,央行等相關部門對個人金融信息採集劃定了監管紅線,但部分銀行仍有「超採」問題,自動讀取照片、文件、電池信息、手機系統設置等。

人工智慧在帶來便利的同時,也同時存在安全隱患,但這也不是一時半會兒能解決的,希望未來能出現更為先進的優化技術或替代方式。

相關焦點

  • AI 也有種族「偏見」?
    雖然算法不是每個人都能了解的,但它生成的「作品」卻被很多人熟知並使用。這個算法生成的怪異逼真的人臉可以在許多網站上找到,並且經常被用來生成虛假的社交媒體個人資料。這也是為什麼你可以使用 PULSE 看到遊戲、動畫甚至表情符號生成高解析度的人像圖。算法通過尋找圖像中的細節創造新的面孔還原到輸入數據中。
  • 變態「三角戀」?世界知識、大腦和計算是AGI的新「三駕馬車」
    【新智元導讀】「冰鎮椅子」和「彩虹蕉」見過沒?反正神經網絡要淚奔了。近年來,吃數據的人工智慧狹隘性日益凸顯,而來自舊金山的科學家們,認為智能來源於歸納偏差,他們試圖通過已知的世界屬性、大腦的物理結構和算法來構建一種新的世界模型。看到下面這個場景,你會想到啥?
  • Science新研究證明人工智慧也能學會偏見
    地址:http://science.sciencemag.org/content/356/6334/183.full學習人類書寫的文本的計算機會自動表現出特定的男性或女性職業詞人工智慧的一個偉大願景是創造一個沒有偏見的世界。人們想著,如果讓算法來招聘員工,那麼男人和女人都應該會有同等的工作機會;如果用大數據來預測犯罪行為,那麼就會消除警務工作中的種族偏見。
  • 圖靈獎「擁抱」深度學習
    「人工智慧是現在所有科學中發展最快的領域之一,也是社會上談論最多的話題之一。」ACM 主席 Cerri M. Pancake 說,「人工智慧的發展很大程度上歸功於由三位奠定基礎的深度學習領域內的最新成就。」「只要口袋裡有智慧型手機的人都可以切實體會到自然語言處理和計算機視覺方面的技術進步,這在十年前是無法想像的。
  • 人工智慧也搞歧視!研究發現AI生成的藝術作品存在種族、性別偏見
    人工智慧也搞歧視!從創作繪畫到發明新的藝術風格,基於人工智慧的生成藝術已經在一系列的應用中展示。富士通(Fujitsu)研究人員在一項新研究中,調查了偏見是否會滲透到用於創造藝術的人工智慧工具中。根據模型,他們聲稱目前的人工智慧方法沒有考慮到社會經濟的影響,並表現出明顯的偏見。
  • 從「失控」走向「必然」,Facebook 們要學會玩一場「無限遊戲」
    Facebook 數據洩露事故爆發後在數周內,「劍橋分析利用 FB 用戶數據操縱美國大選」,「Facebook 忽視用戶隱私數據保護」、「Facebook 出賣用戶隱私數據牟利」,成為外媒報導的幾大主題。《紐約時報》等外媒也不斷利用新的細節、證據,加強、加深事件的影響。用戶隱私數據的收集、使用、保護是一個全球化的話題。
  • 深度| 構建好奇的機器,Maluuba的通用人工智慧探索(附論文)
    同時,我們也設計了一個基於深層神經網絡的人工智慧系統,它可以通過高效的信息搜索完成這些任務。我們相信,這些研究讓人類向通用人工智慧邁出了重要一步。 問正確的問題 假如你在和朋友聚餐,在飯桌上玩起了「20 個問題」遊戲。現在輪到你了,你決定讓大家來猜「貓」。
  • 在「古板遲緩」的晶片產業,一群「寒武紀」們誕生的意義與挑戰
    撰文 | 宇多田在過去的幾年裡,一個名為「深度學習」的人工智慧技術家族在科技行業掀起了一場風暴。從幫你對手機相冊裡的自拍與萌寵進行識別分類,再到大幅度提高 Alexa 們(智能助手)與無人駕駛汽車的「平均智商」,「深度學習」這個人工智慧裡的門類,具備了更高級的對「複雜結構」進行自動挖掘的能力。
  • 深度強化學習走入「死胡同」,繼續死磕電子遊戲還是另闢蹊徑?
    有無數的報告記錄了深度強化學習模型做出的各種意想不到的動作。強化學習通常被劃分為除監督機器學習和無監督機器學習以外的第三類,但在我看來,它其實就是監督學習。當前的強化學習實現步驟是這樣的:你開始訓練模型,然後你看著它失敗然後「死掉」,接著你花費大量的時間一次又一次調整獎勵函數,直到你「有可能」得到一個理想的結果,但僅僅是「有可能」。
  • 開發以中文「與數據對話」的AI決策系統,「訊能集思」要做人工智慧...
    「平民數據科學家」的出現預示著企業的數位化轉型需求一方面向下擴張,使用數據分析的人員不再局限為數據分析師和科學家;一方面向上升級,企業對於數據分析工具的智能化和自動化需求正在高速增長。「訊能集思」即是一家專注人工智慧決策的人工智慧公司。
  • 你以為人工智慧看出了「直」或「彎」?它只是看出了你的偏見
    但人工智慧面部識別方向的研究人員 Tom White 則表示,VGG-Face 捕抓那些流動性元素能力也很強。(圖自推特)再者,這個被作為研究的基本數據(來自約會網站的圖片)本身就是有偏見的。但如何才能確定研究不會帶有偏見呢?對此,Kosinski 的回應是:想要測試和驗證一個結果的正確性,你並不需要理解(研究)模型的工作原理。而 The Verge 則認為,正是這種研究中的不透明性,才會使得這些研究充滿了誤導性。
  • Facebook人工智慧副總裁:AI 這一領域很快就會「碰壁」
    Will Knight:Facebook 的人工智慧實驗室是由 LeCun 建立的,LeCun 是深度學習的先驅之一,他最近因在該領域的工作而獲得了圖靈獎。你怎麼看那些批評該領域注重深度學習,認為它不會給我們帶來真正的智慧的人?
  • 價格歧視:雙十一的真相
    這就是一種歧視,學校歧視了成績不好的孩子。或者校方就做了另一個選擇,這200個名額中劃出了50個,誰給學校投資了最多的錢,這50個名額就歸誰。這又是另一種歧視,歧視了出不起這筆投資的孩子。所以你看,歧視不可避免,無論如何只要稀缺還存在,我們就必須得做出選擇。只要做出了選擇,歧視就產生了。
  • 訪談| Jürgen Schmidhuber:人工智慧在1991年就已經獲得了「意識」
    隨著網絡的進步,學習一個新的規律後,它可以通過查看無監督的世界模型在學會前後需要編碼多少計算資源來測量其新洞察力的深度,前後的差異就是網絡的「樂趣」。其洞察力的深度是一個數字,直奔第一個網絡,也就是控制器,控制器的任務是將所有的反饋信號最大化,包括從各種內在的愉悅時刻(joy moment)和該網絡之前沒有的洞察力而來的反饋信號。愉悅時刻類似於一個科學家發現一個以前未知的新物理定律。
  • Facebook、微軟、谷歌三大研究巨頭齊聚首,共同探討人工智慧發展...
    但這在現實世界中行不通,你不可能為了讓系統只是學會不在懸崖邊開車,而讓它在懸崖邊開無數次車。大腦中的模型告訴我們,在懸崖邊開車是個壞主意。我們只需要一次就知道這個道理了。而如何讓機器來學習這樣的模型?Eric Horvitz:是的,可以這樣形容最近一系列取得勝利的 AI 系統——聰明而又片面的「學者」。人類智力背後存在著無數的未解之謎,我們並沒有取得多大進展。包括「
  • 專訪人工智慧奠基人:如何看待 AI 不得不面對的這些問題
    1956 年,達特茅斯人工智慧夏季研究計劃提出「人工智慧」的概念,標誌著這一學科的正式誕生。近年來,由於深度學習和神經網絡技術的廣泛應用,人工智慧步入黃金時代,對人類社會的生活和生產方式都產生了深刻的影響。
  • 智能時代需要「向善」的技術倫理觀
    人工智慧能夠成為一股「向善」的力量,持續造福於人類和人類社會,但也帶來了隱私保護、虛假信息、算法歧視、網絡安全等倫理與社會影響,引發了對新技術如何帶來個人和社會福祉最大化的廣泛討論。人工智慧倫理開始從幕後走到前臺,成為糾偏和矯正科技行業狹隘的技術向度和利益局限的重要保障。正如有學者所言,要讓倫理成為人工智慧研究與發展的根本組成部分。
  • 動態基準測試Dynabench已發布,Facebook想用人類來「審問」人工智慧
    人工智慧在過去十年左右的巨大成功通常歸功於大量的數據和計算能力,但是「基準測試」在推動進步方面也發揮著至關重要的作用。準確的比較是驗證新模型確實優於該領域現有模型的先決條件這個過程被稱為「基準測試」,即Benchmark。研究人員可以利用人工智慧進行對比測試,看看它到底有多先進。例如,ImageNet,一個由1400萬張圖像組成的公共數據集,為圖像識別設定了目標。
  • 世界第一個精神變態人工智慧誕生,到底是怎麼樣的?
    而麻省理工學院所做出的諾曼本質上是一個只會圖像文本描述的深度學習方法,給諾曼一張圖像,它就會自動產生文字或標題來解釋它在該圖像中看到了什麼,但是麻省理工學院媒體實驗室對於他的數據訓練方式比較特別,通過使用 Reddit 上一些讓人頭皮發麻的死亡、屍體內容對其進行數據輸入,並且讓它學習其中的描述方法,從而培養出了一個極度陰暗的
  • 2018 年度人工智慧熱門事件大盤點:「悲喜交加」
    比賽中一個有意思的插曲是,當前三局勝負已分時,現場觀眾給「OpenAI Five」選擇了 5 個不怎麼厲害的英雄,人類玩家最終獲得勝利,稍微獲得了些許「安慰」,不過這也使最後一局「淪為」了娛樂局。當天,李飛飛在其個人微信朋友圈分享了她即將離任 Google Cloud 的消息,其中特別對「佳飛貓組合」的另一半——李佳表示了感謝:「因為你的 leadership,我們一起成長。因為你的 friendship,我們一起分享成長經歷裡所有的淚與笑!」對此,李佳也回應道:「感謝一起奮鬥的夥伴,佳飛貓加油!」