李東榮:堅持守正創新、科技向善 禁止人工智慧濫用惡用

2020-12-17 新浪財經

來源:新浪財經

12月11日消息,由新浪財經主辦的2020中國銀行業發展論壇智慧金融峰會於今日在北京舉行,中國網際網路金融協會會長、中國人民銀行原副行長李東榮出席會議並發表演講。

李東榮表示,要堅持守正創新、科技向善,制定實施科學合理的金融消費者保護機制、隱私安全政策、風險緩釋措施和應急處置安排,在數據獲取、算法設計、產品研發和應用過程中消除偏見和歧視,禁止人工智慧濫用、惡用,避免誤用。

以下為嘉賓發言全文:

尊敬的各位嘉賓、朋友們:

大家好!很高興出席2020中國銀行業發展論壇——智慧金融峰會,與大家共同探討智慧金融的未來與發展這一重要議題。談到智慧金融,我認為,其前提是數據要素的積累,基礎是算法算力的進步,關鍵是適用場景的挖掘,核心是人工智慧的應用。鑑於此,我也想結合今天論壇的主題,就推進人工智慧在金融領域的應用,談幾點個人思考和意見,供大家參考。

大家知道,人工智慧是引領新一輪科技革命和產業變革的戰略性技術,具有溢出帶動性很強的「頭雁」效應。近年來,得益於有力的政策支持、巨大的應用需求和開放的市場環境,我國人工智慧技術和產業蓬勃發展,專用晶片、應用算法、開放平臺等技術產品不斷優化,計算機視覺、自然語言理解等技術應用達到國際先進水平。根據世界智慧財產權組織有關報告,去年我國申請人工智慧專利的數量位居世界前列,與美國、日本合計佔據了全球總量的78%。

具體到金融領域,2017年國務院發布了《新一代人工智慧發展規劃》,將金融列為人工智慧應用試點示範和產業智能化升級的重要領域之一。去年人民銀行發布的《金融科技發展規劃》明確提出,要穩妥推動人工智慧技術與金融業務深度融合,這些政策文件為人工智慧在金融領域的應用提供了良好的政策環境。根據中國網際網路金融協會對A股88家上市金融機構2019年年報的統計分析,73%的上市金融機構已開展人工智慧應用,主要的應用場景如智能風控、智能客服和智能營銷。機構的佔比分別為47%、41%和32%。其中,上市公司在人工智慧應用方面更為積極,超九成的上市銀行已開展相關的應用探索。

總體來看,人工智慧在我國金融領域已獲得一定的應用成效,但人工智慧技術本身尚處於不斷發展演進的過程中,其在金融領域更大規模的應用落地客觀上還面臨數據、成本、安全、人才等各種顯性和隱性的障礙。而且由於存在技術黑箱、算法共振、算法歧視、數據高依賴度等情況,其在金融領域不當應用可能會引發責任邊界模糊、市場羊群效應、數字金融排斥、個人隱私洩露等一系列的風險挑戰,必須引起高度的重視。

面對人工智慧在金融領域應用的重大機遇和現實挑戰,我認為有必要加強前瞻研究和規範引導,做到揚長避短、趨利避害。鑑於此,結合有關國際經驗,在國家新一代人工智慧治理專委會發布的《新一代人工治理原則》總體框架下 ,我倡議提出人工智慧在金融領域應用應堅持的四個基本原則:

一是依法合規。嚴格遵守以人工智慧金融應用相關的信息技術、網絡安全、數據治理、隱私保護、業務監管等領域法律規範,堅守智能金融的合規底線和行為紅線。積極採用人工智慧相關國家標準、金融行業標準和自律標準,鼓勵執行嚴於法律規範、國家標準和金融行業標準的企業標準。結合人工智慧應用新進展新特點,積極加強人工智慧應用與發展的共性法律問題研究,推動建立符合我國國情、更具智能化時代適應性的多層次智能金融法治體系。

二是以人為本。以維護金融消費者合法權益、增進金融消費者共同利益為應用導向,尊重社會共同價值觀和倫理道德,持續提升技術水平、改進管理方式,開發「有溫度的」智能金融產品服務,促進數字普惠金融發展。堅持守正創新、科技向善,制定實施科學合理的金融消費者保護機制、隱私安全政策、風險緩釋措施和應急處置安排,在數據獲取、算法設計、產品研發和應用過程中消除偏見和歧視,禁止人工智慧濫用、惡用,避免誤用。

三是安全可控。加強人工智慧研發者、使用者及其他相關方的能力建設和行為規範建設,確保相關人員具備人工智慧金融應用所需的專業能力、業務知識和工作經驗。加強理論研究、模型測試、安全評估和審計體系建設,不斷提升智能金融系統透明性、可靠性、可控性,逐步實現可追溯、可信賴、可審計。按照分級分類管理思路,結合具體應用場景確定相應級別的算法模型可解釋程度,不應以技術黑箱等作為可解釋性不足的理由。做好技術供應商盡職調查、風險隔離和退出管理,不斷提升自身技術實力和運維能力,避免對單一供應商的過度依賴。

四是權責清晰。從業機構董事會及高級管理層應推動建立科學合理的人工智慧治理框架,為本機構應用人工智慧所產生的結果負責。主動建立完善清晰、透明、公開的權責清單,明確研發者、使用者及其他相關方的權利、義務和責任,建立覆蓋人工智慧應用全流程的問責機制。堅持負責任金融理念,通過信息披露、風險提示、產品公示、隱私政策聲明等方式,切實維護金融消費者知情權、自主選擇權、公平交易權、信息安全權等權利。與合作機構、技術供應商等審慎籤訂合同協議,明確風險承擔、服務安排、數據管理、投訴處置等方面的責任邊界。

各位嘉賓,推進人工智慧在金融領域應用,促進智慧金融發展意義重大,任務艱巨,我相信,在國家金融管理部門、行業協會、金融機構、科技公司等多方力量的共同參與和務實推動下,人工智慧在我國金融領域的應用將會更加深入、廣泛,為金融業數位化轉型和經濟高質量發展提供持續的驅動力。

最後,預祝論壇取得圓滿成功,謝謝大家!

相關焦點

  • 李東榮:人工智慧在金融領域應用應堅持四項基本原則(全文)
    李東榮表示,面對人工智慧在金融領域應用的重大機遇和現實挑戰,有必要加強前瞻研究和規範引導,做到揚長避短、趨利避害。鑑於此,結合有關國際經驗,在國家新一代人工智慧治理專委會發布的《新一代人工治理原則》總體框架下,人工智慧在金融領域應用應堅持四個基本原則。
  • 李東榮:超九成上市銀行已開展人工智慧相關應用探索
    李東榮表示,根據中國網際網路金融協會對A股88家上市金融機構2019年年報的統計分析,73%的上市金融機構已開展人工智慧應用,主要的應用場景如智能風控、智能客服和智能營銷。機構的佔比分別為47%、41%和32%。其中,上市公司在人工智慧應用方面更為積極,超九成的上市銀行已開展相關的應用探索。
  • 李東榮:人工智慧的不當使用可能會引發個人隱私洩露等風險
    李東榮表示,人工智慧在我國金融領域已獲得一定的應用成效,但人工智慧技術本身尚處於不斷發展演進的過程中,其在金融領域更大規模的應用落地客觀上還面臨數據、成本、安全、人才等各種顯性和隱性的障礙。談到智慧金融,我認為,其前提是數據要素的積累,基礎是算法算力的進步,關鍵是適用場景的挖掘,核心是人工智慧的應用。鑑於此,我也想結合今天論壇的主題,就推進人工智慧在金融領域的應用,談幾點個人思考和意見,供大家參考。大家知道,人工智慧是引領新一輪科技革命和產業變革的戰略性技術,具有溢出帶動性很強的「頭雁」效應。
  • 互金協會李東榮:金融數位化轉型應堅持「金融為民、科技向善」理念
    12月15日,2020第四屆中國網際網路金融論壇在北京召開,以「立足金融為民 弘揚科技向善 面向『十四五』的金融業數位化轉型」為主題,同時發布了《中國網際網路金融年報2020》。中國網際網路金融協會會長李東榮出席了此次論壇並發表了開幕致辭。
  • 科技向善也能為惡,技術泛濫的世界,我們又該如何面對?
    從通訊、物聯網到人工智慧,技術泛濫無可避免,世界終被算法左右科技向善也能為惡,技術泛濫的世界,我們又該如何面對?成佛者心中,科技一貫向善。成魔者眼中,科技就該為惡。比如,人工智慧誕生於二戰期間,是為了破解德軍密電的,現在大部分組織都會將AI用於商業智能。但也會有人用AI打造的換臉技術,生生開拓了一條「隱私致富」產業鏈,令多少名人受害其中。甚至,現在已經有不法分子開始用AI變聲軟體,進行熟人詐騙了。
  • 數字科技賦能疫情防控 「科技向善」首先要有敬畏
    技術創新密集爆發為疫情防控提供有力支撐「科技向善」須對監管對未來保持敬畏□ 本報記者 張維沒有哪一年,像2020年這樣,讓人們對於「科技向善」這四個字的理解和實踐如此深入。在新冠肺炎疫情肆虐全球的2020年,以人工智慧為代表的科技在抗疫中迎來了「高光時刻」:當謠言成為幹擾抗疫的「敵對」力量之時,用數位技術闢謠,成為抗疫的一大有力保障;在快速、精準識別感染者上,人工智慧給了人類一個醫學方案之外的新選擇,通過音像和聲音識別,精準識別無症狀感染者,阻斷病毒隱性傳播、賦能人類與病毒賽跑;遠程辦公、直播帶貨、生鮮配送等線上產品和服務不斷湧現,在支撐我們工作和生活的正常運轉方面功不可沒
  • 科技向善,騰訊的全新思考起點
    2個月後,騰訊在北京總部通過發布《科技向善白皮書 2020》的形式,來回答如何用技術面對新的十年。 通過無數的例子,我們知道,如果轉型技術推高了網際網路公司的市值和擴張速度,那麼在很長一段時期內,他們將有一個不得不面對的問題—— 如何善用技術?如何Tech for Good?
  • 吳曉波:科技向善,究竟什麼是「善」?
    騰訊研究院:您怎麼理解科技向善?吳曉波:我覺得現在提科技向善正當時。網際網路已經滲透到所有的領域,需要建立規範和回饋機制。告別野蠻、告別動物性、進入到「人」的階段以後,就該建立規範;規範本身又能促成回饋機制,二者是社會秩序的重構。一些人臉識別技術進課堂之所以會引起爭議,就是由於規範缺失,有些事大家不知道該不該做,做的邊界又在哪裡?
  • 思想政治教育話語的守正創新要堅持實踐導向
    作者:天津市中國特色社會主義理論體系研究中心研究員、天津理工大學馬克思主義學院講師 潘同人思想政治教育話語的守正創新是新時代思想政治教育創新發展的重要組成部分。在現實生活中,思想政治教育話語依據主要功能的不同可以區分為三種基本類型,即政治話語、學術話語和生活話語。
  • 守正創新、鑄造精品、科技賦能、華流出海,2019上海電視節關鍵詞
    今天,2019上海電視節順利落幕,各大平臺領軍者和頭部內容製作人進行觀點輸出,「守正創新」「鑄造精品」「科技賦能」「華流出海
  • 堅持以人民為中心 推動新形勢下宣傳思想工作守正創新
    新形勢下宣傳思想工作必須堅持以人民為中心的理念,走好群眾路線,理論聯繫實際,做到守正創新,把習近平總書記的重要講話精神真正落到實處。當今世界正經歷百年未有之大變局,只有堅持以人民為中心,我們才能有效應對各種風險挑戰。新冠肺炎疫情突如其來,以習近平同志為核心的黨中央堅持「人民至上、生命至上」,帶領全黨全軍全國各族人民,凝聚起抗擊疫情的磅礴力量,有力詮釋了黨的領導優勢、依靠人民群眾的優勢。堅持以人民為中心,是我們戰勝前進道路上風險挑戰的必然選擇。
  • 騰訊科技向善暨數字未來大會在京舉辦,數實共生開啟疫後經濟新模式
    (原標題:騰訊科技向善暨數字未來大會在京舉辦,數實共生開啟疫後經濟新模式)2021年1月9日,由騰訊研究院主辦的「騰訊科技向善暨數字未來大會2021」在北京舉辦。
  • 中原銀行王軍:這五方面的銀行科技創新應當被鼓勵
    這可能標誌著未來傳統金融機構與金融科技企業的競爭,將進入到一個全新的更加公平的「下半場」。這究竟會有什麼樣的變化,非常令人期待。科技至上不可取,科技向善贏未來P2P在中國作為一種典型的「偽創新」甚至是「惡創新」已經被玩壞,徹底退出了歷史舞臺。
  • 汝州融媒:堅持守正創新 全面融合發展
    汝州市融媒體中心作為中宣部重點支持的全國65個縣級融媒體中心之一,堅持守正創新、真融實用,在媒體融合發展中先行先試,先後獲得「全國最具影響力縣級融媒體中心」「中國城市融媒創新發展最具移動傳播影響力區縣融媒體中心」「全國市縣媒體融合先導單位」等榮譽稱號。
  • 透視中國科技公司創新路徑:一面布局前沿,一面落地下潛
    鐘擺效應的背後「科技向善」正在成為科技公司的「平衡之力」儘管公眾對於中國科技公司「重視模式創新,輕視技術創新」的偏見總歸會隨著更多創新成果的落地而逐漸消除,但是對於中國科技公司而言,懸在頭頂的那把劍卻並未消失。
  • 《科技向善白皮書 2021》發布:線上線下共生共榮
    會上發布了《科技向善白皮書 2021》和《數實共生——未來經濟2021白皮書》兩份白皮書和《變量:2021數字科技前沿應用趨勢》報告。《科技向善白皮書 2021》總結和梳理了過去一年全行業內對科技向善的思考與實踐,精選多領域知名學者,圍繞科技倫理、網際網路行業治理、企業內部科技向善機制建設等主題訪談,以及「可解釋性AI」「AI協助自閉症診斷」「網絡社區氛圍建設」「短視頻流量分發機制」等技術和網際網路案例研究。
  • 2020高考作文熱點:人工智慧,科技創新!滿分作文+最新時事+素材
    人應該用自己的生活踐行道德,傳承與創造文化,讓工具成為工具,讓人成為人。2.存在還是毀滅,關鍵在人類自身。機器是人創造出來的,我們有義務也有能力為機器設定邊界,創作性活動、安保性活動不能由機器來承擔。許多機器人毀滅人類的科幻電影,都始於機器人有了武裝力量。
  • 平安普惠入選「2020中國金融科技領域傑出案例」 責任科技助小微
    包含兩層含義,一是目的和用途方面,金融科技產品、服務必須脫虛向實,幫助金融服務更有效覆蓋長期未充分服務的人群的合理金融需求;二是用倫理治理推動負責任的科技創新,將社會責任融入產品和服務的各個環節。平安普惠在業務實踐中逐漸形成「科技向善」的價值觀,不斷摸索出「守正念、守正業、守正見」的責任金融科技方法論,「供給側改革,需求側賦能」雙管齊下,形成金融科技企業、監管機構、小微消費者充分交互的負責任循環生態,打造最全面務實的科技解決方案,推動小微信貸服務跨越式發展。守正念,即堅持正確價值導向。