制約算法不合理應用存在多方面難題,應合理提高算法應用的透明度

2021-01-13 中華網

閱讀提示

目前，網絡消費領域涉及消費者權益的算法應用問題主要有推薦算法、價格算法、評價算法、排名算法、概率算法、流量算法等。中消協指出，算法應用問題具有技術性和隱秘性，潛移默化影響著消費者的決策，消費者以個體力量沒法抗衡，應加強對算法應用的有效規制。

網路遊戲企業公示了遊戲道具的抽獎概率，但用戶反映實際中獎概率低於企業公示的抽獎概率;區別對待新老用戶，老用戶看到的價格比新用戶看到的更高;部分平臺和平臺經營者為了獲得好評，運用刷單等方式編造虛假高分評價，或者隱匿中差評，使真實評價無法全部顯現，誤導消費者;混淆競價排名與自然排名，左右消費者決策……《工人日報》記者從中國消費者協會1月7日在北京舉行的「網絡消費領域算法規制與消費者保護座談會」上獲悉，在網絡消費領域，存在一些企業利用算法鑽法律的漏洞，侵犯消費者權益的問題，導致消費者被算法應用「算計」。

對此，中消協秘書長朱劍橋表示，常見的網絡消費領域算法應用問題具有技術性和隱秘性，潛移默化影響著消費者的決策，消費者以個體力量沒法抗衡。如果無視這些現象，任其繼續發展，一方面不利於市場經濟公平競爭，另一方面將使一些消費者成為算法應用的受害者。因此，急需社會各界共同努力，加強對算法應用的有效規制，促進其合理規範應用。

投訴網遊道具抽獎概率問題難解決

朱劍橋表示，根據消費者投訴、有關調查和相關媒體報導，網絡消費領域涉及消費者權益的算法應用問題主要有推薦算法、價格算法、評價算法、排名算法、概率算法、流量算法等。

「以概率算法為例，一些線上經營者開展有獎銷售、抽獎兌換，特別是部分網路遊戲公司經常性推送遊戲道具抽獎活動，雖然公示了中獎(掉落)概率，但是其算法程序不透明，實際中獎概率缺乏管控，屢遭消費者詬病。」朱劍橋說。

在當天的座談會上，安徽省消費者權益保護委員會秘書長丁濤介紹說，去年12315熱線等渠道共接到消費者關於安徽蕪湖一家網路遊戲公司的投訴舉報953件，主要反映該公司在道具抽獎概率方面的一些問題。例如，該公司公示了道具抽獎概率，但用戶反映抽獎多次，計算概率達不到公示的概率。

丁濤表示，對於網路遊戲抽獎概率及規則設置問題，以前《網路遊戲管理暫行辦法》裡面有相關的條款，但該辦法2019年7月已經廢止。

「此外，由於遊戲公司自述其網路遊戲抽獎概率合法合規，這一觀點與消費者投訴的情況截然相反。為了尊重事實，正確處理，蕪湖市消保委組織召開了市區兩級市場監管部門、文旅部門、公安部門等相關部門聯合處理推進會，共同對該遊戲公司存在的概率等問題進行調查核實。因為對概率規則等問題缺乏專業的認定能力，也找不到權威第三方機構進行認定，使調查受到一定的阻礙。這個問題目前也沒有得到很好的解決。」丁濤說。

制約算法不合理應用存在多方面難題

「針對算法應用問題，電子商務法對於算法應用中的推薦算法、價格差別待遇、競價排名等都進行了規制。」北京工商大學法學院教授呂來明表示，但當前算法應用規制條款在實踐中面臨的問題主要是，推薦算法規制中要求同時公布的不針對特定消費者的選項難以落實和驗證，算法歧視中的大數據「殺熟」問題在執法中並未實現有效監管，網路遊戲等特定行業的算法監管規則和監管部門缺失等。

不過，中國法學會消費者權益保護法研究會副秘書長陳音江指出，大數據「殺熟」等算法應用具有隱蔽性強、消費者維權舉證難的特點，且部分商家雖然存在特定推送行為，卻難以界定是否屬於法律規定的不合理推送，而且涉事企業否認大數據「殺熟」。消費者雖然對此頗有怨言，卻又無可奈何。

「造成這一問題的原因是多方面的：在法律規制層面，僅針對推薦算法特定現象的粗略性規定，在技術支撐上缺乏可操作性與可驗證性，對算法應用規制整體上沒有形成相對完整的邏輯鏈條。在監管方面，實踐中對算法應用進行規制存在技術門檻且認定困難，目前的監管能力和技術水平有限。在消費維權方面，消費者發現侵權和舉證比較困難，而且多數是小額財產利益損害，積極維權的情形不多。」呂來明說。

應合理提高算法應用的透明度

針對一些算法應用侵犯消費者權益的問題，中消協副秘書長慄元廣認為：「不論算法這種技術本身是否中性，算法應用背後潛藏的經營者價值觀念並不是中立的，流量至上、利潤至上的算法應用，可能會使經營者行為有悖法律、有失道德、有違倫理。因此，為更好保護網絡領域消費者權益，應有效規制算法應用中的問題。」

慄元廣表示，經營者應在算法應用中加強自律，守法經營，誠信應用算法，不得利用技術手段欺騙隱瞞真實情況，欺騙消費者，或者實施不正當競爭行為。

「網際網路與算法應用十分廣泛，建議有關行政部門加強相關協調，細化監管職責，完善執法依據，做好規章廢改銜接;建立算法投訴審評機制，保障消費者和社會各界的投訴、監督權;培育第三方技術鑑定機構，強化對算法應用的技術審核力量。在個人信息保護法、反壟斷法、反不正當競爭法、價格法等相關法律中，建議增加算法應用的相關規定。」慄元廣說。

呂來明建議，應合理提高算法設計和運行中的透明度。由於技術和法律原因，要求算法完全透明並不現實，因此算法透明化需要限定在一定程度和範圍之內，以取得創新與監管的合理平衡。同時，分類型或層次，根據風險不同確定監管強度，根據不同的風險等級，對算法給予市場調節、備案、增加透明度、許可、說明與解釋、限制使用等不同措施。

責任編輯：kj005

文章投訴熱線:156 0057 2229 投訴郵箱:29132 36@qq.com

相關焦點

  • 運籌學算法優化在航空公司的應用研究
    運籌學算法優化在航空公司的應用研究 來源：民航資源網 作者：陳雪東 2019-05-20 16:13:49 　　運籌學在航空公司的應用實踐　　國外著名航空公司美聯航UA、美航AA、英航BA、法航AF等等，高度注重運籌學在公司運營管理領域的應用，設有專門的運籌支持組（ORGroup）。國內各大航企，近幾年在運籌學算法優化領域也多有涉足，南航成立了運籌學算法研究院，東航成立了算法實驗室。
  • 算法歧視法律規制的路徑探析
    在人工智慧背景下，算法就像一把雙刃劍，人們的身份和行為數據被廣泛收集，其健康狀況、需求偏好、消費能力、發展潛力等特徵皆被算法使用者掌控，算法通過精確識別各類社會主體的身份，區別化地將人們束縛在自身的數據繭房之中，在為人們生活帶來便利的同時，也加劇了原先社會中存在的各類鴻溝。
  • Rebase2.0算法穩定幣應用時代來臨,類AMPL將變成收藏品
    引言：算法穩定幣進入Rebase2.0時代，兩個特徵：一個是博弈者疊加多重參與模式，博弈系統更完美；另一個是DeFi可集成，讓算法穩定幣的最大價值變成「可應用」，而不是僅限於炒作。算法穩定幣正在進入Rebase2.0時代。Rebase2.0的特徵，設計思路上就是用戶「主動」參與博弈，實現彈性調節，這是和Rebase1.0不同的地方。另外就是代幣可以集成到其他DeFi中，這樣代幣的「應用」屬性加大了，整體市值自然大於Rebase1.0模式的純炒作。
  • 騰訊天衍實驗室奪世界機器人大賽雙冠軍 運動想像算法應用場景廣泛
    但是，由於腦電信號的不穩定性，以及不同受試者腦電信號差異較大，甚至同一受試者在不同時間段採集的腦電信號都會存在較大差異，這使得腦機接口技術在使用前均需較長的校準時間，且系統性能不穩定，這些問題均嚴重影響了腦機接口技術運動想像範式在實際醫療場景中的應用。
  • 中原消費金融榮膺金鈴獎「模型算法應用獎」
    河南商報記者 華麗娟12月4日，中國數據智能應用峰會暨2020第十屆數據智能應用典範金鈴獎頒獎盛典在上海召開，河南中原消費金融股份有限公司「AI模型平臺和BI指標體系」案例最終榮獲「模型算法應用獎」。此次活動由零點有數主辦，上海市普陀區人民政府指導，上海天地軟體園協辦，中國科技諮詢協會、中國軟體協會大數據分會、上海大數據聯盟、上海大數據應用創新中心、ITShare智享會協辦。活動以「面對難題，高舉數據智能解法的大旗」為主題，各方數據智能前沿人才代表共同研討數據智能時代的創新之道、數據智能解法的創新探索與實踐反思，並分享了數據智能應用的案例。
  • 數據風險、算法黑箱怎麼破?這家創企用AI化解安全難題
    張鈸院士認為，這裡存在著算法與數據的不安全性。　　縱然技術無罪，損失誰來買單？引發新一輪安全憂慮的AI，也可以成為破解安全難題的良藥。　　由於AI的決策邏輯和鏈路天然存在大量不確定性，如果不能很好地量化這種不確定性、提供可理解的決策邏輯和依據，一旦AI決策任務出錯，可能引起巨大風險，乃至威脅生命安全。　　要讓每個決策具備極高的可靠性，更進一步是算法攻防安全。　　算法普遍存在的「對抗樣本」特徵，導致AI系統存在被惡意攻擊的風險。
  • 資料|MATLAB優化算法案例分析與應用(進階篇)
    from=leiphonecolumn_res0817內容簡介 · · · · · ·《MATLAB優化算法案例分析與應用（進階篇）》是深受廣大讀者歡迎的《MATLAB優化算法案例分析與應用》一書的姊妹篇，即進階篇。本書全面、系統、深入地介紹了MATLAB算法及案例應用。
  • 論算法的法律規制
    隨著未來大數據與人工智慧更深度地運用，未來算法的應用場景將更為廣泛，在自動駕駛、公共管理、司法等領域與場景中，算法都將發揮舉足輕重甚至是決定性的作用。算法在社會中的廣泛運用帶來很多正面效應，它可以大幅提高決策效率，為消費者或用戶提供更精準的服務。同時，算法崛起也帶來很多挑戰。
  • 破解數據隱私難題 金融壹帳通發布《3D零知識算法全解析報告》
    區塊鏈技術使這一問題得以破局，但當前四大類區塊鏈解決方案——可信計算、哈希上鏈、通道分鏈和全加密框架都存在明顯的應用瓶頸，因此區塊鏈大規模商用仍有難度。針對這些問題，金融壹帳通FiMAX團隊自主研發了3D零知識算法，在極端安全的加密環境下，解決數據加密與數據使用間的兩難。
  • NB算法實例應用
    之前介紹了NB算法的基本原理，這一篇來介紹其具體實際應用。 NB算法計算過程 首先，將上一篇的NB分類器的公式寫下來： 假設給定一個數據集D
  • 10種算法一文打盡!基本圖表算法的視覺化闡釋
    在實現BFS時，應使用隊列數據結構。圖2是一個示例圖的BFS遍歷的動畫，注意一下頂點如何被發現(黃色)和被訪問(紅色)。應用： 用於查找兩個頂點之間的路徑 用於檢測圖中的循環 用於拓撲排序 用於解決只有一種解決方案的難題(例如迷宮)3.最短路徑
  • 博銳尚格 AI天天見六:強化學習算法應用探索
    （原標題：博銳尚格 AI天天見六：強化學習算法應用探索） 這是一個大街小巷熱議人工智慧的時代
  • 應用、算法、晶片,「三位一體」淺析語音識別
    黃松延，浙江大學人工智慧博士，前華為高級算法工程師，對深度學習及其應用有深入的研究，閱後若有所感，歡迎通過郵箱syhuang@chentao-capital.com或者微信號Nikola_629與他交流。人工智慧產業鏈由基礎層、技術層與應用層構成，同樣，智能語音識別亦由這三層組成。
  • 張凌寒:算法自動化決策與行政正當程序制度的衝突與調和
    堅持和發展行政公開原則，應增強算法透明度、衡平行政公開與商業秘密制度、並規範信息公開方式；堅持和發展公眾參與原則，應事前開展算法影響評估、重視陳述與申辯環節；堅持和發展說明理由制度，應賦予相對人獲得算法解釋的權利，並明確說明理由的內容與標準。
  • 12個場景應用,百餘種算法,AI是如何攻佔經濟學的?
    實驗結果表明，通過強化學習的AI經濟學家能在提高47%的平等性的同時，只降低11%的生產率。在虛擬世界中模擬現實經濟狀況，想法設計更好的制度只是AI和經濟學結合方式之一。其實深度強化學習在面臨風險參數和不確定性不斷增加的現實經濟問題時，也可以提供更好的性能和更高的精度。深度學習在經濟學中的應用
  • CreepRank算法幫助谷歌Play商店剔除了813款Android蠕蟲應用
    得益於某學者團隊開發的 CreepRank 新算法，谷歌 Play 商店篩查並下架了 813 款蠕蟲偽裝的 Android 應用。據悉，來自紐約大學、康奈爾科技學院、以及 NortonLifeLock（原賽門鐵克）的學者們，對這些蠕蟲軟體展開了深入的分析。
  • 要反網際網路壟斷,還得從算法共謀談起
    完全有可能存在這樣的情形：在一些市場上並不是所有的學習都是必須有應用價值的。」以上的條件滿足時，將會出現算法的共謀。重要的是，電子商務市場的本質、數據的可用性、相似算法的發展以及算法培育的穩定性和透明性，可能推動共謀領域外的市場產生互相的依賴性。
  • 從算法到產品:NLP技術的應用演變
    我們今天看到的與NLP有關的應用，其背後都是基於統計學。那麼，當前NLP都有哪些應用呢？1.3 目前NLP的主要應用當前NLP在知識圖譜、智能問答、機器翻譯等領域，都得到了廣泛的使用。我們的算法模型的precision只有9%。這就意味著被預測為maglignant的醫學圖像大多數都是良性。我們是不是可以這樣就說我們的算法模型很垃圾呢？並不是。實際上，在我們這個算法模型裡面，recall的重要性是比precision高的。
  • 陳根:算法下的選擇讓渡,你被算法裹挾了嗎?
    但不論是大數據還是人工智慧，都依託算法而存在，我們正在走進的數字世界本質上則是數據驅動的算法應用。當算法充斥於我們的生活，又在細微處改變著我們對信息的接收、對產品的需求以及情緒與狀態時，卻少有人關心算法最終會對我們產生的影響。
  • 區塊鏈技術的算法規制
    但是，當推向邏輯極限時，算法治理可能會最終導致系統具有高度規範性和確定性；人們可以自由決定他們要遵守的特定規則集的系統，但在做出選擇之後，就不能再偏離這些規則。2016年發生的The Dao事件，就是不法分子利用智能合約算法存在的漏洞盜取客戶巨額資金的典型案例。因此，算法是一把雙刃劍，既可以提高交易效率、保障交易安全，甚至重塑信用機制，也可能會侵害當事人利益，乃至社會利益。