警惕技術決定論!人工智慧與教育深度融合需破倫理屏障

「人工智慧緩緩而來，突兀而起。」

這是全國政協人口資源環境委員會主任、中國發展研究基金會理事長李偉對人工智慧帶來改變的深刻體會。

以網際網路、雲計算、大數據、物聯網、人工智慧等為代表的新經濟正在對教育自身產生著革命性的影響。「改變傳統的思維方式和組織方式，變革教育體系，適應未來教育和可持續發展，」這樣的共識在2019GES未來教育大會上，體現得非常明顯。

圖為課堂人臉識別系統。未來網記者 楊佩穎 攝

北京師範大學校長董奇表示，教育具有延遲性和滯後性的特徵，教育實踐於當前，生效於未來。當前我國對未來社會和未來教育形態、對教育問題及解決方案以及對科技與教育融合涉及到的倫理等相關問題的深入研究還不夠。既不利於教育的健康發展和學生的健康發展，也會成為推進科技和教育融合的阻力和障礙，

未來教育，需要跨學科、跨界、跨國家的研究

「當前，我們已經進入了數字經濟社會，但教育還沒有數位化，我們需要轉變觀念，今天的教育不是讓學生為了就業做準備，而是為了終身學習打基礎，教師不只要具備教授知識的能力，而是要具備組織知識的能力。」中國職業技術教育學會會長、教育部原副部長魯昕表示。

「人、機、物貫通的三元融合的未來智能社會正在到來。」董奇認為，在這種背景下，社會各界對未來教育的結構、形態和功能等方面的研究還不夠系統、深入，對未來教育形態下教師角色與教學模式的變化，對未來教育形態下學生學習方式的變化，對推動這些重要變化需要的綜合性條件特別是政策性條件，對怎樣推進未來教育的模態與今天的教育模態有效對接等重要問題，還缺乏清晰的認識。許多討論還停留在概念上，比較碎片化，還沒有形成有重要指導意義的理論和分析框架。

面對這一系列的問題，董奇表示，研究這些問題需要高度跨學科、跨界、跨國家合作，也更需要政府、企業、大學、科研機構共同參與。

警惕「技術決定論」

當人臉進入屏幕，屏幕裡的系統就會自動根據人臉表情實時得出數據，包括表情、微笑值、專注時長、上課時長。

這是商湯科技推出的一款課情洞察系統，用來服務課堂教學。未來網記者了解到，多家人工智慧科技企業都推出了類似的人臉識別課堂應用，但在設置細節上有些不同。

比如商湯科技的課情洞察系統將人臉識別的表情分為高興和其他。曠世科技的課堂人臉識別系統將表情分為開心、厭惡等，還會清晰記錄開心幾次、厭惡幾次、舉手幾次、閱讀幾次、聽講幾次、玩手機幾次等。

如此精細的監測數據讓學生感覺是被監視，引發了關於人臉識別進課堂的爭議。

對此，商湯科技的在線教育工作人員範青向未來網記者表示，人工智慧的應用是不可逆轉的大趨勢，人臉識別技術已經應用於機場安檢等場景，也可以合理的應用於課堂，但是人臉識別等技術的應用不能矯枉過正，像「智能頭環」這種給孩子戴頭箍來監測注意力，就是矯枉過正的表現。

面對眾多的爭議，範青認為，課堂人臉識別系統記錄的數據只能是用來輔助教學，老師可以根據學生上課的專注度，判斷課堂效果，但不是評價孩子是否是好學生的標準，應該合理的應用和認知這些系統。

如今，關於「人工智慧+教育」的科技應用越來越多，有些學校已經開始嘗試，伴隨著各種爭議的各類高科技教育產品層出不窮，由此涉及的倫理、隱私等問題，也成為業內人士熱議的話題。

董奇認為，未來的網絡安全與數據倫理問題可能會更加突出，不確定性在增加，需要開展實驗性治理和適應性治理。他強調，要發揮科技對教育的正向促進作用，注意避免技術的異化和濫用，注意技術的倫理安全、信息安全，警惕和防止「技術顛覆教育」、「技術決定論」等觀點，要始終堅持技術應用要彰顯教書育人的價值，更好地維護師生的尊嚴、推進教育公平。

董奇建議，教育行政部門、中小學、大學、科研機構、企業、社會先鋒力量需要大力協同，開展區域性的應用實驗，探索出新的、可推廣的科技教育融合促進教育健康發展的有效模式。

來源：未來網 作者：楊佩穎 原創轉載請聯繫授權