人臉識別進校園惹爭議!這家AI巨頭回應了

2020-12-25 東方財富網

近日,網友上傳了一張截圖,位於南京的中國藥科大學的兩名學生的課堂行為被監控系統分析。

據中國藥科大學圖書與信息中心主任許建真介紹,目前學校在兩間教室試點安裝的人臉識別系統,除了自動識別學生出勤情況外,學生是否認真聽講,課堂上是否抬頭低頭,低頭是否在玩手機,是否閉眼打瞌睡,都逃不過該系統的「法眼」。

是的,使用這套系統以後,學生們再也不敢隨意缺勤了,不敢上課打瞌睡、看小說的,媽媽再也不用擔心我的學習了……

這張照片引起了網友們的熱議,大多網友指責並質疑這種技術在課堂上的應用是否侵犯隱私,並把這套人臉識別系統的開發者——曠視科技推上了風口浪尖。

曠視科技回應:該圖為技術場景化概念演示

該截圖在網絡上發酵一天之後,曠視科技在發表官方聲明表示,該圖為技術場景化概念演示。

目前,曠視在教育領域的產品——智慧學校解決方案可以協助學校管理人員提升效率並保障學生安全,主要用於智能校門、教室門及宿舍的出入,方便學生安全出入校園。

針對網友熱議的隱私保護等問題,曠視表示在人工智慧技術的各種場景中,曠視會堅持正當性、數據隱私保護等核心原則,接受社會的廣泛建議和監督。

網友熱議人臉識別系統

雖然曠視科技表示,該技術仍然在概念演示階段,還沒有正式落地,但是憤怒的網友們仍不買帳,更有網友曬出了照片截圖的原始視頻。

從這段視頻可以看到,這套系統不僅能實時統計到學生的出勤情況,還可以根據學生的表情來判斷學生的課堂表現。

對此,有的網友表示,最美好的校園時光變成了監獄。教育的目的應該是理解和接受人的不完美等等。

「AI監控分析課堂」步入多家學校和機構

中國藥科大學並不是唯一一家使用智慧校園監控系統的學校,上海中醫藥大學附屬閔行薔薇小學也正在使用這套系統。

這套系統運用在姿態評估、表情識別、語言識別、教師軌跡熱力分析等方面,可以捕捉到孩子在校園生活中是否有微笑、向老師問好、主動撿垃圾、列隊整齊等良好行為,或者快速奔跑、摔跤、打架、擁擠等危險動作。

據當時的媒體報導,這套系統是薔薇小學和上海交通大學E-LEARNING實驗室一起開發的。

根據上海交通大學網站上的信息顯示,今年五月該實驗室的AI智慧校園建設是首批入選全國人工智慧試點應用場景。

除此之外,據業內人士介紹,至少從2018年上半年開始,「AI監控分析課堂」就已經開始落地生根、加速發展了。

2018年4月,人臉識別進課堂海風教育發布「海風智學中心」

2018年11月,優鴻人工智慧課堂:提升學習專注度,讓孩子具備自主學習能力

2019年7月,課堂專注度分析助力「武漢育才小學」提升教學質量

同時,教育機構也開始宣傳他們的「人工智慧技術」:

2018年7月,好未來推出「WISROOM」智慧課堂解決方案,升級「魔鏡」

2018年10月,用 AI 分析課堂情緒,「清帆科技」助力教育「精細化運營」

2018年12月,幫學生訓練腦力、替老師管理課堂、助學校管理校園百度大腦揭開未來教育新模式

2019年5月,學而思網校「AI老師」亮相京交會人工智慧助力教學獲好評

基金君還看到網友留言稱,我們公司做產品設計的,已經有客戶找到我們做產品:用手環、監控等方式得到幼兒園每個孩子的各項指標並矯正,包括語言能力、行為、體能、情緒等8個指標,簡單來說就是他們沒有做出一個機器人,但是要把活生生的人當作機器人來培養,你不可以生氣,機器一察覺,老師馬上來安撫好你等等。。。

看來,不能輸在起跑線上的父母們一邊糾結著孩子隱私是否被侵犯,一邊成了AI+教育的最大買單者。

曠視科技剛申請IPO

阿里持股近30%

8月25日,本次事件的中心——曠視科技正式向港交所提交了IPO招股說明書。一旦上市成功,曠視科技將成為中國人工智慧企業第一股。

根據招股書的披露,阿里是曠視科技的最大股東,持股29.41%,其中螞蟻金服持股15.08%,淘寶中國持股14.33% 。

根據投中數據顯示,從2012年獲得聯想的首輪融資之後,曠視科技已經獲得了7輪融資,融資總額超過500億,阿里先後參與了兩輪融資。

其中2017年10月,螞蟻金服、富士康參與了由中國國有資本風險投資基金(簡稱「國風投」)領投的C輪融資,共融資4.6億美元,這一數字打破了當時國際範圍內人臉識別領域融資紀錄。

2018年7月,阿里巴巴又參與到了曠視科技的戰略投資當中,共融資6億美元。

2019年5月,曠視科技剛剛完成7.5億美元D輪融資,此輪融資之後,公司的估值已達40億美金。

近三年虧損近百億

技術變現承壓

在這40億美金估值的背後卻是三年來持續的虧損。

雖然灼識諮詢報告顯示,按2018年收入計算,曠視科技在雲端人臉識別身份驗證解決方案市場逾60%的份額,但是根據招股說明書顯示,在過去的三年裡,曠視科技仍然虧損近百億。

據招股說明書顯示,自2011年成立至今,曠視積累了龐大且多元的客戶基礎,包括金融科技公司、銀行、智慧型手機公司、第三方系統集成商、政府機構、物業管理者、物流公司及製造商等。

其雲端身份認證解決方案客戶由2016年的128名增至2018年的1,044名,複合年增長率為185.6%。同時,城市物聯網解決方案的客戶由2016年的30個城市變為2018年的106個,複合年增長率為88.0%。

但是招股書顯示,2016年、2017年和2018年,曠視科技營業收入分別為6780萬元、3.13億元和14.27億元,年複合增長率為358.8%;同期分別虧損3.43億元、7.58億元和33.52億元,虧損額持續擴大。

今年上半年,曠視科技虧損額達52億元,同期(2018年上半年)虧損額為7.29億元。據基金君簡單計算,曠視科技近三年的虧損額96.53億元。

有業內人士表示,作為一家將要IPO,但多年來持續虧損的人臉識別技術公司之一,業績壓力讓曠視科技尋找各個途徑實現技術變現。而校園安防建設與信息化建設的盤子很大,各個階段政府與學校都需要會有一定的項目資金投入,曠視科技介入這個行業將會帶來持續、穩定的營收增長。

(文章來源:中國基金報)

相關焦點

  • 高校人臉識別惹爭議,如何更安全使用計算機視覺技術?
    如今,計算機視覺技術已經滲入到了我們生活的方方面面,如指紋解鎖、刷臉打卡、「智慧校園」建設等。越來越多的校園推行建設「智慧校園」,將智能考勤、人臉識別、數據採集等技術引入校園,而近期某高校採集學生信息的情況在網上引起了爭議。
  • 把「人臉識別」關進法律的「籠子」裡
    圖/新京報網文|社論針對人臉識別侵犯個人隱私的爭議,全國人大常委會法工委12月21日回應稱,個人信息保護法草案對處理包括人臉等個人生物特徵在內的敏感個人信息作出專門規定一段時間以來,「人臉識別第一案」與戴頭盔看房等事件,引發了公眾對人臉識別技術應用邊界的廣泛討論,也讓「如何規範人臉識別」成為坊間熱議的話題。這些公共討論促進了社會對人臉識別等新技術在應用和規制上的許多共識。我們樂於看到人臉識別等新技術的應用和發展,但人臉識別也為個人信息保護帶來了新挑戰。
  • 人臉識別十字路口:臉的恐慌
    他是中科院計算所研究員、中科院智能信息處理重點實驗室常務副主任,研究人臉識別技術已經有二十多年。對於做技術的人而言,在校園應用人臉識別技術監控學生狀態不算新鮮事。「在業內,一些科技公司早已有了這樣的設想,或者擁有了接近成熟的技術。」山世光說。人臉識別進課堂的探索最早引發關注,始於2018年。
  • 巨頭環伺 SAFR人臉識別入華 RealNetworks如何在百億市場掘金?
    近期,這家公司把自己知名的人臉識別平臺SAFR引入中國,並與國內一家企業籤約。對此,天極網記者獨家採訪RealNetworks公司首席技術官(CTO)Reza Rassool先生。RealNetworks 公司和Reza Rassool先生作為全球知名的音視頻解決方案提供商,RealNetworks成立於1995年。
  • 把「人臉識別」關進法律的「籠子」裡 | 新京報社論
    圖/新京報網文|社論針對人臉識別侵犯個人隱私的爭議,全國人大常委會法工委12月21日回應稱,個人信息保護法草案對處理包括人臉等個人生物特徵在內的敏感個人信息作出專門規定,要求只有在具有特定目的和充分必要性的前提下,方可處理敏感個人信息,並應在事前進行風險評估。
  • 瑞典人臉識別進校園被判違反GDPR 歐盟半年內或將迎來立法
    據悉,該校使用人臉識別系統記錄學生的出勤率,而瑞典DPA通過對系統試行期間涉及的22名學生進行調查,最終認定學校董事會對學生個人信息的處理不符合GDPR的規定。 事實上,隨著人臉識別技術的廣泛應用,歐洲已經開始考慮對人臉識別等人工智慧(AI)技術進行立法規管,限制公司和公共機構「不加區分地使用人臉識別技術」,並賦予所有歐洲居民明確的決定權。
  • 人臉支付、刷臉賣房……人臉識別的喜與憂在交替上演
    不僅刷臉賣房出事故,進售樓處看房也被迫戴頭盔。前不久,一段「男子帶頭盔看房」的視頻引起熱議。背後的原因是售樓處的人臉識別系統。一些地產售樓部開始使用人臉識別技術進行客戶比對,以防「飛單」,而頭戴頭盔的男子是為了保護自己的臉。
  • 「人臉識別第一案」二審:人臉識別入園必要性成庭審爭議焦點
    即日起,未註冊人臉識別的用戶將無法正常入園。」郭兵於當年4月花費1360元購買杭州野生動物世界「暢遊365天」雙人年卡,確定指紋識別入園方式。郭兵與其妻子留存了姓名、身份證號碼、電話號碼等,並錄入指紋、拍照。接到簡訊後,他實地前往杭州野生動物世界,發現園區已經裝上了「人臉識別刷卡裝置」,而且告示牌上明確要求人臉識別。
  • 校園應用人臉識別系統怎麼樣?
    隨著軟硬體的升級,人臉識別技術越來越完善,適用場景也越來越多。 人臉識別系統滲透在辦公大樓、智慧工地、學校、政府機構等各種場景,門禁管理進入了智能化時代。那我們來聊聊校園應用人臉識別系統怎麼樣?  智能校園門禁系統是人臉識別終端和門禁設備的組合,使用人臉識別門和匹配的人臉識別系統來控制行人進出。系統將通過黑名單預警阻止陌生人和犯罪分子進入校園。  人臉識別終端安裝在學校的每個通道的門上,使用人臉識別系統監控人行通道。 所以校園內的教師,學生和工作人員都要經過人臉識別系統。進入學校時,必須通過人臉識別技術識別,識別成功後,將會自動打開閘門。
  • 前沿|人臉識別技術走到了「十字路口」
    人臉識別從早前刷臉才能進小區引發抵制,到遊客狀告動物園未經同意採集人臉信息的勝訴,再到售樓處戴頭盔看房、94歲老人被抱起做人臉識別、星級公廁人臉識別取廁紙等事件陷入輿論漩渦……作為人工智慧產業應用落地的「排頭兵」,人臉識別從備受推崇的技術「風口」到飽受爭議的輿論「浪尖」,反轉的速度似乎有點過快。
  • 人臉搜索,在 AI 的陰暗面肆無忌憚
    人臉識別技術自誕生以來就伴隨著爭議,隱私、安全等問題與這項技術一同成長。人臉識別技術愈發成熟,與之相關的安全問題就更加複雜、嚴重,雖然成為了人工智慧領域最為成熟的技術之一,但有幾人能夠真正接受人臉識別在生活中的無孔不入呢?
  • Facebook推出人臉識別功能:找出照片裡的好友
    《Facebook推出人臉識別功能:找出照片裡的好友》文章已經歸檔,不再展示相關內容,編輯建議你查看最新於此相關的內容:路透社:Facebook今年將在愛爾蘭擴招1000名員工【
  • 校園出入口人臉識別門禁系統解決方案
    2、提升安全建設水平,增強體驗使用最新技術的人臉抓拍、識別閘機,完善校園各出入口管理難度,提升校園安全建設水準,增強師生在校學習、生活體驗。3、提高通行效率,降低人力成本通過人臉閘機通行方式,極大縮減了人工核驗的時間,減輕學校管理工作量,同時也縮短了師生等待的時間。
  • 美國紐約州禁止學校在2022年前使用人臉識別技術
    澎湃新聞記者 王心馨 實習生 何青怡當地時間7月22日,美國紐約州立法機關通過了一項法令,在2022年前,禁止在學校中使用人臉識別和其他生物特徵識別技術。只要州長安德魯 · 庫莫(Andrew Cuomo)籤署,該法案就能生效。法案通過後,將成為全美首個明確規定學校不允許使用該技術的法案。
  • GDPR生效後的第一張人臉識別罰單|騰訊網絡法專報
    AI換臉應用「ZAO」惹爭議,國外多舉措促進背後的深度偽造技術妥善利用9月初,一款名為「ZAO」的AI換臉APP引發輿論廣泛關注。作為國內第一個爆款級AI換臉應用,ZAO的換臉操作門檻很低,用戶在通過人臉識別完成肖像權驗證之後,就可以通過拍攝或上傳人臉照片來合成視頻。其將之前只是聽說的技術帶到現實生活中,引發了諸多爭議,例如收集人臉等個人生物識別信息未獲用戶明示同意、個人信息處理規則不清晰、過度索取肖像權、著作權侵權、數據洩露或濫用風險等。
  • 人臉識別時代要不要說「不」
    隨著科技的進步,「人臉識別」被越來越多的場景採用,解鎖、購物、打卡、門禁、買房……進公園人臉識別,進售樓處被人臉識別,濫用人臉識別侵犯個人隱私是近期的社會熱議話題,也引起社會廣泛焦慮。近日,南京多家售樓處被責令要求拆除現有的人臉識別系統,這在全國尚屬首例。隨即,天津立法杜絕信用信息場景下濫用人臉識別技術。
  • 隱私換不來便利,濫用人臉識別將成為過去式
    而針對人臉識別技術被濫用的問題,目前包括天津、南京、杭州在內的多地已經出臺相應政策,其中天津更是用法律法規的方式,禁止採集人臉、指紋、聲音等識別信息。人臉採集陸續在各地迎來強監管在多地針對人臉識別進行管控的背後,無疑是大眾對於人臉識別的忍耐度正在下降。
  • 校園人臉識別應用實測:傳人臉照片不加密,隱私政策透明度低
    2019年,「人臉識別進校園」的案例密集出現,有一些學校引進了可以分析學生情緒的人臉識別應用。南都人工智慧倫理課題組(以下簡稱「課題組」)在2019年發布的《人臉識別落地場景觀察報告》中也提到了北京某高校的人臉識別系統能檢測學生的抬頭率和前排就座率,當時有學生對這套系統持質疑態度,認為涉嫌侵犯自己的隱私。
  • 北大清華將人臉識別技術運用於校園安保
    ,遊客需預約「刷臉」才能進清華參觀……近日,北大和清華將人臉識別技術運用於校園安保中,為師生提供更便捷服務,優化和規範校園秩序。  據悉,「刷臉入校」和其他「刷臉」技術相比具有更高難度,因為室外人臉識別要解決白天強光過曝和晚上微光過暗的難題,同時還要保證識別速度和準確度。
  • 審視人臉識別:一種AI技術的全球性濫用
    期間不但誕生了若干代表性的人臉識別算法,美國國防高級研究計劃局(DARPA)和美國國家標準技術研究院(NIST)更是推出了著名的人臉識別技術(FERET)項目,研發最先進的人臉識別算法和資料庫。主要目的便是用於安全監控。這也為人臉識別引發全球轟動的時間線埋下伏筆,例如 2011 年時的賓拉登事件:蓋達組織負責人 Osama bin Laden 在美國突襲中被殺後,最終由軍方的人臉識別算法成功辨認。