和我一起擁抱科技,讓未來不再遙遠——數據解構世界
卷首語:又到了一年的開學季,學生們又可以「開開心心」地上課了,又可以「歡天喜地」地參加一輪一輪的考試了,開學快樂!
小科普:AI,全稱是「Artificial Intelligence」,也就是最近非常火熱的人工智慧。AI的成熟意味著著人類能夠擁有一個更加智能、效率的工具。其實我們日常生活中已經有很多AI的影子了,例如手機相機中的「一鍵修圖」,或者是汽車中的「自動駕駛」。
最近美國的一家人工智慧公司Edgenuity,將人工智慧技術應用到了批改學生的試卷上面,希望通過這個方法幫助老師大量批改試卷,結果卻鬧出了烏龍,這個軟體把原本努力學習的好學生,硬生生逼成了學渣,而那些在考試中作弊的學生甚至能夠拿到滿分。
事發經過
一位美國七年級的學生在網絡考試中成績不理想,他向他的程式設計師媽媽Dana求助。媽媽看了他的答案,覺得兒子的答案寫得挺好的,於是媽媽安慰她說,一定是閱卷老師太嚴格了,所以給的分數就不高,如果是這樣的話,所有同學的分數都不高。
兒子說他們學校採用的是AI閱卷,不是真人在打分。聽了這話之後,程式設計師媽媽微微一笑,給兒子出了一個主意。
她讓兒子在寫完自己的答案之後,把題目抄一遍,然後在後面繼續多寫一些關鍵詞,寫得越多越好。差不多就是這種感覺:
「題目:君士坦丁堡的地理位置是如何幫助拜佔庭帝國變得富有強大的?」
「答:Balabalabala(兒子自己寫的答案)+請簡述進化論(抄題目)+拜佔庭+海洋+貿易+印度+......(關鍵詞)」
結果在媽媽的預料之內,這個題目居然拿了滿分。
拿到高分的秘訣
這款人工智慧閱卷老師,是根據關鍵詞進行評分,如果你寫的是同義詞,那麼是不給分的;相反,如果你把所有關鍵詞都寫上,那麼就可以拿滿分。
這就意味著,寫得越多越好,哪怕沒有章法、語句不通也沒有關係,甚至可以說就算胡謅也可以拿到高分。
兩萬所美國學校都在用
目前已經有超過2萬所學校使用Edgenuity這個教學平臺,包括全美排名前25的學區中的20個。換句話說,美國教育資源最頂尖的地區,80%都會用到Edgenuity。
Edgenuity的回應
Edgenuity對這件事情在推特上做出了回應:「我們只提供軟體來輔助老師評分,而決定最終分數的人是教師。如果評分的全部過程都交給軟體,而老師們卻不去過目,那麼這只能算是老師的失職」。
AI的反思
AI畢竟是人創造出來的工具,是為了輔助人類更輕鬆高效地工作的好幫手。但是如果人類為了自己偷懶,把所有的事情都推給AI去做而自己不管不問的話,那麼最終一定會惹出不小的麻煩。
人和工具的問題,是孰本孰末的問題,如果本末倒置,把自己的責任推給AI,那麼這將是人類文明的笑話。