英AI評分帶偏見 放大社會不公
演算法取代公開試 公校考生降級較嚴重

[2020.08.25] 發表
上周六有英國學生在倫敦教育部外示威,抗議當局處理升學考試成績不當,影響其未來。(路透社)

受新型冠狀病毒疫情影響,英國今年3月宣布取消高級程度(A-Level)會考等公開試,改以演算法調整校本評分,決定考生所得分數,惟大量考生被降級,惹不公爭議,政府受壓下終放棄採用演算法評分。有評論指出,事件顯示人工智能(AI)的偏見對社會的影響日益顯著,應以更透明的政策彌補。

今次爭議源於校本評分與演算法推算存在落差。以英格蘭地區為例,負責為學生評分的資歷及考試規例局(Ofqual)要求教師為每名學生的每個科目提供評分估算及同級學生排名,再以演算法按照以往同校學生的考試表現調整評分,旨在確保應屆考生的分數不會大幅高於往績,蘇格蘭等地區的評核機構亦採取相類做法。惟多達40%考生最終評分較校本評分為低,英格蘭更有3%學生遭連降兩級,等同失去升讀大學機會。另外公立學校考生被降級的情G,遠較私校學生嚴重。輿論認為以富裕學生為主的私校可篩選學生,公開試往績一般較佳,評分結果惹加劇社會不公質疑。

「不論怎努力 仍被按居住地評分」

「我身陷自己的故事堙C這太瘋狂了。」18歲的應屆高考考生杰西卡(Jessica Johnson)來自大曼徹斯特區,她去年以自身對教育不平等的體驗撰寫小說A Band Apart(暫譯:一類之遙),講述人工智能系統將來自不同階級背景的學生分類,截斷上流之路,憑此作品獲英國文壇大獎之一「奧威爾青少年獎」(Orwell Youth Prize),未料現實中她亦受演算法所害。杰西卡原已獲蘇格蘭著名院校聖安德魯斯大學有條件取錄,但演算法調整令其英語成績由A級降至B級,恐喪失入學資格,「我們被告知只要夠努力,你便達到任何目標。不過我們今年所看見的,是不論你有多努力,你仍會被人按照居住地點評分」。

教育大臣韋廉信(Gavin Williamson)曾堅稱演算法並無問題,僅茖影響學生申請覆核評分,但在輿論怒火下宣布放寬高等院校收生上限,讓更多被降級學生可入學,及後再轉悃M定全體考生採用校本評分。他上周為事件造成混亂致歉,又稱Ofqual曾保證有關評核方式可靠,會與有關機構合作,確保考生獲應得評分。

專家促監管應用 透明討論

關注濫用數碼科技組織Foxglove創辦人克賴德(Cori Crider)指出,今次評分事件只是演算法的偏見造成影響的冰山一角,諸如以演算法防止犯罪,卻令對有色人種受針對等例子亦日漸常見。不過她亦警告,不應將責任完全歸咎於科技,一如今次高考評分問題便是源於當局希望避免「評分通脹」,演算法的運作方向屬「政治決定」,同時亦會令背後偏見加深。勒芙蕾絲研究所總監金德(Carly Kind)指出,現有演算法運用缺乏監管,如政府採用演算法時保持透明,讓受影響者可參與討論,並選用較少偏見的數據建構演算法,或不致釀成災難後果,事件勢令公眾對人工智能運作進一步失去信心。(衛報/BBC/CNN)

更多國際花絮
白俄羅斯官媒昨稱,總統盧卡申科再與俄羅斯總統普京通電話商討白俄局面,但沒報道普京的反應。克宮發言人昨表示,俄國「對外部干預白俄羅斯內政」的[... 詳情
總統持槍
白俄羅斯總統盧卡申科(前)穿避彈衣、持步槍,周日乘直升機從高空視察完示威實G後,回到官邸明斯克獨立宮,並慰勞現場保安部隊人員。 (路透... 詳情
敘利亞油氣管爆炸  美稱ISIS施襲
敘利亞首都大馬士革附近一條主要天然氣管道周一(24日)爆炸,導致全國大停電,官員懷疑事件屬恐怖襲擊,但未透露理據和涉事者是誰。美國官員稱是極... 詳情
黑人遭警7槍轟背 威斯康星爆示威
美國威斯康星州基諾沙市(Kenosha)一名手無寸鐵的黑人男子,周日(23日)遭警察從背後連開7槍重傷送院,事件引發眾怒,數以百計居民晚上遊... 詳情
日本首相安倍晉三昨(24日)前往慶應大學醫院,是繼上周一後再次到該醫院,令人關注他的健康狀G。首相官邸稱這是應上周就診時醫生要求,在一星期後... 詳情

明報網站 · 版權所有 · 不得轉載
Copyright © 2020 mingpaocanada.com All rights reserved.
Ming Pao Daily News A wholly owned subsidiary of Ming Pao Enterprise Corporation Ltd.
Toronto Chinese Newspaper

1355 Huntingwood Drive, Scarborough, Ontario, Canada M1S 3J1 | Tel.: (416) 321-0088 | Fax: (416) 321-9663 | Advertising Hotline Tel: (416) 673-8250