專家﹕真危機在於過分信AI
[2018.02.10] 發表
AI威脅人類的危機近年成科技界熱話，有專家認為真正的危機在於人類過分信任AI，做好風險管理及確保AI學習系統透明將是AI未來健康發展的關鍵。
AI現今已涉足許多關乎決策的領域，例如協助醫療診斷、金融投資管理，甚至參與部分司法判決程序等，背後均有賴機器學習(machine learning)技術，藉由人類提供大量數據用作AI的「訓練」材料，讓其從中學習選出相關資料，以及找出資料當中的規律，從而對新資料作出判斷，例如從病人的腦部掃描捕捉腦退化症的早期徵兆等，這種技術幾乎可應用於任何範疇處理問題。
運算過程不清晰 可致誤判
運用AI最大好處在於AI能迅速分析海量複雜數據並作出判斷，不過AI從數據分析得出結論的過程卻並不清晰，亦難以控制干預，甚至會導致錯誤結果。美國達特茅斯學院研究美國監獄更生管理系統採用的AI軟件Compas，該軟件以服用藥物情况等137項指標分析囚犯的重犯風險，而決定保釋申請處理，已沿用20年，但研究發現軟件疑存在種族偏見，將黑人重犯的風險全列為高於白人，不論罪行，而未經訓練的普通人預測準確度反而比軟件更高2%。社交網站facebook的動態消息運算程式亦因被指助長假新聞而為人詬病。
Google AI開發主管賈南德雷亞(John Giannandrea)去年表示，機器學習本身已存在安全問題，「如我們給AI系統有偏見的數據，系統便會有偏見」，此問題比AI叛變甚至傷害人類的構想要迫切得多。
賈南德雷亞認為重要的是開發AI時採用的資料要保持公開透明，讓人能夠及時發現系統可能存在的偏見，減少誤判風險。不少研究人員亦正設法讓較複雜的AI向開發者及用戶展示運算過程以供參考驗證。
更多國際要聞
倉鼠不能上機丟進馬桶沖掉 佛州女學生告精神航空
【明報專訊】繼孔雀被拒登機事件後，佛羅里達州一名女子指摘精神航空公司（Spirit Airlines），表示該公司不准她攜帶倉鼠（hamst... 詳情
相關新聞
