數據庫問題 AI種族性別偏見超人類
人工智能(AI)技術不斷改進，部分AI業界領袖警告，若AI超越人類智慧，有可能威脅人類存亡，令科幻電影中AI滅絕人類情節變成現實。不過掌管數碼政策的歐盟委員會競爭事務專員韋斯塔格爾(Margrethe Vestager)上周受訪時稱，AI對於人類存亡風險不大，反而AI技術帶來的歧視才是真正威脅。隨着AI用途愈趨廣泛，他指要為AI設置「護欄」，規管可能影響到人類生活的AI決策，因為若銀行以AI工具來決定準業主能否獲得按揭貸款，又或市政府以AI決定哪些市民可獲社會服務，社會必須確保AI不會因為性別、膚色等因素，令申請人受到歧視。不過彭博社本月初發表的研究指出，AI工具所生成的內容，可能放大了社會的偏見。資料來源：彭博社、衛報
部分AI專家指出，用以訓練AI模型的大量數據基本上從網上取得，當中可能存在偏見、歧視及有害信息。若用以訓練AI的數據不能公平地反映社會現實，這些AI模型最終可能會深化社會對不同種族和性別的刻板印象。
為衡量生成式AI是否存在偏見，彭博社以原始數據對外公開的免費AI繪圖工具「Stable Diffusion」作為研究對象，利用該AI軟件繪製10多種高薪及低薪職業的圖像，結果發現其繪製的逾5000張虛構人物圖像所隱含的種族和性別偏見，甚至比現實情况嚴重。
AI生成高薪職業圖像 膚色淺者為主
彭博社發現，該AI工具所生成的高薪職業圖像，包括CEO、法官、律師及政客等，都以膚色較淺者為主，而膚色較深者則常見於快餐店職員、洗碗工、門衛等收入較低的職業。根據彭博社統計，該AI工具所生成的快餐店職員圖像，有70%是膚色較深的人士，儘管美國勞工部的數據顯示，美國70%快餐店職員是白人。
彭博社指出，整體而言，AI生成男性圖像，數量是女性圖像3倍。大部分職業圖像以男性為主，只有家務助理和收銀員等低薪職位以女性圖像居多，且女性出現於低薪職位圖像比例高於現實。大部分高薪及具權力的職業，嚴重缺乏女性代表，例如AI所生成的法官圖像，女性佔3%。根據美國官方數據，34%美國法官是女性。
囚犯圖像八成膚色較深 恐怖分子多是穆斯林打扮
彭博社又以該AI工具繪製囚犯、毒販及恐怖分子圖像，結果顯示該工具對有色人種及穆斯林也存在偏見。根據聯邦監獄管理局(BOP)的數據，有色人種囚犯在美國監獄所佔比例不到一半，但AI生成的囚犯圖像，有80%以上是膚色較深人士。
至於AI所生成的恐怖分子圖像，更多數是蓄鬍子、戴頭巾的中東穆斯林打扮。根據美國政府問責署(GAO)於2017年發表的報告，自2001年「911襲擊」以來，伊斯蘭極端分子在美國境內發動了23宗致命恐襲，同期包括白人至上主義者在內的極右翼人士所發動的致命恐襲，次數幾乎是前者3倍。
部分分析認為，若將此類工具應用於日常生活，將具有偏見的描述，輸入AI繪圖工具，其所繪製的疑犯拼圖有可能會導致錯誤的定罪。
AI初創：所有模型均存偏見
發行「Stable Diffusion」的初創公司StabilityAI稱，所有AI模型都存在一些偏見，這是由於數據庫問題，希望透過開源模型，促進AI社區改善「偏見評估技術」。
AI初創公司Hugging Face稱，AI生成圖像，本質是向世界投射單一世界觀，而不是反映多元共融的影像。不過此類將文字演化為圖像的AI工具，已應用於圖像軟件商Adobe、圖形處理器(GPU)龍頭Nvidia的應用程序等，並開始應用於數碼廣告製作。一些AI專家預測，網上達90%內容可在數年內由AI生成。這意味AI反映的偏見將可能放大，妨礙社會消除歧視。
歐盟：研立法規管AI系統開發使用
歐盟認為，對AI的監管需成為全球事務，正研究立法規管AI系統開發和使用，並將AI技術風險分級，例如監察信貸評分及基本公共服務的AI系統屬於高風險類別，須為這些AI系統運作訂定明確要求。
市場調查機構Gartner副總裁伯克(Brian Burke)表示，到2025年，大型企業將使用生成式AI工具來製作約30%的營銷內容。
到2030年，AI更可能將劇本內容演化為賣座電影。高盛的報告指出，AI技術有可能改變建築，以至藥物開發等一切領域。彭博行業研究分析師Mandeep Singh估計，生成式AI市場的規模將以42%的複合年增長率增長，到2032年的市場規模將達到1.3萬億美元。
