AI影片網上散播仇恨暴力 目前沒安全規則 各界關注
【明報專訊】人功智能(AI)生成內容近月來在社交平台上大量湧現，公然鼓吹暴力，散播對性小眾(LGBTQ+)、猶太人、穆斯林及其他少數族群的仇恨。儘管多數影片來源不明，其迅速擴散已引發專家與倡權者的強烈關注並警告，加拿大現行法規無法應對AI仇恨內容的速度與規模，亦未能充分保障公共安全。
一段看似滑稽的人工智能生成影片近日在社交媒體上瘋傳，內容卻令人震驚。影片中，一隻身穿美國國旗背心、戴着牛仔帽的「大腳怪」坐在皮卡車駕駛座上並笑着說：「我們今天要去參加LGBT遊行，你一定會喜歡的。」隨後畫面急轉直下，牠駕車衝入人群，群眾尖叫逃竄，手持彩虹旗者亦在其中。該影片於上月在短片平台TikTok帳號「AmericanBigfoot」上發布，至今已累積逾36萬次觀看及數百則留言，其中多數竟表示讚賞。
LGBTQ+倡議團體Egale指，性小眾社區對網上恐同、恐跨(Homophobia，Transphobia)信息感到憂慮。該組織行政總監甘迺迪(Helen Kennedy)稱，AI工具正被用來貶低跨性別與性別多元人士，而現有數碼安全法例未能應對這種新型威脅。
「加拿大反仇恨網絡」(Canadian Anti-Hate Network)行政總監巴爾戈德(Evan Balgord)認為，仇恨視頻的內容不只針對LGBTQ+，亦包括伊斯蘭恐懼症(Islamophobia)、反猶主義及針對南亞族群。他警告，網上對暴力的讚美可能助長現實中的攻擊行為。
安省科技大學(OTU)法學教授斯蘭恩(Andrea Slane)指，原本旨在規管網上有害內容及建立AI監管框架的法案，已於今年1月國會休會時胎死腹中。她呼籲政府盡快重啟立法。
聯邦司法部長弗雷澤(Sean Fraser)上月透露，聯邦政府將重新審視《網絡危害法》(Online Harms Act)，但尚未決定是否重寫或重新提交。新成立的聯邦人工智能及數碼創新部發言人奧斯利斯(Sofia Ouslis)強調，聯邦政府正認真處理AI仇恨內容問題，特別是針對弱勢群體，同時正檢視現有框架、關注法院裁決，並聆聽法律與科技專家意見。她承認現行法律雖有保障，但未針對生成式AI而設，加國政府承諾將非自願性深偽色情視頻列為刑事罪行。她強調，在這個快速變化的領域，當局寧願把規管做對，也不要倉促行事而出錯。
專家指，社交平台多為外國企業，加拿大難以直接規管，加上美國科技公司監管減少，令其更強勢、更缺乏責任感。
加拿大可信人工智能研究主席路易斯(Peter Lewis)說，生成式AI技術突破，讓一般人也能輕易製作高質影片，工具多為免費或低價。他又說，儘管諸如ChatGPT等大型語言模型已設有機制過濾有害或違法內容，但在影片方面仍需加強防護。
他認為，現行法律可用以打擊仇恨與暴力內容，但AI技術的迅速發展與普及，政府、社交平台與開發者需㩗手合作，建立更有效的舉報與移除機制。他強調，AI偵測工具有助識別問題影片，但並非萬能。
