AI冒奧運冠軍賣蛋「全紅嬋」吸5萬單
【明報專訊】中國頂流體育明星近日被發現紛紛直播帶貨賣土雞蛋，吸引粉絲搶購。不過央視前日報道，無論是跳水巨星全紅嬋、乒乓「莎頭組合」(孫穎莎和王楚欽)這些直播推銷農產品的奧運冠軍，還是知名演員在直播間與粉絲24小時互動，都是經人工智能(AI)處理的複製聲音扮演。專家指普通消費者難以辨別，平台應強制檢測。
「大家好，我是你們的嬋寶，今天有事請大家幫忙。嬋妹就想着幫助媽媽，讓家裏的生活過得更好一點，同時把老家的土雞蛋分享給粉絲們嘗嘗……」「奧運冠軍全紅嬋」近日在直播中如是說。
抖音帳號「我是小助理吖」發布17條片段，均利用AI仿冒全紅嬋聲音賣土雞蛋，其中一條短片內置商品連結顯示已售4.7萬件。網名為「小兔真可愛」的帳號中，仿冒奧運乒乓冠軍孫穎莎和王楚欽的AI複製聲音，亦是賣土雞蛋。評論區顯示，大量粉絲誤以為帶貨的是奧運冠軍本人，紛下單購買鏈接中的雞蛋。目前兩個帳號已無法搜索。
10秒複製聲音 國乒「莎頭組合」中招
央視指出，以成熟的語音大模型技術，僅需10幾秒就能複製任何人聲音。AI仿冒名人亂象不止帶貨，部分自媒體博主複製名人聲音做24小時語音直播，其中演員靳東被仿冒最多，背後隱藏灰色產業鏈。
網絡安全專家潘季明表示，基於開源語音大模型，只要一段清晰語音樣本即可複製聲音，操縱其說出任何內容。仿冒名人直播可誘騙粉絲打賞獲利，還能令新帳號快速獲得上萬粉絲，為日後牟利鋪路。
專家倡平台強檢 要求標識AI內容
有內地AI專家對本報表示，目前階段靠用戶自己識別AI仿真人和聲音已十分困難，隨着技術發展，未來仿真技術將更難通過肉眼甄別，未見終極解決方案。
專家表示，已有專人在做AI鑑偽研究，取得較大進展。
他同時呼籲平台強制檢測，強制標識AI生成內容。
國家網信辦等4部門聯手發布的《人工智能生成合成內容標識辦法》自下月1日實施。當中規定AI生成合成內容應對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識，在提供生成合成內容下載、複製、導出等功能時，應確保文件含有滿足要求的顯式標識；應在生成合成內容的文件元數據中添加隱式標識。
