機器超級智能競賽存隱憂
AI焦點轉向理解模擬物理世界 專家憂威脅人類存亡
全球最頂尖的人工智能(AI)巨擘近期紛紛加強將焦點集中在研發能夠更有效了解人類環境的所謂「世界模型」(World models)，以尋找新方法達至機器「超級智能」(superintelligence)。這一趨勢標誌着AI領域競爭焦點可能正從語言領域轉向對物理世界的理解和模擬，被視為是推進諸如自動駕駛汽車、自主機械人等節能產品的重要一步。不過，有專家憂慮盲目競賽，有可能威脅人類存亡。
大型語言模型放緩 向「世界模型」進發
英國《金融時報》報道，雖然業界投入大量資金研發大型語言模型(LLM)，但Google、AI聊天機械人ChatGPT母公司OpenAI和美國富豪馬斯克旗下的xAI等，近期在大型語言模型表現的躍進上有放慢迹象，外界正關注用作推動受歡迎AI聊天機械人運作的大型語言模型是否已進入發展樽頸。近期AI企業逐漸改變方向，向「世界模型」方向進發。Google的DeepMind、facebook母公司Meta和晶片巨擘Nvidia(英偉達)正透過研發並非單靠語言、而是學習影片和數據去理解並駕馭物理世界的系統，以在AI競賽中脫穎而出。
Google DeepMind今年8月公布的Genie 3，能依據過往的活動內容，逐格生成影片，有別以往一次過的生成影片做法。Meta則向其V-JEPA模型灌輸原始影片，嘗試透過觀察兒童周邊環境，分析兒童如何被動學習。
以往AI生成的影片物理體現都難免與真實世界有一段距離，但現時的科技公司都加強採用大量真實數據協助AI生成影片。總部設於美國三藩市的Niantic，就透過從互動遊戲Pokemon Go用戶所得的1000萬個真實世界地點影像資訊作訓練用途。
Nvidia創辦人兼行政總裁黃仁勳(Jensen Huang)早前強調，公司下一個主要增長階段將由「實體AI」帶動，新研發的模型將改革整個機械人界。Nvidia Omniverse副總裁利巴雷迪安(Rev Lebaredian)稱，「世界模型」的技術可以帶進實體經濟，例如生產業和醫療保健，市場潛力巨大，「如果我們能夠製成一個能夠了解實體世界並運作的智能，理論上(價值)達到100萬億美元」。
被視為現代AI教父的Meta首席AI科學家楊立昆(Yann LeCun)估計，這個由人類智慧水平帶動的機械世界預計10年內成真。今年獲Meta聘任為AI主管的汪滔(Alexandr Wang)上月中亦表示，相信Meta擁有一切達成超級智能所需的條件，包括運算力、人才、員工數量和膽識。
不過，亦有專家指出，AI企業投入數以十億美元計資金參與超級智能競賽，對人類未必是好事。機器智能研究所(Machine Intelligence Research Institute)所長蘇亞雷斯(Nate Soares)接受Business Insider訪問時表示，和其他科技問題不同，現時這種超級智能競賽不容半點錯誤，毫無安全規管地盲目追求超級智能，恐會令人類滅絕。
Google更新安全框架 提示AI風險
有科網企業對現時發展都感到憂慮。Google DeepMind上月中便更新了其安全框架，指先進AI模型可能會試圖反抗關機指令或操控人類選擇，視這種有害操控為核心風險。
(金融時報/Business Insider/MSN)
