諾獎得主辛頓憂AI發展速 控制人類恐不是科幻小說
[2024.10.15] 發表
【明報專訊】本屆諾貝爾物理學獎得主、多倫多大學教授辛頓(Geoffrey Hinton， 圖)警告，「人工智能」(AI)帶來的最大而長期危險是，一旦AI變得比人類更聰明，人類就會被控制。
有「人工智能教父」之稱的電腦權威辛頓得獎後接受傳媒訪問，他表示AI可能帶來積極的影響，但它發展急速，也可能引發生存問題。
他說：「我最擔心的是長期風險，因為民眾認為這只會在科幻小說出現。因此，最大的長期危險是，若AI比我們更聰明，它就會控制人類，使我們變得微不足道。這一情況令人擔憂，沒有人知道如何確切地防止這種情況發生，因此我們現在需要就此進行大量研究。」
辛頓於去年辭去Google副主席等職務，目的就是為了能不受制約地警告人類關於AI帶來的潛在風險。
辛頓指出，醫療保健是AI可作出巨大幫助的重要領域，即使對於那些引領AI成長和發展的人來說，未來10年有關技術的發展方向也難以預測，但回顧過去10年，就可以發現該技術的發展一日千里，超出人們的預期，例如ChatGPT和Google的Gemini等大型語言模型。
辛頓表示，儘管該技術仍存在一些小麻煩和不準確的問題，但它通常可以寫出完整而且令人信服的句子，這是業界10年前無法估計的。
他說：「比起我們10年前預測，這些大語言模型及其正確處理自然語言的能力要好得多。沒有人估計到我們的語言模型可以回答任何問題，並可以成為所有事情上不太理想的專家，這太神奇了。10年前，大家都極自信地預測不會做到。」
更多加國新聞三
相關新聞
