中新社東西問》當AI擁有「終身學習」能力，人類如何劃定「不可逾越之界」？

從「能聊」到「能幹」，人工智能(AI)正走出數字世界，在真實物理空間「動手」改變。問題隨之而來：當AI擁有了「終身學習」的能力，人類如何為它劃定「不可逾越之界」？具身智能距離真正進入千家萬戶，還有哪些障礙要攻克？

2026世界人工智能大會暨人工智能全球治理高級別會議7月17日至20日在上海舉行。與會期間，上海交通大學人工智能學院長聘教軌副教授楊一博接受中新社「東西問」專訪，解讀上述問題。

現將訪談實錄摘要如下：

中新社記者：AI正從聊天框走到物理世界。這種從「數字」到「物理」的轉變，背後折射出人工智能怎樣的發展邏輯？本屆世界人工智能大會，你最期待或最關注什麼？

楊一博：這一轉變的本質是，AI正在從「學習人類已經產生的數據」，走向「通過自己的行動產生新經驗」。

大語言模型主要在數字世界中處理文本、圖像等信息，核心能力是理解和生成。但進入物理世界後，AI必須形成「感知—判斷—行動—反饋—再學習」的閉環。它不僅要回答「這是什麼」，還要判斷「我做了這個動作之後，世界會發生什麼變化」。世界模型提供了一個內部模擬器，讓機器人能夠預測行動後果；具身智能則把預測轉化為真實動作。

但我認為，僅有世界模型和行動能力還不夠。機器人在家庭、工廠等動態環境中長期運行，必然會遇到訓練階段沒有見過的人、物體和任務。如果它不能記住過去的經驗，或者每學會一項新任務就損傷舊能力，就很難成為真正可靠的「智能夥伴」。

本屆大會以「智能夥伴 共創未來」為主題，學術議題涉及主動感知、機器人失敗分析與糾正、增量學習等。這說明行業關注點正從「機器人能不能完成一次演示」，轉向「它能否在真實環境中持續學習、發現錯誤並穩定工作」。

我尤其關注強化學習領域奠基人之一理查德·薩頓(Richard S. Sutton)的主旨演講。他強調，真正的智能要在運行過程中通過試錯產生增量知識，而不僅是依賴人類整理好的靜態數據。我研究關注的「災難性遺忘」，恰好是這條路線必須解決的基礎問題：AI獲得新經驗以後，怎樣讓經驗沉澱下來，而不是一次次覆蓋過去。

中新社記者：你剛才提到「災難性遺忘」。從這個角度看，終身學習如何幫助具身智能長期自主進化？具身智能距離真正進入千家萬戶，還有哪些「最後一公里」的障礙？

楊一博：機器人從一個任務切換到另一個任務時，往往會出現「災難性遺忘」：學會整理桌面後，原來掌握的抓取能力可能下降；適應一個新環境後，在舊環境中反而表現變差。

我的研究希望同時保持兩種能力：一是學習新知識的「可塑性」，二是保護已有能力的「穩定性」。比如，我之前從「神經坍塌」的角度，解決了機器學習模型在小樣本情況下的持續學習性能問題。我們利用這一規律，為持續學習設定可解釋的優化目標，從優化起點、路徑和目標三個層面，保障持續學習的表現。我們還基於原創的語義導向權重分解技術，解決預訓練大模型的知識遺忘和安全退化問題，從而讓預訓練大模型在學習新任務的同時，保護好自己的基礎能力和安全對齊機制。

對具身智能而言，這意味著機器人學習新物體、新動作時，不是任由新數據大範圍改寫原有模型，而是讓新知識進入相對穩定的結構，並控制參數更新範圍。我們還研究小樣本和在線場景，因為在真實場景中，不可能針對機器人的每一項任務都收集海量數據，很多經驗只會出現一次。系統需要從有限反饋中學習，同時避免「用力過猛」而破壞舊能力。

具身智能進入千家萬戶，我認為至少還有五道關：第一，真實家庭中的長尾場景和數據不足；第二，不同機器人本體之間的能力難以遷移；第三，長期學習缺少統一評測，短期成功不等於幾個月後仍然可靠；第四，物理行動必須可驗證、可停止、可回滾；第五，成本、能耗、隱私和人類生活習慣需要同時滿足。

真正的「最後一公里」，不是機器人偶爾完成一個漂亮動作，而是它能在開放環境里長期工作，遇到變化會學習，學完之後還能不覆蓋過去形成的能力。

2026年年7月17日，2026世界人工智能大會在上海開幕。圖為人形機器人在製作健康餐。（中新社）

中新社記者：AI擁有終身學習能力後，人類怎樣劃定「不可逾越的邊界」？

楊一博：當AI進入物理世界，安全不能只是一條外部規則，因為具備終身學習能力的系統會不斷改變。今天通過測試，不代表學習新任務後仍安全。因此，「不可逾越之界」應同時存在於三個層面：模型更新時有不可破壞的安全子空間；執行動作時有最小權限、風險分級和人類接管機制；部署後持續監測能力變化，必要時能停止學習或恢復到安全狀態。

本屆大會已公佈的議題中，既有機器人失敗分析與糾正，也有智能體責任框架、局部驗證和全球治理討論。我認為這反映出安全觀正發生變化：安全不是部署前做一次測試，而是貫穿數據、訓練、適應、更新、行動和追責的全生命週期能力。

2026年7月18日，上海，參觀者在人工智能大會上瞭解睿爾曼智能機械臂。（中新社）

中新社記者：你曾長期在海外學習、工作，中西方在AI對齊與安全上的思考有何差異，如何互補？

楊一博：我不太贊成把中西方的情況簡單概括成「西方重安全、中國重應用」。雙方都在追求安全、可信和有益的AI，只是歷史傳統、制度工具和應用環境不同。

歐美較早把AI安全轉化為風險分類、測試評估和組織責任。例如歐盟《人工智能法案》採用分級風險框架；美國國家標準與技術研究院(NIST)發佈的《人工智能風險管理框架》強調在設計、開發、部署和使用的全生命週期中管理可信風險。

中國的特點是更強調發展與安全並重，以及技術在具體社會場景中是否真正可控、可用、普惠。《全球人工智能治理倡議》提出「以人為本、智能向善」，《人工智能安全治理框架》2.0版則根據技術和應用變化動態調整風險分類。這種思路不僅關注模型本身，也關注AI進入醫療、交通、教育和家庭後產生的社會影響。

兩種思路可以互補：一方面建立可測試、可比較的全球安全底線；另一方面尊重不同文化和場景對隱私、家庭關係、公共利益和人的自主性的具體要求。

世界模型要安全融入人類社會，不能只學習物理規律，還要理解人的行為邊界和社會規範；不能只預測「這個動作能不能完成」，還要判斷「該不該做、誰來授權、出了問題如何停止和追責」。我認為，真正的全球治理不是統一所有價值判斷，而是在共同安全底線之上，建立可互認的評測、透明的責任機制和持續對話，讓AI最終服務於人的福祉。

受訪者簡介：

楊一博，現任上海交通大學人工智能學院長聘教軌副教授，曾任KAUST科學研究員，連續3年入選斯坦福全球前2%科學家。他在受限條件下的模型訓練、緩解模型遺忘等方向取得了代表性成果，相關成果發表於NeurIPS、ICML、ICLR，並多次獲得Spotlight、Oral。曾獲ICCV COCO創新獎、ICCV BMTT全球第一名、2025年祖沖之獎人工智能前沿創新獎突出成果獎、2023年吳文俊人工智能科學技術獎自然科學一等獎、2021年吳文俊人工智能科學技術獎優秀博士論文。

（本文來源：中新社「東西問」專欄，授權中時新聞網刊出）

來源：中時新聞網 https://www.chinatimes.com/opinion/20260725000009-262110