中新社上海7月19日電 題：當AI擁有“終身學習”能力，人類如何劃定“不可逾越之界”？
——專訪上海交通大學人工智慧學院長聘教軌副教授楊一博
作者 高志苗
從“能聊”到“能幹”，人工智慧（AI）正走出數字世界，在真實物理空間“動手”改變。問題隨之而來：當AI擁有了“終身學習”的能力，人類如何為它劃定“不可逾越之界”？具身智能距離真正進入千家萬戶，還有哪些障礙要攻克？
2026世界人工智慧大會暨人工智慧全球治理高級別會議7月17日至20日在上海舉行。與會期間，上海交通大學人工智慧學院長聘教軌副教授楊一博接受中新社“東西問”專訪，解讀上述問題。
現將訪談實錄摘要如下：
中新社記者：AI正從聊天框走到物理世界。這種從“數字”到“物理”的轉變，背後折射出人工智慧怎樣的發展邏輯？本屆世界人工智慧大會，你最期待或最關注什麼？
楊一博：這一轉變的本質是，AI正在從“學習人類已經產生的數據”，走向“通過自己的行動產生新經驗”。
大語言模型主要在數字世界中處理文本、圖像等資訊，核心能力是理解和生成。但進入物理世界後，AI必須形成“感知—判斷—行動—回饋—再學習”的閉環。它不僅要回答“這是什麼”，還要判斷“我做了這個動作之後，世界會發生什麼變化”。世界模型提供了一個內部模擬器，讓機器人能夠預測行動後果；具身智能則把預測轉化為真實動作。
但我認為，僅有世界模型和行動能力還不夠。機器人在家庭、工廠等動態環境中長期運行，必然會遇到訓練階段沒有見過的人、物體和任務。如果它不能記住過去的經驗，或者每學會一項新任務就損傷舊能力，就很難成為真正可靠的“智能夥伴”。
本屆大會以“智能夥伴 共創未來”為主題，學術議題涉及主動感知、機器人失敗分析與糾正、增量學習等。這說明行業關注點正從“機器人能不能完成一次演示”，轉向“它能否在真實環境中持續學習、發現錯誤並穩定工作”。
我尤其關注強化學習領域奠基人之一理查德·薩頓（Richard S. Sutton）的主旨演講。他強調，真正的智能要在運行過程中通過試錯產生增量知識，而不僅是依賴人類整理好的靜態數據。我研究關注的“災難性遺忘”，恰好是這條路線必須解決的基礎問題：AI獲得新經驗以後，怎樣讓經驗沉澱下來，而不是一次次覆蓋過去。
中新社記者：你剛才提到“災難性遺忘”。從這個角度看，終身學習如何幫助具身智能長期自主進化？具身智能距離真正進入千家萬戶，還有哪些“最後一公里”的障礙？
楊一博：機器人從一個任務切換到另一個任務時，往往會出現“災難性遺忘”：學會整理桌面後，原來掌握的抓取能力可能下降；適應一個新環境後，在舊環境中反而表現變差。
我的研究希望同時保持兩種能力：一是學習新知識的“可塑性”，二是保護已有能力的“穩定性”。比如，我之前從“神經坍塌”的角度，解決了機器學習模型在小樣本情況下的持續學習性能問題。我們利用這一規律，為持續學習設定可解釋的優化目標，從優化起點、路徑和目標三個層面，保障持續學習的表現。我們還基於原創的語義導向權重分解技術，解決預訓練大模型的知識遺忘和安全退化問題，從而讓預訓練大模型在學習新任務的同時，保護好自己的基礎能力和安全對齊機制。
對具身智能而言，這意味著機器人學習新物體、新動作時，不是任由新數據大範圍改寫原有模型，而是讓新知識進入相對穩定的結構，並控制參數更新範圍。我們還研究小樣本和線上場景，因為在真實場景中，不可能針對機器人的每一項任務都收集海量數據，很多經驗只會出現一次。系統需要從有限回饋中學習，同時避免“用力過猛”而破壞舊能力。
具身智能進入千家萬戶，我認為至少還有五道關：第一，真實家庭中的長尾場景和數據不足；第二，不同機器人本體之間的能力難以遷移；第三，長期學習缺少統一評測，短期成功不等於幾個月後仍然可靠；第四，物理行動必須可驗證、可停止、可回滾；第五，成本、能耗、隱私和人類生活習慣需要同時滿足。
真正的“最後一公里”，不是機器人偶爾完成一個漂亮動作，而是它能在開放環境裏長期工作，遇到變化會學習，學完之後還能不覆蓋過去形成的能力。
中新社記者：AI擁有終身學習能力後，人類怎樣劃定“不可逾越的邊界”？
楊一博：當AI進入物理世界，安全不能只是一條外部規則，因為具備終身學習能力的系統會不斷改變。今天通過測試，不代表學習新任務後仍安全。因此，“不可逾越之界”應同時存在於三個層面：模型更新時有不可破壞的安全子空間；執行動作時有最小許可權、風險分級和人類接管機制；部署後持續監測能力變化，必要時能停止學習或恢復到安全狀態。
本屆大會已公佈的議題中，既有機器人失敗分析與糾正，也有智能體責任框架、局部驗證和全球治理討論。我認為這反映出安全觀正發生變化：安全不是部署前做一次測試，而是貫穿數據、訓練、適應、更新、行動和追責的全生命週期能力。
中新社記者：你曾長期在海外學習、工作，中西方在AI對齊與安全上的思考有何差異，如何互補？
楊一博：我不太贊成把中西方的情況簡單概括成“西方重安全、中國重應用”。雙方都在追求安全、可信和有益的AI，只是歷史傳統、制度工具和應用環境不同。
歐美較早把AI安全轉化為風險分類、測試評估和組織責任。例如歐盟《人工智慧法案》採用分級風險框架；美國國家標準與技術研究院（NIST）發佈的《人工智慧風險管理框架》強調在設計、開發、部署和使用的全生命週期中管理可信風險。
中國的特點是更強調發展與安全並重，以及技術在具體社會場景中是否真正可控、可用、普惠。《全球人工智慧治理倡議》提出“以人為本、智能向善”，《人工智慧安全治理框架》2.0版則根據技術和應用變化動態調整風險分類。這種思路不僅關注模型本身，也關注AI進入醫療、交通、教育和家庭後產生的社會影響。
兩種思路可以互補：一方面建立可測試、可比較的全球安全底線；另一方面尊重不同文化和場景對隱私、家庭關係、公共利益和人的自主性的具體要求。
世界模型要安全融入人類社會，不能只學習物理規律，還要理解人的行為邊界和社會規範；不能只預測“這個動作能不能完成”，還要判斷“該不該做、誰來授權、出了問題如何停止和追責”。我認為，真正的全球治理不是統一所有價值判斷，而是在共同安全底線之上，建立可互認的評測、透明的責任機制和持續對話，讓AI最終服務於人的福祉。（完）
來源：中新社
