当AI拥有“终身学习”能力，人类该怎么办？

　　中新社上海7月19日电 题：当AI拥有“终身学习”能力，人类如何划定“不可逾越之界”？

　　——专访上海交通大学人工智能学院长聘教轨副教授杨一博

　　作者 高志苗

　　从“能聊”到“能干”，人工智能(AI)正走出数字世界，在真实物理空间“动手”改变。问题随之而来：当AI拥有了“终身学习”的能力，人类如何为它划定“不可逾越之界”？具身智能距离真正进入千家万户，还有哪些障碍要攻克？

　　2026世界人工智能大会暨人工智能全球治理高级别会议7月17日至20日在上海举行。与会期间，上海交通大学人工智能学院长聘教轨副教授杨一博接受中新社“东西问”专访，解读上述问题。

　　现将访谈实录摘要如下：

　　中新社记者：AI正从聊天框走到物理世界。这种从“数字”到“物理”的转变，背后折射出人工智能怎样的发展逻辑？本届世界人工智能大会，你最期待或最关注什么？

　　杨一博：这一转变的本质是，AI正在从“学习人类已经产生的数据”，走向“通过自己的行动产生新经验”。

　　大语言模型主要在数字世界中处理文本、图像等信息，核心能力是理解和生成。但进入物理世界后，AI必须形成“感知—判断—行动—反馈—再学习”的闭环。它不仅要回答“这是什么”，还要判断“我做了这个动作之后，世界会发生什么变化”。世界模型提供了一个内部模拟器，让机器人能够预测行动后果；具身智能则把预测转化为真实动作。

　　但我认为，仅有世界模型和行动能力还不够。机器人在家庭、工厂等动态环境中长期运行，必然会遇到训练阶段没有见过的人、物体和任务。如果它不能记住过去的经验，或者每学会一项新任务就损伤旧能力，就很难成为真正可靠的“智能伙伴”。

　　本届大会以“智能伙伴 共创未来”为主题，学术议题涉及主动感知、机器人失败分析与纠正、增量学习等。这说明行业关注点正从“机器人能不能完成一次演示”，转向“它能否在真实环境中持续学习、发现错误并稳定工作”。

　　我尤其关注强化学习领域奠基人之一理查德·萨顿(Richard S. Sutton)的主旨演讲。他强调，真正的智能要在运行过程中通过试错产生增量知识，而不仅是依赖人类整理好的静态数据。我研究关注的“灾难性遗忘”，恰好是这条路线必须解决的基础问题：AI获得新经验以后，怎样让经验沉淀下来，而不是一次次覆盖过去。

　　中新社记者：你刚才提到“灾难性遗忘”。从这个角度看，终身学习如何帮助具身智能长期自主进化？具身智能距离真正进入千家万户，还有哪些“最后一公里”的障碍？

　　杨一博：机器人从一个任务切换到另一个任务时，往往会出现“灾难性遗忘”：学会整理桌面后，原来掌握的抓取能力可能下降；适应一个新环境后，在旧环境中反而表现变差。

　　我的研究希望同时保持两种能力：一是学习新知识的“可塑性”，二是保护已有能力的“稳定性”。比如，我之前从“神经坍塌”的角度，解决了机器学习模型在小样本情况下的持续学习性能问题。我们利用这一规律，为持续学习设定可解释的优化目标，从优化起点、路径和目标三个层面，保障持续学习的表现。我们还基于原创的语义导向权重分解技术，解决预训练大模型的知识遗忘和安全退化问题，从而让预训练大模型在学习新任务的同时，保护好自己的基础能力和安全对齐机制。

　　对具身智能而言，这意味着机器人学习新物体、新动作时，不是任由新数据大范围改写原有模型，而是让新知识进入相对稳定的结构，并控制参数更新范围。我们还研究小样本和在线场景，因为在真实场景中，不可能针对机器人的每一项任务都收集海量数据，很多经验只会出现一次。系统需要从有限反馈中学习，同时避免“用力过猛”而破坏旧能力。

　　具身智能进入千家万户，我认为至少还有五道关：第一，真实家庭中的长尾场景和数据不足；第二，不同机器人本体之间的能力难以迁移；第三，长期学习缺少统一评测，短期成功不等于几个月后仍然可靠；第四，物理行动必须可验证、可停止、可回滚；第五，成本、能耗、隐私和人类生活习惯需要同时满足。

　　真正的“最后一公里”，不是机器人偶尔完成一个漂亮动作，而是它能在开放环境里长期工作，遇到变化会学习，学完之后还能不覆盖过去形成的能力。

　　中新社记者：AI拥有终身学习能力后，人类怎样划定“不可逾越的边界”？

　　杨一博：当AI进入物理世界，安全不能只是一条外部规则，因为具备终身学习能力的系统会不断改变。今天通过测试，不代表学习新任务后仍安全。因此，“不可逾越之界”应同时存在于三个层面：模型更新时有不可破坏的安全子空间；执行动作时有最小权限、风险分级和人类接管机制；部署后持续监测能力变化，必要时能停止学习或恢复到安全状态。

　　本届大会已公布的议题中，既有机器人失败分析与纠正，也有智能体责任框架、局部验证和全球治理讨论。我认为这反映出安全观正发生变化：安全不是部署前做一次测试，而是贯穿数据、训练、适应、更新、行动和追责的全生命周期能力。

　　中新社记者：你曾长期在海外学习、工作，中西方在AI对齐与安全上的思考有何差异，如何互补？

　　杨一博：我不太赞成把中西方的情况简单概括成“西方重安全、中国重应用”。双方都在追求安全、可信和有益的AI，只是历史传统、制度工具和应用环境不同。

　　欧美较早把AI安全转化为风险分类、测试评估和组织责任。例如欧盟《人工智能法案》采用分级风险框架；美国国家标准与技术研究院(NIST)发布的《人工智能风险管理框架》强调在设计、开发、部署和使用的全生命周期中管理可信风险。

　　中国的特点是更强调发展与安全并重，以及技术在具体社会场景中是否真正可控、可用、普惠。《全球人工智能治理倡议》提出“以人为本、智能向善”，《人工智能安全治理框架》2.0版则根据技术和应用变化动态调整风险分类。这种思路不仅关注模型本身，也关注AI进入医疗、交通、教育和家庭后产生的社会影响。

　　两种思路可以互补：一方面建立可测试、可比较的全球安全底线；另一方面尊重不同文化和场景对隐私、家庭关系、公共利益和人的自主性的具体要求。

　　世界模型要安全融入人类社会，不能只学习物理规律，还要理解人的行为边界和社会规范；不能只预测“这个动作能不能完成”，还要判断“该不该做、谁来授权、出了问题如何停止和追责”。我认为，真正的全球治理不是统一所有价值判断，而是在共同安全底线之上，建立可互认的评测、透明的责任机制和持续对话，让AI最终服务于人的福祉。(完)

　　受访者简介：

　　杨一博，现任上海交通大学人工智能学院长聘教轨副教授，曾任KAUST科学研究员，连续3年入选斯坦福全球前2%科学家。他在受限条件下的模型训练、缓解模型遗忘等方向取得了代表性成果，相关成果发表于NeurIPS、ICML、ICLR，并多次获得Spotlight、Oral。曾获ICCV COCO创新奖、ICCV BMTT全球第一名、2025年祖冲之奖人工智能前沿创新奖突出成果奖、2023年吴文俊人工智能科学技术奖自然科学一等奖、2021年吴文俊人工智能科学技术奖优秀博士论文。