郑南宁院士：人工智能进化到AGI，最大的障碍是无法感知世界、缺少常识---《机器行为与具身智能》

郑南宁院士：人工智能进化到AGI，最大的障碍是无法感知世界、缺少常识---中国工程院院士、西安交通大学教授郑南宁《机器行为与具身智能》演讲

具体参见链接（https://mp.weixin.qq.com/s/6QnryqREWtmRLKYr1hTyww）

对于机器行为的研究主要包括：机器行为模仿与解释、机器行为认知和挑战、机器行为失去监督的潜在危害、机器行为的发展及关联等研究范畴。郑南宁介绍道：“大量的智能机器应用于人类社会的各个角落，几乎所有层面。机器行为的进化过程中，机器行为研究面临的挑战，就是如何使人工智能系统具有合作性的行为。“

如今，人工智能的发展中分成四个阶段，目前我们在第三阶段，即神经网络机器学习的阶段，距离第四阶段通用人工智能上，最大的障碍是人工智能缺乏对世界的感知理解和常识性知识，因此有时缺乏合理性的行为。要突破这一层级就要通过具身人工智能。

郑南宁指出，具身智能本身就是一种机器自主感知环境、学习和理解行动的能力。智能体的行为不是一次性发生，它会随着时间的推移而发展，这就需要研究机器获得特定个体或机体行为。其行为的生成机制基于其算法和执行环境，也很容易受到进化历史和与其他智能体交互的影响，所以在研究过程中必须强调，关注点不仅仅是一种行为的出现，而是发展过程中行为机制的变化。

智能体和人工智能行为的信任是密切关联的。智能体可以通过算法直接赋能，或者是利用特定的交互训练、刺激，来塑造机器行为，又或者是通过自身的经验获得某些行为来与人不断地交互，最终朝着环境和人特定的方向进化。

最后，郑南宁提出：“针对这种进化我们需要对它建立起如动物学一般的解释体系，从生成机制、发展、进化的角度去理解在环境中的具身人工智能。并对他们进行伦理上的限制，使他们更可控。“