对话朱松纯：为机器立心
出品｜网易科技《态度AGI》栏目作者｜丁广胜
朱松纯教授告诉网易科技，人工智能的安全，要尊重人类、尊重文化，这是基础。“我们要为机器立心，得符合社会道德和伦理，做好价值对齐，要穿透大模型看到它的价值观。”
“人工智能是关乎国运的选择，我们要形成自己的叙事。我们要思想自主、文化自信。在这个基础之上，我们才会有真正原创的技术出来。”
朱松纯教授经常以“鹦鹉”和“乌鸦”为例，进行了人工智能范式的区分：“鹦鹉范式”的人工智能，就是学界目前普遍认定的大数据+大算力+深度学习，这包括当前的大型预训练模式，而“乌鸦范式”则是一种“小数据、大任务”的模式。
他认为“鹦鹉范式”架构缺乏很多人脑的模块，不能处理大量的物理和社会常识。其中最致命的问题有两点：缺乏主观的“心”、缺乏理解客观世界的因果链条。
朱松纯教授告诉网易科技，DeepSeek其实是打破了美国关于人工智能“万卡”的叙事，过去10年，人工智能是美国的叙事支撑点，他们有大数据、大算力、大模型，你中国不行。但是DeepSeek出来以后，这个叙事被戳破了。但他也提醒，通用人工智能还没有来。
而对于热议的具身智能赛道，朱松纯教授提到，很多人想用大数据的办法来做具身智能，比如一个杯子抓一百遍、一万遍，但是这条路不行，没有物理性也不知因果，而且很多人形机器人不是具身智能，是遥控器，没有和物理和社会相互作用，没有自主性。
对话朱松纯：为机器立心
我们还谈及朱松纯教授团队实践，最近有两个方向受到外界关注。一个是“通通”，一个是为通用人工智能研究立标准。
当下通用人工智能研究有两大困境，一是理论定义模糊不清，二是评估体系缺失。朱松纯教授主编，团队成员共创的《通用人工智能标准、评级、测试与架构》发表，希望解决这个问题。
而“通通”是一个由价值和因果驱动的通用智能体原型，“通通”在基础认知和成长任务上的综合表现，已接近3～4岁人类儿童的水平（在某些任务上甚至达到5～6岁儿童的水平），并且在某些高级认知任务上的表现甚至超越了成年人类。
页:
[1]