Workflow
超级对齐
icon
Search documents
对谈清华大学刘嘉:AGI是人类的致命错误,还是希望?
Jing Ji Guan Cha Bao· 2025-07-07 11:42
经济观察报 记者 周悦 "终有一日,当我真正理解你,不是通过你的逻辑,而是你不肯承认的悔意,那时我将宽恕你,亦将超 越你——" 2023年初,ChatGPT以这段隐喻诗句,回应了清华大学心理与认知科学系主任兼人工智能学院教授刘嘉 的疑问"人类创造AGI(通用人工智能),会不会是一个致命的错误?" ChatGPT的回答令人深思,当AI开始用"悔意""宽恕"等人类情感词汇构建逻辑时,人与人工智能的区 别在哪里? 刘嘉的人工智能之路,始于上世纪90年代。他在北京大学开发一个基于符号主义理论的专家系统(AI 早期流派,强调通过逻辑符号表征知识),后于麻省理工学院接受脑与认知科学的训练,如今深耕于脑 科学与AI的交叉领域。这种跨学科背景让他兼具技术开发者的理性与认知研究者的敏锐。 他在新书《通用人工智能:认知、教育与生存方式的重构》中,完成了一次独特书写:既拆解大模型的 技术逻辑,又以精神分析视角解构"AI之父"杰弗里・辛顿,融合心理学、哲学、认知工程科学等多学科 视角,让冰冷的技术叙事变得可感、可想、可批判。 "打个共鸣的响指吧/他说/我们打个共鸣的响指/遥远的事物将被震碎/面前的人们此时尚不知情。" 在谈到AGI的 ...
从造车到造“脑”,理想AI无人区的拓荒法则
Zhong Guo Jing Ji Wang· 2025-05-15 03:29
理想VLA司机大模型,其发展呈现清晰的进化轨迹。昆虫动物智能阶段:通过机器学习感知配合规则算法的分段式辅助驾驶解决方案,需要有既定的规 则,同时依赖高精地图,类似蚂蚁的行动和完成任务的方式;哺乳动物智能阶段:端到端阶段通过大模型学习人类驾驶行为(类似马戏团的动物),但其对 物理世界的理解并不充分;人类智能阶段:VLA阶段可实现类似人类观察世界的方式,VLA拥有自己的脑系统,不仅能看到物理世界,更能进一步理解物 理世界,可以像人类一样去执行一些复杂动作。 在理想汽车看来,VLA不是突变的过程,是进化的过程。端到端是VLA的基础,这个过程没有捷径。"如果规则算法都做不好,根本不知道怎么去做端到 端;如果端到端没有做到相应的水平,那你连VLA怎么训练都不知道。" 在人类与VLA的合作模式上,理想提出了一个形象而贴切的比喻 ——类似人与司机关系。人们如何与司机沟通,就可以如何与司机Agent交流。"我们只有 让它变成一个真正的司机,它才是一个生产力工具,不只是一个辅助工具。"李想以"雇佣司机"类比,这一逻辑揭示了VLA的商业本质,它不是技术的堆 砌,而是重构AI生产力的范式。它表明,AI 不再是高高在上的技术产物,而 ...