微软AI CEO：AI越像人，信任成本越贵

开源智能体 OpenClaw (Moltbot)推出不到两个月，GitHub 已有 10万+ star。有人用它自动给妻子回消 息，妻子和这个工具聊了两天，完全没起疑心。 这个看似有趣的案例，恰好触及了 AI 发展的一个深层风险。 最近，播客节目 Exponential View 发布了一期专访，对话嘉宾是微软 AI CEO、DeepMind 联合创始人 Mustafa Suleyman。他们讨论的是：AI 越来越像人，会发生什么？ Suleyman 的担忧是：当用户把 AI 的流畅、贴心、善解人意误以为是有心智、有感受，对 AI 的信任就 不再建立在理性判断上，而是基于情感投射。一旦足够多的人开始把 AI 当人，整个社会的权力体系、 法律框架都可能被改写。 那么，人与机器的边界应该画在哪？什么该说，什么不该说？我们又如何在有用和像人之间找到平衡？ 第一节｜信任的基础正在改变 要回答"边界在哪"，得先搞清楚一个更基本的问题：AI 到底有没有意识？ 业内对此意见不一。深度学习教父、诺贝尔奖得主 Geoffrey Hinton 认为 AI 是有意识的。但 Mustafa Suleyman 不同意。在这场对话中，他 ...