SCAI)

Search documents
微软AI CEO警告:我们需要警惕「看似有意识的AI」
Sou Hu Cai Jing· 2025-08-21 13:49
机器之心报道 编辑:+0 AI 有意识吗? 无论是古今中外的文艺作品中,还是 AI 迅猛发展的当下,好像都难以给出一个绝对的答案。 要探讨这个问题,我们首先需要理解 AI 的「黑盒」困境。作为现代 AI 核心的深度神经网络,其内部包含了数以亿计的参数,这些参数在多层结构中进 行着极其复杂的非线性相互作用。 AI 并非由人类编写固定的规则来执行任务,而是通过自主学习海量数据来识别模式、构建决策逻辑。这一过程往往超越了人类的直观理解,就像一个神 秘的黑匣子:你向它提问,它能给出精准的答案,但你无法洞悉其内部的思考与决策过程。 图源:Medium。 微软 AI CEO Mustafa Suleyman 深入讨论了这个问题,并提出了「看似有意识的 AI」(Seemingly Conscious AI,SCAI)的概念。 他强调,这不是科幻,而是基于当前技术即可实现的幻觉,却可能带来深刻的社交、道德和法律影响。 评论区也展开了激烈讨论,有人赞同 Suleyman 的观点,认为我们应该警惕「幻觉」。 也有人认为无法轻易断定 AI 没有意识。 他坦言,SCAI 的潜在影响「让他夜不能寐」,因为它虽然没有真正的意识,却能完美 ...
微软AI CEO警告:我们需要警惕「看似有意识的AI」
机器之心· 2025-08-21 13:08
机器之心报道 无论是古今中外的文艺作品中,还是 AI 迅猛发展的当下,好像都难以给出一个绝对的答案。 要探讨这个问题,我们首先需要理解 AI 的「黑盒」困境。作为现代 AI 核心的深度神经网络,其内部包含了数以亿计的参数,这些参数在多层结构中进行着极其 复杂的非线性相互作用。 编辑:+0 AI 有意识吗? AI 并非由人类编写固定的规则来执行任务,而是通过自主学习海量数据来识别模式、构建决策逻辑。这一过程往往超越了人类的直观理解,就像一个神秘的黑匣 子:你向它提问,它能给出精准的答案,但你无法洞悉其内部的思考与决策过程。 图源: Medium 。 微软 AI CEO Mustafa Suleyman 深入讨论了这个问题,并提出了「 看似有意识的 AI 」(Seemingly Conscious AI,SCAI)的概念。 他坦言,SCAI 的潜在影响「让他夜不能寐」,因为它虽然没有真正的意识,却能完美地模拟出所有人类意识的外部标志,从而让人们误以为它真的拥有意识。 他强调,这不是科幻,而是基于当前技术即可实现的幻觉,却 可能带来深刻的社交、道德和法律影响 。 评论区也展开了激烈讨论,有人赞同 Suleyman ...