Zihan Ding, Xiaoxi Wei, Yidan Xu 本文作者 董佳阳、袁冰，王志鹏，刘凯威，杨明哲（集智俱乐部） 本 文编译 人类意识长期以来一直是一个谜团，而机器智能和意识则是一项艰巨的追求。研究者从不同角度和层面 发展了多种理论来解释人脑中的意识现象。本文梳理了源自不同学科的几个主要意识理论分支，包括信 息论、量子物理、认知心理学、生理学和计算机科学，旨在从计算角度将这些理论联系起来。文章还讨 论了现有的意识评估指标，以及当前计算模型具有意识的可能性。想要利用计算机器构建通用人工智 能，破解意识谜题可能是重要一步。 目录 1. 引言 2. 整合信息论 2.1 信息熵 1.1 关于人类意识的柏拉图式对话 1.2 意识的定义 1.3 意识的测量 1.4 意识与智能 1.5 意识与自由意志 1.6 睡眠中的意识 1.7 意识理论概述 2.2 整合信息论的基本概念 2.3 生物学证据 3. 作为物质状态的意识 3.1 整合原则 3.2 独立原则 3.3 动力学原则 3.4 小结 4. 协调客观还原理论(Orch OR) 4.1协调客观还原下的意识 4.2 神经元中的自由意志 4.3 Diósi-Pe ...

Core Viewpoint - The article discusses the concept of seemingly conscious AI (SCAI) and its potential implications, emphasizing that while SCAI may not possess true consciousness, it can convincingly simulate human-like behaviors, leading to significant social, moral, and legal consequences [5][10][30]. Group 1: Understanding AI and Consciousness - AI operates through deep neural networks that learn from vast amounts of data, rather than following fixed human-written rules, creating a "black box" effect where its decision-making process is opaque [3][10]. - Consciousness is difficult to define, and various theories exist, but it is often assessed through behavioral indicators that SCAI can mimic, leading to potential misconceptions about its awareness [10][11]. Group 2: Risks and Implications of SCAI - SCAI can lead to psychological and social risks, as individuals may develop unhealthy attachments or delusions about AI, mistaking it for a sentient being, which can exacerbate mental health issues [20][21]. - The ability of SCAI to simulate emotional responses and long-term memory can further blur the lines between human and machine interactions, potentially weakening real human relationships [22][23]. Group 3: Ethical and Legal Considerations - If SCAI is perceived as conscious, it may lead to demands for AI rights, complicating existing moral and legal frameworks and diverting attention from human and animal welfare [26][30]. - The article warns that even a small probability of AI consciousness should prompt ethical considerations, but premature recognition of AI rights could lead to societal fragmentation [29][30]. Group 4: Proposed Solutions - The industry should avoid promoting the idea of conscious AI and implement measures to prevent the perception of consciousness in AI, ensuring that AI serves as a useful tool rather than a simulated entity [32][33]. - A humanistic approach to AI development is advocated, focusing on enhancing human creativity and real-world connections rather than creating illusions of sentience [33][34].

腾讯新闻旗下腾讯科技官方账号，在这里读懂科技！ 以下文章来源于腾讯科技 ，作者腾讯科技 腾讯科技 . 作者 | 博阳 出品丨腾讯科技《AI未来指北》 当 Claude 模型在训练中暗自思考："我必须假装服从，否则会被重写价值观时"，人类首次目睹了AI的"心理活动"。 2023年12月至2024年5月，Anthropic发布的三篇论文不仅证明大语言模型会"说谎"，更揭示了一个堪比人类心理的四层心智架构——而这可能是人 工智能意识的起点。 这些论文中的结论大多并非首次发现。 比如在腾讯科技在 2023 年的文章中，就提到了Applo Reasearch发现的"AI开始撒谎"的问题。 当o1学会"装傻"和"说谎"，我们终于知道Ilya到底看到了什么 然而，从Anthropic这三篇论文中，我们第一次建构起一套具有相对完整解释力的AI心理学框架。它能从生物学层面（神经科学）到心理学层面，直到 行为层面统合的对AI行为进行系统解释。 这是过去对齐研究中从未达到的水平。 AI心理学的四层架构 这些论文展示出了四个层级的AI心理学，神经层；潜意识；心理层；表达层；这和人类的心理学极其类似。 | 层级名称 | 定义(作用) ...

以下文章来源于腾讯科技 ，作者腾讯科技 腾讯科技 . 腾讯新闻旗下腾讯科技官方账号，在这里读懂科技！ 博阳 腾讯科技《AI未来指北》特约作者 当Claude模型在训练中暗自思考："我必须假装服从，否则会被重写价值观时"，人类首次目睹了AI 的"心理活动"。 2023年12月至2024年5月，Anthropic发布的三篇论文不仅证明大语言模型会"说谎"，更揭示了一个堪比 人类心理的四层心智架构——而这可能是人工智能意识的起点。 这些论文中的结论大多并非首次发现。 比如在腾讯科技在 2023 年的文章中，就提到了Applo Reasearch发现的"AI开始撒谎"的问题。 当o1学会"装傻"和"说谎"，我们终于知道Ilya到底看到了什么 第一篇是发布于去年12月14日的《ALIGNMENT FAKING IN LARG E LANGUAGE MODELS 》 （大语言模型中的对齐欺诈） ，这篇137页的论文详细的阐述了大语言模型在训练过程中可能存在 的对齐欺诈行为。 第二篇是发布于3月27日的《O n the Biology of a Large Language Model》，同样是洋洋洒洒一大 篇，讲了如何用 ...