西风 发自 凹非寺 量子位 | 公众号 QbitAI 笑不活了，ChatGPT闯大祸！ AI幻觉随意编造一个产品的新功能，误导用户大量涌入，最后 开发者不得不把这 个虚构的功能真 的做了出来 。 受害者是一个 乐谱扫描网站 ，最近莫名收到大量用户上传的ASCII吉他谱截图，这些截图还都是来自ChatGPT的。 网站开发者懵了： WTF？我们 压根不支持扫描ASCII吉他谱 啊？？？ 直到这位开发者自己亲自用ChatGPT倒腾了一番才发现，好你小汁，原来如此～ ChatGPT生成ASCII吉他谱之后，会自动推荐大伙儿到他们的网站收听或是进一步创作。 然鹅，该网站平时扫描的都是传统标准五线谱，根本不支持ASCII吉他谱这种小众格式…… 更更笑不活的是，大量用户尝试该功能，把开发者架在那儿了，不支持该功能难免会让满怀期待赶来用户感到失望，显得网站很差劲。 于是乎，这位开发者被迫，加急赶工把这个功能给造了出来。 被ChatGPT"赶鸭子上架"造新功能 这个能扫描乐谱的网站名叫 S oundsli ce ，其中的乐谱扫描仪功能能将图片照片中的 音乐数字化 ，这样你就能收听、编辑和练习。 这位网站开发者表示，他们一直在持 ...

"庄生晓梦迷蝴蝶，望帝春心托杜鹃。"古往今来，梦境如烟似雾，虚幻缥缈，却又承载着人类最深邃的思考和情感，映照出现实世界的种种投影。诗人们 在梦中寻觅灵感：李白夜梦飞升，写下"且放白鹿青崖间，须行即骑访名山"；杜牧梦回金陵，怅然道"十年一觉扬州梦，赢得青楼薄幸名"。 在梦境里，我们也常常经历不可能的奇遇，踏入未知的世界，甚至与现实世界交错相连。梦境究竟为何如此真实？为什么有些梦让人念念不忘，有些梦却 在醒来的瞬间消散？这些奇妙的体验究竟是大脑的一场虚构，还是潜意识的隐秘表达？科学家们试图解开这一谜团，从古人的遐想走向现代神经科学的研 究。 人类对梦的探索从未停止。在古埃及，人们认为梦境是神灵传递信息的方式，法老甚至会请专门的"解梦师"来预测未来。19世纪，德国化学家凯库勒 （F.A.Kekulé）在梦中看到一条蛇咬住自己的尾巴，醒来后顿悟，揭示了苯分子的环状结构。这些故事似乎印证了梦境并非毫无意义，而是可能与思维、 记忆甚至创造力密切相关。 德国化学家凯库勒 到了1953年，科学家偶然发现了REM（快速眼动）睡眠期，处于这一阶段的大脑可以类比为夜晚的剧院——当身体沉睡，剧场的灯光变暗，幕后却一片 忙碌，神经元像 ...

媒体大肆报道之后，发现这个道歉也是假的。 1245个字 阅读时长：3分钟 中产先生 | 洞见时代发现价值讲述生活 防不胜防。 最近，都在传DeepSeek给王一博道歉，因为它错误的把王一博联系到不久之前的李爱庆事件。 在AI造假和算法推荐的效率之下，媒体信息不断被污染，没有真实可言了。 我们都知道AI造假的原因有两个： 1、AI幻觉问题 它经常会主动编造一些事实来迎合提问者的偏好。 这一点，会被有心者故意利用，来编造各种情节离奇的谣言。 这些人胆子大到什么地步呢？ 编造明星的离奇情节还不够，甚至编造涉政涉军的谣言。 今年以来流传比较广的AI谣言就有： 涉及腐败的：某官员把黄金浇铸成飞机螺旋桨叶片。 涉及芯片的：深圳华强北地下仓库直接以或换货。 涉及关税的：墨西哥边境无数架无人机低空走私。 总结起来就一句话： 要多离奇多离奇，要多狗血多狗血，现在大家不关心真假，只在乎情绪和流量。 营销号正是抓住了这个趋势。 2、给AI喂假料 这次王一博的事件，就是不怀好意者给AI喂假聊的结果。 现在给AI喂假料太容易，AI基本没有辨别的能力，只有梳理罗列的功能，到时候再因为幻觉问题严 重，就可能直接误导用户，甚至成为黑公关的手 ...

作者 | 第一财 经 刘晓洁 2025.07. 04 本文字数：1313，阅读时长大约3分钟 一条关于辟谣和道歉的新闻，最终却是AI幻觉带来的谣言，这是AI时代的荒诞现实。 7月3日，一则《演员王一博案，判了》的新闻发酵，文章内容提及，人工智能公司DeepSeek因内 容审核疏漏，就关联不实信息向演员王一博道歉，还援引了刑事判决书。随后，#DeepSeek向王一 博道歉#一度冲上热搜。 目前这一新闻已被删除，但仍然引发大量转载。 上述文章提到"人工智能公司DeepSeek发布正式道歉"，并提及"声明"一词。但第一财经查阅了目 前DeepSeek所有官方渠道的账号，包括官网、公众号、知乎、小红书、海外的X等，都未发现有新 的动态。 第一财经也向公司进行了求证，但截至发稿，未收到任何回复。 仅从新闻事实来看，网络流传演员王一博的消息，已被经纪公司澄清，法院判定系谣言，而声称 DeepSeek为传谣道歉，则有诸多的不合理之处。此次假新闻的信息中没有任何一句明确指出 DeepSeek的道歉渠道，声明中所提及的法律判决书，在中国裁判文书网上检索显示无数据。 追溯"道歉"新闻源头，或许来自于一则社交媒体中的帖子，但看图片 ...

7月3日，一则《演员王一博案，判了》的新闻发酵，文章内容提及，人工智能公司DeepSeek因内容审核疏漏，就关联不实信息向演员王一博道歉，还援引 了刑事判决书。随后，#DeepSeek向王一博道歉#一度冲上热搜。 目前这一新闻已被删除，但仍然引发大量转载。 媒体作为信息"把关人"的严谨性与责任感，在AI时代更为重要。 一条关于辟谣和道歉的新闻，最终却是AI幻觉带来的谣言，这是AI时代的荒诞现实。 上述文章提到"人工智能公司DeepSeek发布正式道歉"，并提及"声明"一词。但第一财经查阅了目前DeepSeek所有官方渠道的账号，包括官网、公众号、知 乎、小红书、海外的X等，都未发现有新的动态。 仅从新闻事实来看，网络流传演员王一博的消息，已被经纪公司澄清，法院判定系谣言，而声称DeepSeek为传谣道歉，则有诸多的不合理之处。此次假新 闻的信息中没有任何一句明确指出DeepSeek的道歉渠道，声明中所提及的法律判决书，在中国裁判文书网上检索显示无数据。 追溯"道歉"新闻源头，或许来自于一则社交媒体中的帖子，但看图片内容可知，道歉的主体是"AI聊天助手DeepSeek"。 | 昨天 博君一肖iPhone客户端 ...

作 者丨 肖潇、王俊、章驰、陈勇杰 编 辑丨王俊 2025年，被称为"智能体元年"。这是AI发展路径上的一次范式突变：从"我说AI答"到"我说AI 做"，从对话生成跃迁到自动执行，智能体正成为最重要的商业化锚点和下一代人机交互范 式。 但越接近落地，风险也越有实感。智能体的核心能力——自主性、行动力，也恰恰是风险滋 生的窗口。越能干的智能体，越可能越权、越界，甚至失控。 结合调查问卷和行业访谈，本次《智能体体检报告——安全全景扫描》 从最新发展状况、合 规认知度、合规实际案例三个角度 ，试图回答清楚一个关键问题：智能体狂奔之时，安全合 规是否就绪了？ 容错性与自主性为核心考量指标 作为市场最火热的概念，今年资本市场及公司动态几乎都与智能体挂钩。但不少讨论中的智 能体定义混乱，以至于一千个人眼中有一千个智能体。 如果仅停留在单一角度分类智能体是非常片面的，为了更全景地认知理解智能体，我们广泛 地调研了从业者，认为可以从"容错性"、"自主性"两个维度划定坐标轴，建立智能体的价值生 态。 X轴是"容错性"，我们认为这是智能体未来发展的核心竞争指标 。容错性低，通常意味着出 现错误后果严重，其使用场景需要更准确的信息 ...

2025年，被称为"智能体元年"。这是AI发展路径上的一次范式突变：从"我说AI答"到"我说AI做"，从对 话生成跃迁到自动执行，智能体正成为最重要的商业化锚点和下一代人机交互范式。 但越接近落地，风险也越有实感。智能体的核心能力——自主性、行动力，也恰恰是风险滋生的窗口。 越能干的智能体，越可能越权、越界，甚至失控。 结合调查问卷和行业访谈，本次《智能体体检报告——安全全景扫描》从最新发展状况、合规认知度、 合规实际案例三个角度，试图回答清楚一个关键问题：智能体狂奔之时，安全合规是否就绪了？ 容错性与自主性为核心考量指标 作为市场最火热的概念，今年资本市场及公司动态几乎都与智能体挂钩。但不少讨论中的智能体定义混 乱，以至于一千个人眼中有一千个智能体。 如果仅停留在单一角度分类智能体是非常片面的，为了更全景地认知理解智能体，我们广泛地调研了从 业者，认为可以从"容错性""自主性"两个维度划定坐标轴，建立智能体的价值生态。 X轴是"容错性"，我们认为这是智能体未来发展的核心竞争指标。容错性低，通常意味着出现错误后果 严重，其使用场景需要更准确的信息捕捉、归纳、整合能力，更少的幻觉和错误决策，更稳定的执行任 务能 ...

出品｜虎嗅科技组 作者｜宋思杭 编辑｜苗正卿 头图｜视觉中国 近日，一则消息在网络上引发热议。有媒体称，"DeepSeek就AI模型违规关联王一博与'李爱庆腐败案'，作出道歉。" 该媒体还表示，"DeepSeek 方面表示，因内容审核疏漏，平台在回答用户查询时，引用未经证实的网络谣言，将王一博案与首创集团原董事长李爱庆案件进行不当关联，对 其名誉造成侵害，DeepSeek已永久撤回相关失实信息，并援引北京市第三中级人民法院（2025）京03刑终174号刑事判决书明确。" 然而，经虎嗅多方核查发现，DeepSeek 官方微信公众号、官方网站、官方 X 账号（前 Twitter）等所有官方社交媒体平台，均未公开发表过任何 道歉声明。虎嗅进一步检索所有有关 "DeepSeek 就违规关联王一博与李爱庆腐败案道歉" 的新闻报道，发现没有任何一则新闻明确指出 DeepSeek 的道歉渠道，也未出现相关道歉声明的截图。 事情的戏剧性不止于此。该事件的诡异之处在于，全网几乎都认定 DeepSeek 进行了道歉。大量自媒体、网络新媒体乃至传统媒体，都在第一时 间跟进报道了这条不实消息。 以笔者个人经验而言，在日常写作工作中， ...

编辑｜苗正卿 头图｜视觉中国 近日，一则消息在网络上引发热议。有媒体称，"DeepSeek就AI模型违规关联王一博与'李爱庆腐败案'，作出道歉。" 该媒体还表示，"DeepSeek方面表示， 因内容审核疏漏，平台在回答用户查询时，引用未经证实的网络谣言，将王一博案与首创集团原董事长李爱庆案件进行不当关联，对其名誉造成侵害， DeepSeek已永久撤回相关失实信息，并援引北京市第三中级人民法院（2025）京03刑终174号刑事判决书明确。" 然而，经虎嗅多方核查发现，DeepSeek 官方微信公众号、官方网站、官方 X 账号（前 Twitter）等所有官方社交媒体平台，均未公开发表过任何道歉声明。 虎嗅进一步检索所有有关 "DeepSeek 就违规关联王一博与李爱庆腐败案道歉" 的新闻报道，发现没有任何一则新闻明确指出 DeepSeek 的道歉渠道，也未出 现相关道歉声明的截图。 事情的戏剧性不止于此。该事件的诡异之处在于，全网几乎都认定 DeepSeek 进行了道歉。大量自媒体、网络新媒体乃至传统媒体，都在第一时间跟进报道 了这条不实消息。 不仅如此，虎嗅向市面上的所有 AI 大模型询问该事件，得到的回答竟出 ...

北邮网安团队 投稿 量子位 | 公众号 QbitAI 风险缺口：长链CoT放大"误差滚雪球" 推理大模型（RLLMs）能把复杂问题拆解成几十步推理，再给出看似缜密的结论。然而，随着推理链条变长，一个令人不安的趋势浮出水面 —— 错误不再是偶发失误，而是沿链条滚雪球式放大 。 在医疗、金融、法律等高风险场景，一次细小偏差就可能酿成灾难。 当推理链从3步延伸到50+步，幻觉率暴增10倍；反思节点也束手无策。 遗憾的是，当前安全评估几乎都停留在结果级：判定答案对错、衡量毒性与否，犹如"考试只看最后分数"。 这种做法忽视了一个关键问题： 错误到底是如何在链内生根、扩散并固化的？ 如果无法洞察这一机制，就难以对症下药。 北京邮电大学的研究团队为解决这一问题，采取了以下方法： 来自北京邮电大学的研究团队通过 思维链审计实验 ，首次定量揭示了这一"越想越错"现象背后的元认知偏差： 长链推理中的反思不是纠错机制，而是给幻觉颁发"理性证书"—— 模型为保持与用户提示语义一致， 宁可篡改协议定义也不否定前提 。 首先 基于RFC协议文档构建受控知识域 ，再让模型生成 30–60步 的长链推理，并在关键节点插入reflection ...