打破西方思维局限，防范化解人工智能伦理风险，需要主动预防及构建制度化措施。尤其是着眼未来， 立"东方魂"，坚持"以人为本""智能向善"，促进人工智能算法的不断完善 文 |《瞭望》新闻周刊记者 毛振华 筛选海量信息分析出用户的健康隐私、招聘系统由于数据偏差歧视特定群体、智驾系统判断失误酿成交 通事故……近年来，通用人工智能赋能千行百业，在给大众生活带来切实便利的同时，也暴露出伦理风 险。尤其是在西方技术逻辑下，通用人工智能的伦理风险有被进一步放大的趋势。当前亟待为通用人工 智能装上伦理"导航仪"，注入"中国智慧"。 在北京石景山区中关村科幻产业创新中心，工作人员展示动作捕捉技术（2025 年 6 月 20 日摄） 郑焕松 摄 / 本刊 伦理风险难回避 伦理问题的本质，是技术发展与社会规则之间的冲突。尽管通用人工智能的自主决策能力远超传统工 具，但这并不意味着它可以随心所欲，仍需在制度框架内合理运行。 人工智能还颠覆了传统的"行为—责任"，即"谁犯错谁担责"的责任伦理观念。比如在智能辅助驾驶事故 中，往往不易确切判断是哪个具体技术环节出现故障或过错，确定承担责任的主体存在困难。 人工智能编制的算法也存在不平衡，如 ...

"我用AI写文章，其中有些案例很好用，但没想到居然是胡编乱造的。""我找AI帮我推荐楼盘，它说得 有理有据，结果发现根本没有这个项目。"……这些用户反馈，反映出人工智能技术快速发展带来的治 理难题。 随着AI大模型、生成式AI等技术在各领域的广泛应用，幻觉输出、数据偏见、隐私泄露等风险也在凸 显。如何在使用AI技术提升效率的同时，确保其安全可靠运行，成为全球范围内亟待解决的重大治理 课题。 作为中国人工智能产业高地，上海在AI治理领域率先探索，通过政策规范、企业协同与技术驱动，逐 步构建起贯穿全生命周期的AI安全治理体系。从全国首部AI地方性法规的出台，到企业自主治理实践 的创新，再到技术治理工具的研发，上海的探索为全国AI治理提供了重要参考。 《上海市促进人工智能产业发展条例》的创新之处在于设立了"激发创新活力"的专门条款，对处于探索 阶段的新业态给予一定的制度探索和试错空间 人工智能的治理体系适用于"木桶原理"，任何一块短板都会影响整体效果 头部企业如腾讯、蚂蚁集团等互联网企业成立AI伦理委员会，建立定期审查机制；百度构建可信AI技 术体系，参与全球规则对话……企业正逐步将治理要求转化为竞争优势，为上海A ...

这份名录品类五花八门，工具类、生成类、聊天类都有。其中聊天机器人占比接近 40%，辅助代码类的也超过了 20%。 甚至不乏曾经的明星产品：比如 Neeva，曾经一度叫板 Google，要用 AI 重塑搜索体验，现在也埋了。 成功的原因各有长处，但失败的原因都如出一辙：几乎都是套壳产品。这些套壳产品千奇百怪：有生成名人肖像的 MaskrAI，辅助决策的 Oinionate，都 聚焦在非常具体而微小的场景上。 AI 应用赛道最多的是什么？答案有点地狱：墓碑。 A16z 最近有过暴言：上线48 小时内，如果你的 AI 产品没有火遍社交网络，那就等于死了——48 小时，那可不得尸横遍野。 AI 坟场在冒烟 AI 应用的高淘汰率，倒一直都居高不下。国外一个叫 Dang.ai 开了一个版面，就叫「AI 坟场」，整理了一套产品名录里。其中有 1289 个产品是关闭，或 者停止运营的状态，主要是国外的产品，光 2025 年，就新增了两百多个。 这是 AI 产品的一个大坑：以 AI 搭讪台词生成器「AI Pickup Lines」为例：它号称每天可免费生成 10 条搭讪句子，付费订阅则解锁无限生成，庞大的搭 讪语料库。 在 2 ...

「 如何制造和利用涌现是这个时代的主脉络。 」 文 ｜ 于丽丽 一个酷热的星期天下午，在北京海淀五道口的启迪大厦，我第一次见到问小白的创始人李岩。 言辞间，他有种过度的客气。"我是一个沉浸在技术和产品的i人，所以对外打交道并不娴熟。"他如此归因。 他说，他更希望产品可以说话，而自己可以躲在幕后。但显然，这个时间点还没有到来。作为创业者，他需要资源，就要学会 说服别人。 李岩，85后，先后就读于华科大软件学院和中科院计算技术研究所。毕业后，他先是加入腾讯，后于2015年加入尚在民宅中 办公、规模仅在30人左右的快手。 他是快手AI体系的核心构建者。在当时快手CEO宿华支持下，他组建了快手的第一个深度学习部门，后来这个部门演变成快手 的MMU部（多媒体内容理解），并负责文字、语音、图像等多种模态的模型研发。 2023年，李岩加入AGI创业的洪流。在当时的诸多创业者中，有投资人认为李岩创立的元石科技是唯一有能力整合「搜索、推 荐、多模态」三大核心技术栈的团队。 两年间，元石先后拿到快手联合创始人宿华、红点创投以及经纬创投的数千万美金的种子轮融资，以及渶策资本领投的第二轮 融资，共计约5000万美金。 值得一提的是， ...

作者 | 李冬梅 采访嘉宾｜郭伟、汪晟杰 6 月 24 日，谷歌云官宣将 A2A（Agent-to-Agent）协议捐赠给了 Linux 基金会，消息一出引发了 AI 行业地震。这份包含智能体交互协议、SDK 和开发者工具的开源礼包，背后站着亚马逊、微软、思 科等科技巨头组成的"全明星"阵容。 Google Cloud 副总裁兼商业应用平台总经理 Rao Surapaneni 表示："通过与 Linux 基金会和领先的 技术提供商合作，我们将在值得信赖的开放治理框架下，实现更具创新性和价值的 AI 功能。" 在外界看来，谷歌云捐赠开源 A2A 的决策有点耐人寻味。在 Reddit 平台，有评论认为谷歌这么做是 对 Anthropic MCP 协议、OpenAI 函数等竞品的战略应对，但同时也揭示了行业共识：智能体经济需 要共建底层规则。 也有用户认为，MCP 已经起飞了，A2A 才开始追赶。 甚至有人厌倦了谷歌，认为 A2A 不会成功。 在 A2A 协议引发热议的同时，MCP 已经在企业级市场悄然生根。与 A2A 侧重智能体间通信不同， MCP 解决的是更基础的问题：如何让 AI 模型安全高效地调用现实世界中 ...

【环球网科技综合报道】7月7日消息，据外媒报道，曾几何时，世界上的技术专家们竞相打造"AGI"。 但现在，行业领袖们正在提出一个新的、甚至更雄心勃勃的目标："超级智能"，其定义为人工智能不仅 能与大多数人平起平坐，而且在所有任务上甚至比所有人类都做得更好。 本周早些时候，Meta 首席执行官马克·扎克伯格将超级智能推向主流，并将其列为其赢得人工智能竞赛 战略的重点。这是自元宇宙诞生以来扎克伯格最新的重大转变，他正投入数十亿美元打造先进的人工智 能产品，其中包括组建一个致力于超级智能目标的新团队，并向研究人员提供数百万美元的巨额薪酬。 来源：环球网 微软最近将其在医疗诊断人工智能领域的最新突破定位为"迈向医疗超级智能的一步"。 蒙特利尔大学计算机科学教授、人工智能领域"教父"之一约书亚·本吉奥表示，虽然企业炒作新的人工 智能流行语有很多商业动机，但"科学现实"是，我们正朝着超级智能的方向发展。 不过外媒强调，超级智能的出现带来了令人兴奋的商业机会，但如果一切按计划进行，也会带来严重的 风险。 "超级智能的问题在于，无论谁控制了它，谁就拥有了凌驾于其他所有人之上的强大权力，"本吉奥说 道。他的新非营利研究实验室 ...

henry 发自 凹非寺 量子位 | 公众号 QbitAI 学好数理化，走遍天下都不怕！ 这一点这在大语言模型身上也不例外。 大家普遍认同：具备更强数学能力的模型往往也更智能。 但，常识就是用来打破的。 最近，来自CMU的团队发现，一些数学好的模型并没有将它们的"天赋"带到其他更加通用的领域。 研究发现， 只有用强化学习（RL）训练的模型才能将数学推理技能广泛迁移到其他任务上。而用监督微调（SFT）训练的模型则表现出有限 的迁移甚至没有迁移。 网友直呼：又一个 苦涩的教训（bitter lesson） 。 这数学题，不做也罢？ 很明显，人们训练大模型并不只是让它来做数学题的。 研究者之所以热衷于提高模型的数学表现，是因为希望它能够把数学那里学到的严密逻辑应用到其他更广泛的领域。 但在此之前，我们有必要知道，对于一个大模型，专门优化数学推理（math reasoning），它在其他任务（推理任务、非推理任务）上会变 得更好，还是更差？ 换句话说： 做数学推理训练，会不会帮助或者损害模型在其他领域的能力？ 为了解决这一疑问，研究评估了20多个模型在数学推理、其他推理任务（包含医学推理、医学推理、智能体规划）和非推 ...

不圆 发自 凹非寺 量子位 | 公众号 QbitAI DeepSeek推理要详细还是要迅速，现在可以自己选了？ 来自特拉维夫大学的研究团队开发出了一种新方法，可以 监控和控制LLM中的思考路径长度 。 超频能够减少不必要的推理步骤，使模型更快地得出结论，同时避免因过度推理导致的性能下降。 该模型已在gitHub上开源。 给LLM的推理任务装上进度条，还能控制推理的深度、调整推理速度。 加速后的模型和原模型相比， 使用的token数减少了近6倍，且都得出了正确答案 。 LLMs在显示结构化推理时，会隐式跟踪其在思考阶段的相对位置，并通过隐藏状态编码这一信息。 而论文提出了一种"思维进度向量"（Thinking Progress Vector, TPV ），可用于实时预测模型在推理阶段的相对位置，并通过可视化进度条 展示模型的推理动态。 通过干预TPV，可以加速或减速模型的推理过程，实现"超频"（overclocking）和"降频"（downclocking）。 方法：实时监控并控制推理深度 在有效推理学习过程中，模型必须 隐式地学习跟踪其思考阶段进度 ，并保持对例如距离最终答案有多近的估计。 由于进度跟踪依赖于 ...

目前有两个核心产品，一个是 Syft AI，和 Particle 有点类似，个性化 AI 新闻助手，实时精选并摘要全球 与本土新闻内容。 根据其官网的信息， Toki 在全球已经超过了 300 万用户，其目标是成为一个终极 AI 时间管理工具，整个 产品上线还不到 1 年时间 。 饿了么联合创始人 Raymond Wang（汪渊）在离开饿了么后，在 2023 年联合创立了 Orion Arm AI，这是 一个专注于打造直觉式、创新驱动型工具的 AI 企业，有点类似 AI Studio 的感觉。 不过让我觉得比较有意思的是第二款产品 Toki AI，产品的核心理念是 让用户能够通过自然语言与 AI 助手 对话，轻松管理日程安排 。之前叫 Dola，产品非常简单， 简单说就是 AI 日历+Reminders 。 比方说在添加日历提醒这块，你可以直接通过语音一句话即可添加新的日历，不必自己手动打字和选择日 期时间；也可以发文字甚至上传图片，之后 AI 在分析这些内容后自动添加日历的具体信息，比方说直接把 你预定的机票发给它，让添加日历不再是一个需要单独去操作的一个事情。 其次就是 Reminder 提醒功能，这里它 ...

文 | 刘婧琼 编辑 | 阿至 2025年6月25日，36氪联合云道资本举办了 「给AI装上身体，具身智能何时能迎来'ChatGPT时刻'」OpenTalk 直播活动 ，特邀 小苗朗程管理合伙人方正 浩、尧乐科技创始人兼CEO吕莉蕴、灵御智能创始人兼CEO金戈 ，三位嘉宾就具身智能与AI的投资逻辑、具身智能关键基设——柔性触觉传感器、具身 智能从L0到L4的渐进式发展路径等多方面展开了深入分享，并与观众进行了在线互动。以下是本场直播的干货总结，欢迎阅读、分享与收藏。 具身智能与AI的投资逻辑 分享嘉宾：方正浩｜小苗朗程管理合伙人，复旦大学理学学士，中欧国际工商管理学院EMBA。负责公司投资、研究、渠道开发体系搭建。曾 就职于海外对冲基金，协助管理比尔·盖茨家族基金等海外机构投资人资产，具有超过10年投资研究经验。 主导及参与的投资案例包括:实朴检 测（301228.SZ）、慕帆动力，奥创光子、跃迁引擎、穹彻智能、松延动力、西湖机器人、光本位，云轴信息ZStack、赛卓电子等。 分享关键词：#具身智能 #人形机器人 #人工智能 方正浩认为现在具身智能的AI能力还处在GPT3时代，还未完成数据采集和预训练的问题， ...