编译 | Tina 安全研究团队 General Analysis 日前警告称，如果你使用了 Cursor 搭配 MCP，有可能在毫不知情 的情况下，把你的整个 SQL 数据库泄露出去——而攻击者仅靠一条"看起来没什么问题"的用户信息 就能做到这一点。 这是"致命三连"攻击模式的典型体现：提示注入、敏感数据访问，以及信息回传全部集中在一个 MCP 中实现。随着 MCP 被越来越多的 Agent 接入，这类看似边缘的配置问题，正在迅速演变为 AI 应用中的核心安全挑战。 一句话，就能让你的私有数据库裸奔 英伟达 CEO 黄仁勋曾描绘过一个令人震撼的未来：企业将由 5 万名人类员工管理 1 亿个 AI 助理。 这个听起来像科幻小说的场景，其实正迅速成为现实。 一切始于 2024 年底，MCP 悄然发布，最初并未引发太多关注。然而，仅仅几个月后，局势便急剧 升温。到了 2025 年初，已有超过 1,000 个 MCP 服务器上线，GitHub 上相关项目迅速蹿红，斩获 33,000 多颗星、数千次分叉。谷歌、OpenAI、微软等科技巨头迅速将 MCP 纳入生态体系，Claude Desktop、Claude Cod ...

中国科学技术大学常务副校长潘建伟表示，未来20年，人工智能与量子计算的融合将成为重塑人类文明 的关键方向。在量子计算领域，目前超导量子计算相对更具优势，但未来可能是光和超导结合的路径。 未来科学大奖十周年庆典7月8日在上海举行。多位科学家围绕"未来20年最具颠覆性的科学变革""未来 50年最具突破潜力的方向"等前沿领域，共话科学未来发展趋势。 上海交通大学李政道研究所所长张杰指出，2022年12月5日，美国实现了净能量增益的惯性约束核聚变 反应，标志着人类首次掌握了可控核聚变能技术，对人类社会向非碳基终极能源的变革具有极其深远的 影响。张杰预计20年内聚变能将走进千家万户，为人类生活带来巨大变革。 上海交通大学李政道研究所副所长丁洪指出，从未来时间维度看，20年内最具颠覆性的当属通用量子计 算机，未来50年则要聚焦AI for Science。 在香港科技大学校董会主席沈向洋看来，大模型是一个涵盖技术、商业、治理等多要素的概念，将赋能 千行百业，而多模态是大模型发展中的重要里程碑，涉及算力、算法、数据等多方面因素。未来，增强 模型的理解和推理能力是融合多模态数据过程中的关键技术难点。同时，如何发展以人为本的机 ...

安全领域的Alpha Go时刻来了，在领先的协同漏洞披露平台HackerOne 上，一个AI工具成为全美第一"黑客"，其表现超越了所有人类参赛者。 这个AI工具是XBOW，它刚完成7500万美元的B轮融资，由Altimeter领投，此前的投资方Sequoia Capital和Nat Friedman再度参投，此轮融资后，XBOW的 总融资金额已达到1.17亿美元。 在2024年7月，XBOW获得了2000万美元种子轮融资，由Sequoia Capital领投，Amjad Masad（Replit创始人）、Michele Catasta（Replit的AI副总裁）、 Olivier Pomel（Datadog创始人）等天使投资人参投。 GitHub Copilot的缔造者，拉着顶尖安全专家用AI发现安全漏洞 XBOW由Oege de Moor于2024年创立，Oege de Moor此前是牛津大学教授，主要研究开发者工具；随后创立了Semmle（现为GitHub Advanced Security）， 致力于帮助工程师在源代码中发现安全漏洞；之后又创立了 GitHub Copilot，这是首个成功应用生成式AI ...

鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI 如果你想知道当自己不再是顶级智慧生物时，生活是什么样子，就去问问一只鸡吧。 被誉为"AI教父"的 Geoffrey Hinton 在最新访谈中，谈及自己穷极一生追求的AI工作，却给出了出乎意料的答案—— 后悔 。 这位曾因儿子患病而选择加入谷歌的科学家，一干就是十年，早已荣誉等身—— 诺贝尔物理学奖 与 图灵奖 ，皆被他收入囊中。 而如今，Hinton站在AI顶峰，话里话外却都是遗憾： 从网络犯罪到超级智能的威胁，Hinton最新列举了多个AI风险，呼吁人类重新审视AI的发展方向。 他警告AI可能带给人类的灾难性后果，甚至建议下一代 "学做水管工" 以避开未来的职业危机。 他的反思不仅是对技术的警醒，更是一场关于人类未来的深刻拷问： 我们是否正在亲手打开潘多拉的魔盒？ 也许是时候，我们也应该像Hinton一样停下来思考了。 为了儿子入职谷歌，现在追悔莫及 在长达一个半小时的访谈中，Hinton首先回顾了自己在AI领域从业几十年以来的心路历程。 从最早20世纪50年代，当时主流倾向于基于逻辑推理和符号表达式的AI方法，而他选择了不被人看好的基于 神经网络 的 ...

7月3日，华尔街见闻从蚂蚁集团获悉，2025 Inclusion·外滩大会科技智能创新赛正式启动，本届大赛聚 焦AI智能硬件、金融智能、AI安全等领域创新应用，设置人工智能硬件科创大赛、AFAC金融智能创新 大赛、2025·全球AI攻防挑战赛等三项赛事单元。 ...

本文由 上海 AI Lab、中国科学技术大学和上海交通大学联合完成 。主要作者包括中国科学技术大学硕士 生杨靖懿、上海交通大学本科生邵帅。通讯作者为刘东瑞和邵婧，上海 AI Lab 安全团队，研究方向为 AI 安全可信。 从 Anthropic 的 Claude 3.5 Sonnet 自带 Computer-Use 功能，到 OpenAI 的 Operator CUA 横 空出世，再到 Manus 直接火爆出圈，现在的 Computer-Use Agent 简直像开了外挂，只需一条指 令，就能独立完成 code project（coding/debug）、处理邮件、刷网页、做 PPT/教案，样样精通！ 但先别着急着欢呼——你有没有想过，把电脑操纵权交给这些「智能」助手，可能跟把银行卡密码告诉 陌生人一样危险？ 为了使 Computer-Use Agent（CUA）在未来能够大规模、安全地部署在实际应用场景中，来自 上海 AI Lab、中国科学技术大学和上海交通大学 的团队强势出手，推出 CUA 安全测试基准—— RiOSWorld ！称得上是 CUA 的「安全体检中心」！该测试基准全面地评估了 Compute ...

Core Viewpoint - Neuralink, led by Elon Musk, aims to revolutionize human interaction with technology through brain-machine interfaces, enabling individuals to control devices with their thoughts and potentially enhancing human capabilities [1][11]. Group 1: Current Developments - Neuralink has successfully implanted devices in seven individuals, allowing them to interact with the physical world through thought, including playing video games and controlling robotic limbs [3][5]. - The company plans to enable blind individuals to regain sight by 2026, with aspirations for advanced visual capabilities akin to those seen in science fiction [5][12]. Group 2: Future Goals - Neuralink's ultimate goal is to create a full brain interface that connects human consciousness with AI, allowing for seamless communication and interaction [11][60]. - A three-year roadmap has been outlined, with milestones including speech decoding by 2025, visual restoration for blind participants by 2026, and the integration of multiple implants by 2028 [72][74][76]. Group 3: Technological Innovations - The second-generation surgical robot can now implant electrodes in just 1.5 seconds, significantly improving the efficiency of the procedure [77]. - The N1 implant is designed to enhance data transmission between the brain and external devices, potentially expanding human cognitive capabilities [80][81].

徐一平 腾讯研究院 高级研究员 王强 腾讯研究院 资深专家 以生成式AI为代表的新技术浪潮日新月异，正带来一场深刻的技术、商业与社会变革，推动人类社会从 信息社会向智能社会转变。全世界热切期待AI到来的同时，也非常关心人工智能将带来哪些新机遇、新 挑战。 为此，我们发起了一项 《AI & Society 百人百问》 研讨，广泛邀请AI技术大咖、AI独角兽创始人、AI 投资人，以及社会学家、心理学家、国际关系专家、科幻作家等，用多元视角，深入研讨人工智能技术 引发的广泛影响，发掘AI时代的共识和非共识，共同推动人工智能始终朝着"助人发展，与人为善"的方 向可持续发展。 本期，我们非常荣幸地邀请到肖仰华老师，为我们开启一次AI的思想远航。 复旦大学计算与智能创新学院教授、博导，上海科学智能研究院AI科学家，上海市数据科学重点实验室主任。长期从事大数据、 认知智能研究。 曾荣获ICDE2024十年影响力论文奖、ACL2023杰出论文奖。发表 CCF-A 、B 类等论文 300 余篇。出版学术专 著与教材三部。曾获华为、阿里、美团等机构的科研奖项。担任 Applied Intelligence 等多个国际期刊副主编或 ...

2025年已过半，我们看到了AI应用的爆发，各种Agent和Vibe Coding工具满天飞，还有一票软硬件结合的AI原生硬件出现。 在工具层，AI安全工具是创业和融资最活跃的领域。最近一个月就有Cyera又获得5亿美元，估值60亿美元；Guardz获5600万美元B轮融资和Trustible获460 万美元种子轮融资等新融资消息。 AI安全工具持续活跃的内在原因，是因为安全是科技行业的根本需求之一，没有安全作为基础，产品和应用的生态就不可能繁荣。 例如，云安全：当云计算越安全，企业将业务部署在云上的信心越足；数据越安全，企业和个人用户越能够无负担的多用AI产品，这就促进了整个应用 生态的发展。 可以这么说，AI安全不是加分项，而是AI应用落地的必要一环。 安全工具已覆盖AI的全产业链 安全技术随着威胁的进化和产品形态的变迁而进化；在过去已经出现了电脑安全，网络安全，云安全等领域，AI安全是最新的。 首先，AI Radar使组织能够通过评估其ML供应链的安全性并迅速识别和减轻风险，从而更安全地部署AI。它通过实时监控和洞察ML系统的攻击面，生成 和更新防篡改的ML物料清单（MLBOM），与SBOM不同，它提供 ...

2025年，AI正式进入大规模商业落地的关键时刻。当AI不再是实验室里的新奇玩具，而是要真正融入企业的核心业务流程时，整个科技界达成了前所未有的共识： AI安全不再是可有可无的"加分项"，而是落地的必要一环 。 谷歌发布了一份《AI智能体安全方法白皮书》，聚焦了当前AI落地的最前沿领域——AI智能体（AI Agent）面临两大的核心风险： • 失控行为风险： 当AI智能体被赋予发送邮件、修改文件、进行交易等实际操作权限后，一旦被恶意"提示注入"攻击，或因误解指令而失控，可能造成不可挽回的 损失。 • 敏感数据泄露： 智能体在处理企业内部数据时，可能被诱导将机密信息通过各种隐蔽方式（如编码在URL参数中）泄露给攻击者。 面对这些挑战，文章提出了系统性的解决方案—— "混合式纵深防御"体系 ，巧妙融合了传统的确定性安全措施与基于AI的动态防御，在保留智能体效用的同时构 建多层安全屏障。 文章认为，传统的安全范式在AI时代已经失效。 为传统软件设计的访问控制过于僵化，会扼杀智能体的效用，而完全依赖AI自我约束同样不可靠，因为当前的LLM仍易受提示注入等攻击手段操纵。这种"效用与 安全"的根本性矛盾，催生谷歌提出了" ...