新京报讯(记者张璐)北京前瞻人工智能安全与治理研究院近日成立，落户中关村门头沟园"京西智谷"。 作为北京的新型研发机构，研究院将通过开展人工智能安全与治理相关前沿基础理论研究、关键技术研 发、标准规范制定、平台工具构建与服务，有效监测和防范人工智能的技术和社会风险，为企业、社会 和政府提供人工智能安全护栏与安全人工智能模型与服务。 作为北京前瞻人工智能安全与治理研究院的前身，北京人工智能安全与治理实验室于2024年9月揭牌， 在半年多的发展与建设期间，与合作机构共同发布了多项研究成果，比如在技术安全与治理方面，发表 了涉及生成式人工智能大模型面对不同程度压力的行为表现与机理研究、人工智能大模型的安全护栏研 究等；在全球人工智能安全与治理评估与合作方面，联合发布全球人工智能安全指数。 近日，经北京市民政局批复，北京市经信局作为主管单位，北京前瞻人工智能安全与治理研究院成立。 研究院汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大 学等科研团队力量开展深度合作，并联合多家人工智能与安全企业共同开展人工智能安全研究与治理实 践，建立健全覆盖技术研发、风险评估、伦理审查、应急处置的 ...

编辑部 发自 凹非寺 量子位 | 公众号 QbitAI 随着大模型加速渗透核心行业，其安全可控性正从技术议题升级为产业落地的先决条件。 特别是金融、医疗等关键领域，对数据隐私保护、模型行为可控性及伦理合规提出了更高的 要求。 如何为AI应用构建坚实的防护边界？ 在第三届AIGC产业大会上， 瑞莱智慧CEO田天博士 带来了他们的最新实践。田天博士毕 业于清华大学计算机系，他带领团队致力于人工智能安全和垂类大模型应用。 为了完整体现田天的思考，在不改变原意的基础上，量子位对其演讲内容进行了编辑整理， 希望能给你带来更多启发。 以下为田天演讲全文： AI落地过程中出现大量安全问题亟待解决 无论是深度学习时代还是大模型时代，人工智能在落地过程中已出现大量安全问题亟待 解决。除模型自身问题外，其发展落地还有新的滥用风险。 随着AIGC技术逼真度提升，AI检测系统的重要性将愈发凸显。 目前大模型落地基本上可以分为三步：初步的问答工作流；工作辅助流；深度重构关键 任务流，即实现人机深度协同工作。 可以从系统层面利用像Agent这样的技术，提升模型的可控性和安全性。 大模型形成强生产力关键在把智能体组织起来，安全可控是核心前 ...

2025上海车展正如火如荼地进行，许多新车已亮相并开启预定，即将到来的五一假期也将迎来一波购车高峰。那么，5月上市的新车有哪些值得关注？ 智己L6：搭载线控数字底盘技术 智己L6预售权益价为21.99万元—28.99万元，搭载"线控数字底盘技术"。这一技术通过全线控架构的底层革新，实现了全域数字化控制与"大小脑"智能中枢 的深度融合，让出行更安全、更智能、更个性化。车身尺寸方面，新车的长宽高分别为4937×1960×1474mm，轴距为2950mm。 内饰方面，延续家族化的设计风格，怀挡设计、采用了椭圆形全辐的造型方向盘设计、椭圆形的空调出风口造型。木纹饰板为中央圣马丁定制的款式，时尚 而优雅，还有艺术纤维花纱顶棚。车机系统搭载高通骁龙8295芯片控制26.3寸屏和10.5寸触控屏，支持苹果Carplay、华为HiCar和安卓Carlink。 底盘和动力方面，提供Max、Pro Max、Ultra三款配置，其中Max版为单电机后驱，电池容量74kWh，续航里程690km，百公里加速时间5.9s；Pro Max版为 单电机后驱，电池容量100kWh，续航里程850km，百公里加速时间4.6s；Ultra版为双电 ...

当大模型能力提升与智能体生态演进形成双重叠加时，应用场景想象空间进一步打开；当欧盟 AI 法案 碰撞中国生成式 AI 管理办法，人工智能正面临着 "安全即竞争力" 的历史拐点。 5月10日下午，杭州安恒大厦，2025中国数谷·西湖论剑大会—— AI智能体应用与安全治理论坛即将启 幕！200位政策制定者、技术爱好者与行业先锋聚首，解锁三大核心命题：应用场景的突破、可信与安 全的挑战、敏捷治理的新范式，更有重磅环节 "智能体・安全论剑" 引燃思维风暴。让我们共同见证 AI 安全新范式的诞生！ 一 智能体・安全论剑时刻 来自中国网络空间安全协会人工智能安全治理专委会、中国电子技术标准化研究院网络安全研究中心、 北京邮电大学网络安全学院、浙江大学滨江研究院、深圳市和讯华谷信息技术有限公司 、安恒信息等 产学研的专家齐聚一堂，以三大主题九问AI未来，实现从技术攻坚到政策思辨的全维度破局。 主题一： 应用场景的突破 —— 从技术落地到生态协同的进阶之路 我国与国外智能体在应用场景有什么不同和突破？ 智能体协议在跨行业协同中面临兼容性难题有哪些？ 主题二： 可信与安全的挑战 —— 全生命周期防护体系构建 国内已出台《生成式 ...