人工智能安全治理

Search documents
2024年中国人工智能产业研究报告
艾瑞咨询· 2025-05-23 09:42
人工智能产业丨研究报告 前言: 研究背景: 核心摘要 : 宏观环境 2024年,国家高度重视人工智能发展,将其纳入国家战略,各地政府积极推进科研创新与算力基础设施建 设,并因地制宜出台特色政策。尽管GDP增速放缓,AI技术作为新质生产力,凭借其在提升效率和推动产业 升级方面的优势,展现出广阔发展前景,政府支持也为其提供了强劲动能。资本市场持续关注AI,投资重点 聚焦于语言与多模态模型应用、芯片、算力服务等领域,基础层与应用层协同发展,不断完善产业生态。社 会层面,生成式AI的普及加速了市场教育,公众接受度显著提升,但就业替代、隐私安全等问题仍引发一定 焦虑。技术方面,Transformer架构依然主导大模型发展,研发侧 通过强化学习、思维链优化提升模型推理 能力, 同时加速跨模态融合,并在 推理效率优化和新型注意力机制等方面持续探索, 推动AI产业向更高水 平迈进。 产业动态 1)市场规模增速略低于预期:2024年中国AI产业规模为2697亿元,增速26.2%,略低于预期。主要原因为 大模型在实际业务场景的表现未完全满足客户需求,且建设成本较高,较多项目仍处于探索阶段。 2)算力需求结构性转变:2024年部分 ...
西湖论剑丨5.10 智能体·论剑风暴来袭!「解码智能体DNA」应用创新实践与安全治理
Bei Ke Cai Jing· 2025-04-28 08:37
当大模型能力提升与智能体生态演进形成双重叠加时,应用场景想象空间进一步打开;当欧盟 AI 法案 碰撞中国生成式 AI 管理办法,人工智能正面临着 "安全即竞争力" 的历史拐点。 5月10日下午,杭州安恒大厦,2025中国数谷·西湖论剑大会—— AI智能体应用与安全治理论坛即将启 幕!200位政策制定者、技术爱好者与行业先锋聚首,解锁三大核心命题:应用场景的突破、可信与安 全的挑战、敏捷治理的新范式,更有重磅环节 "智能体・安全论剑" 引燃思维风暴。让我们共同见证 AI 安全新范式的诞生! 一 智能体・安全论剑时刻 来自中国网络空间安全协会人工智能安全治理专委会、中国电子技术标准化研究院网络安全研究中心、 北京邮电大学网络安全学院、浙江大学滨江研究院、深圳市和讯华谷信息技术有限公司 、安恒信息等 产学研的专家齐聚一堂,以三大主题九问AI未来,实现从技术攻坚到政策思辨的全维度破局。 主题一: 应用场景的突破 —— 从技术落地到生态协同的进阶之路 我国与国外智能体在应用场景有什么不同和突破? 智能体协议在跨行业协同中面临兼容性难题有哪些? 主题二: 可信与安全的挑战 —— 全生命周期防护体系构建 国内已出台《生成式 ...