AI Security Governance

Search documents
21评论|破AI安全困局,湾区探新路
2 1 Shi Ji Jing Ji Bao Dao· 2025-09-16 09:22
(原标题:21评论|破AI安全困局,湾区探新路) 广东粤港澳大湾区研究院 研究员 石恩泽、吴佳楠 联合实验室的应运而生,正是直面这些痛点。它并非传统意义上的封闭型实验室,而是一个汇聚"政产 学研用"多元力量的"创新治理联合体"。这种"动态敏捷、多元协同"的模式,本身就是对人工智能时代 治理方式的适应性创新。 同时,联合实验室通过粤港澳政府部门的政策引导以及龙头企业及专精特新企业的技术实践、顶尖高校 院所的研究实力,旨在构建一个开放、共享、协同的生态系统。 9月15日,粤港澳大湾区生成式人工智能安全发展联合实验室(以下简称"联合实验室")在河套深港科 技创新合作区的揭牌成立。 而深圳作为联合实验室的承载地,其人工智能产业规模全国领先、产业链完善、资本活跃,为实验室提 供了得天独厚的沃土。而联合实验室依托河套合作区这一"特区中的特区",其"深港协同"的基因,对于 破解大湾区三地规则衔接、数据流通难题具有天然优势,也为探索中国特色的AI跨境治理提供了宝贵 试验田。 这不仅是大湾区科技协同创新的又一里程碑,更是对当前生成式AI发展关键挑战,即"安全与治理"的一 次有力回应。这标志着在"AI+"浪潮席卷千行百业之际,大 ...
联合实验室可成AI安全治理“桥头堡”
Nan Fang Du Shi Bao· 2025-09-15 23:10
澳门城市大学教授、数据科学学院副院长、联合实验室专家朱天清 "大湾区在发展人工智能方向上有得天独厚的条件!"在澳门城市大学教授、数据科学学院副院长、联合 实验室专家朱天清教授看来,粤港澳大湾区生成式人工智能安全发展联合实验室致力于服务大湾区AI 生态产业的落地,为AI产业保驾护航。 产业布局 是大湾区产业布局中重要一环 朱天清:大湾区拥有众多的高新企业、丰富的高校与研究机构、充足的算力,形成了从基础模型、垂直 应用到安全检测工具的完整产业链。港澳则在金融合规、跨境法务、隐私保护和应用试点上有独特优 势。 同时,生成式AI的快速发展带来了诸多新的安全风险。当前粤港澳大湾区应对生成式AI安全最紧迫的 问题是,跨地域的数据流通治理与合规协调,以及本地化且可信的安全评测体系。 南都:联合实验室在解决这些问题上有哪些独特的资源和优势可以发挥? 朱天清:粤港澳大湾区生成式人工智能安全发展联合实验室的成立是非常及时且必要的,属于大湾区产 业布局中非常重要的一环。其推出的本地化安全评测系统,可以为企业提供一个可信的第三方评测,以 及帮助AI企业进行AI的标准化建设。从长远来看对产业规范化有着极其重要的意义。 联合实验室可以聚 ...
18家企业披露《人工智能安全承诺》实践成果,推动AI安全治理新进程
Huan Qiu Wang· 2025-07-17 10:34
Core Insights - The Chinese Artificial Intelligence Industry Development Alliance has launched the "Artificial Intelligence Safety Commitment" to enhance safety governance in AI, marking a significant step towards systematic and transparent practices in the industry [1][3] - The initiative aims to address the growing safety risks associated with rapid AI development and is aligned with the "Global AI Governance Initiative" [3] Group 1: Initiative Overview - The "Artificial Intelligence Safety Commitment" was released during the 15th plenary session of the Alliance, involving key leaders from the Ministry of Industry and Information Technology and representatives from major tech companies [1] - The commitment emphasizes a human-centered and benevolent approach to AI, contributing a Chinese solution to global AI governance [1] Group 2: Participation and Engagement - As of now, 22 companies have signed the commitment, with 18 actively disclosing their safety measures [3] - The Alliance encourages voluntary participation and self-regulation among enterprises to enhance safety practices [3] Group 3: Key Focus Areas - The initiative outlines six core commitment areas: risk management, model safety, data security, infrastructure security, transparency, and cutting-edge safety research [3] - A total of 20 key safety labels have been identified, covering aspects such as safety team organization, risk management plans, safety risk baselines, red team testing methods, and emergency response mechanisms [3] - The Alliance has publicly shared 43 typical practices from disclosing companies to promote practical actions in AI safety governance [3]