新京报讯(记者张璐)北京前瞻人工智能安全与治理研究院近日成立，落户中关村门头沟园"京西智谷"。 作为北京的新型研发机构，研究院将通过开展人工智能安全与治理相关前沿基础理论研究、关键技术研 发、标准规范制定、平台工具构建与服务，有效监测和防范人工智能的技术和社会风险，为企业、社会 和政府提供人工智能安全护栏与安全人工智能模型与服务。 作为北京前瞻人工智能安全与治理研究院的前身，北京人工智能安全与治理实验室于2024年9月揭牌， 在半年多的发展与建设期间，与合作机构共同发布了多项研究成果，比如在技术安全与治理方面，发表 了涉及生成式人工智能大模型面对不同程度压力的行为表现与机理研究、人工智能大模型的安全护栏研 究等；在全球人工智能安全与治理评估与合作方面，联合发布全球人工智能安全指数。 近日，经北京市民政局批复，北京市经信局作为主管单位，北京前瞻人工智能安全与治理研究院成立。 研究院汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大 学等科研团队力量开展深度合作，并联合多家人工智能与安全企业共同开展人工智能安全研究与治理实 践，建立健全覆盖技术研发、风险评估、伦理审查、应急处置的 ...