瞭望 | 上海设立人工智能安全护栏

"我用AI写文章，其中有些案例很好用，但没想到居然是胡编乱造的。""我找AI帮我推荐楼盘，它说得 有理有据，结果发现根本没有这个项目。"……这些用户反馈，反映出人工智能技术快速发展带来的治 理难题。 随着AI大模型、生成式AI等技术在各领域的广泛应用，幻觉输出、数据偏见、隐私泄露等风险也在凸 显。如何在使用AI技术提升效率的同时，确保其安全可靠运行，成为全球范围内亟待解决的重大治理 课题。 作为中国人工智能产业高地，上海在AI治理领域率先探索，通过政策规范、企业协同与技术驱动，逐 步构建起贯穿全生命周期的AI安全治理体系。从全国首部AI地方性法规的出台，到企业自主治理实践 的创新，再到技术治理工具的研发，上海的探索为全国AI治理提供了重要参考。 《上海市促进人工智能产业发展条例》的创新之处在于设立了"激发创新活力"的专门条款，对处于探索 阶段的新业态给予一定的制度探索和试错空间 人工智能的治理体系适用于"木桶原理"，任何一块短板都会影响整体效果 头部企业如腾讯、蚂蚁集团等互联网企业成立AI伦理委员会，建立定期审查机制；百度构建可信AI技 术体系，参与全球规则对话……企业正逐步将治理要求转化为竞争优势，为上海A ...