大模型应用面临安全挑战 齐向东建议五个关键筑牢AI安全底线

然而，新技术犹如一把双刃剑，在带来机遇的同时，也面临着诸多挑战。 其次是权限强管控，以用户身份为新边界开展网络和数据安全防护。通过堡垒机、"零信任"等技术措 施，对开发、训练等相关特殊人员和终端进行增强式安全管控。 三是严把内容关，构建贯穿大模型全生命周期的内容安全治理机制。齐向东表示，通过强化监测审计， 实现对大模型的核心数据管控。 在齐向东眼中，大模型应用的安全挑战有三重。第一重挑战是，"小数据"一失万无，"小数据安全"成为 数字经济时代的核心关切。第二重挑战是，大模型融通百业，"裸奔"上线极有可能引发业务停摆的链式 危机。第三重挑战是，对AI过度依赖，善恶真伪难辨别，一旦大模型决策失准会引发"蝴蝶效应"。 在数字经济时代，数据如同驱动发展的"石油"，人工智能则是"发动机"。如今，借助人工智能大模型， 企业通过对设计、生产等数据进行加工处理，形成精华"小数据"，这些"小数据"成为企业核心竞争力所 在。齐向东指出，一旦"小数据"被窃取、泄露或篡改，企业多年积累的优势将瞬间崩塌。 筑牢AI安全底线 面对这些挑战，齐向东认为，要筑牢AI安全的"五个关键"。首先是接入放心用，构建大模型安全"红 域"形成多维度边界 ...