瑞莱智慧CEO：大模型形成强生产力关键在把智能体组织起来，安全可控是核心前置门槛 | 中国AIGC产业峰会

编辑部 发自 凹非寺 量子位 | 公众号 QbitAI 随着大模型加速渗透核心行业，其安全可控性正从技术议题升级为产业落地的先决条件。 特别是金融、医疗等关键领域，对数据隐私保护、模型行为可控性及伦理合规提出了更高的 要求。 如何为AI应用构建坚实的防护边界？ 在第三届AIGC产业大会上， 瑞莱智慧CEO田天博士 带来了他们的最新实践。田天博士毕 业于清华大学计算机系，他带领团队致力于人工智能安全和垂类大模型应用。 为了完整体现田天的思考，在不改变原意的基础上，量子位对其演讲内容进行了编辑整理， 希望能给你带来更多启发。 以下为田天演讲全文： AI落地过程中出现大量安全问题亟待解决 无论是深度学习时代还是大模型时代，人工智能在落地过程中已出现大量安全问题亟待 解决。除模型自身问题外，其发展落地还有新的滥用风险。 随着AIGC技术逼真度提升，AI检测系统的重要性将愈发凸显。 目前大模型落地基本上可以分为三步：初步的问答工作流；工作辅助流；深度重构关键 任务流，即实现人机深度协同工作。 可以从系统层面利用像Agent这样的技术，提升模型的可控性和安全性。 大模型形成强生产力关键在把智能体组织起来，安全可控是核心前 ...