随着AI（人工智能）技术飞速发展，AI在数据分析、智能交互、效率提升等多个领域展现出巨大的应 用潜力，为解决复杂问题提供了新思路和新方法。但与此同时，这些技术所引发的安全问题也变得愈发 突出。 近一段时间以来，AI换脸成为诈骗新手段、美国人工智能公司OpenAI旗下大模型o3"不听人类指令，拒 绝自动关闭"等相关新闻相继冲上热搜，引起社会高度关注。这些事件不仅凸显了AI技术可能带来的风 险，也引发人们对技术滥用、伦理道德、隐私保护以及安全风险的广泛讨论。 AI技术在安全方面究竟存在哪些隐患？目前主要的防护策略是什么？企业应怎样应对大模型数据安全 领域风险？行业标准又能发挥怎样的作用？带着一系列问题，《每日经济新闻》记者（以下简称 NBD）电话专访了大模型安全行业专家、蚂蚁集团大模型数据安全总监杨小芳。 作为在人工智能安全领域深耕多年的专家，杨小芳深入阐释了当前AI技术的安全现状以及未来发展方 向。她指出，随着AI技术逐步应用，数据隐私、安全攻击门槛降低、生成式内容滥用、AI内生安全不 足等风险正逐渐从理论走向实际。对于正在引入和使用AI技术的企业，建议做好远期部署准备，加速 内部安全制度、流程、检测及防御技术 ...

杨小芳：AI大模型刚出现时，大家更多关注的是模型生成内容的风险，但随着AI技术的逐步应用，风 险也逐渐从理论走向实际，需要我们从多个角度进行关注和审视。 第一是数据隐私风险。比如，训练数据透明度不足，可能会引发版权问题，这个问题亟待解决。另外， 随着大模型被赋予调用各种线上服务的能力，AI Agent（智能体）应运而生，但可能会越权访问用户数 据。比如原本用户只能访问本人的基本信息或账单，但由于服务权限配置不当或安全性不足，可能会使 得恶意用户可以访问其他人的账单等敏感信息。 第二是安全攻击门槛降低的问题。过去，黑客攻击被视为一种技术密集型的安全技术，但大模型的发展 带来了"智力平权化"，人们可以通过自然语言指挥大模型执行攻击指令。加上AI技术快速商业化和安全 投入滞后的矛盾，进一步加大了AI安全攻防对抗的难度。 随着生成式AI（人工智能）技术飞速发展，AI在数据分析、智能交互、效率提升等多个领域展现出巨 大的应用潜力，为解决复杂问题提供了新思路和新方法。但与此同时，这些技术所引发的安全性问题也 变得愈发突出。 近一段时间以来，AI换脸成为诈骗新手段、美国人工智能公司OpenAI旗下大模型o3"不听人类指令， ...