9月12日下午，以"规范AI内容 共筑清朗生态"为主题的2025外滩大会见解论坛上，蚂蚁数科AI科技产品 总监鲁玮发表主题演讲，从身份伪造、凭证造假等AI滥用风险问题切入，系统介绍蚂蚁在应对生成式 内容风险、黑灰产攻击以及大模型"幻觉"方面的技术实践与治理思考。 展望未来，鲁玮认为，随着具身智能、AI for Science与智能体（Agent）加速落地，AI能力跃升将伴随 更复杂的安全议题，包括人机互动的责任边界、价值对齐与伦理问题等。他呼吁产业、学界与媒体加强 协同，共建规范、透明、可信的AI治理体系。 本次论坛由南方都市报社、南都大数据研究院、中国互联网协会人工智能工作委员会、复旦大学传播与 国家治理研究中心联合主办。 目前，黑产借助AI的凭证造假愈发低成本、规模化。在凭证防伪方面，鲁玮介绍，蚂蚁数科推出"光鉴 智能验真"，通过防伪、质检、识别，最后通过高阶的各种决策，大小模型结合，实现在语义、视觉、 文本、图片多重信息的抽检，最后给出关键的决策，"核心逻辑是保证现在的物理世界里的票据、身 份、凭证是防伪的。" 幻觉同样是大模型应用面临的重要挑战之一。鲁玮认为，AI生成内容幻觉的危害在于滥用人类的信 任 ...