智能投顾的大模型应用,为什么选择了“大小模型协同”?
AI前线·2025-06-15 03:55
采访嘉宾|尹辰轩,北银金科高级算法专家 编辑|罗燕珊 大模型时代,金融行业依然站在技术革新的前沿。而在智能投顾这一高度合规、专业性极强的场 景中,大模型的落地不仅是技术挑战,更是业务安全的严峻考验。面对挑战,北银金科采用了"大 小模型协同"的架构思路,尝试在性能、准确性与合规之间找到更优平衡。 "大模型投顾落地的最大技术挑战,在于如何在高合规门槛的业务中避免幻觉和误答。" 北银金科 高级算法专家尹辰轩 表示 , 金融业务不像通用问答那样容错率高,一旦输出带有承诺收益或判 断错误的内容,不仅影响用户决策,更可能带来法律风险。 在这种背景下,大小模型协同成为一条更为稳妥的路径。一方面,它限制了大模型的职责范围, 主要负责任务扩写与流程编排,核心内容交由小模型完成;另一方面,也提升了整体的性价比 ——在更低算力消耗下,实现更稳定、深入的回答效果。 展望未来,尹辰轩认为,AI 应用架构会逐渐趋于"语言理解 + 工具调用"的组合形态,大小模型协 同也只是更大趋势的一部分。 关于"大小模型协同"的相关思路及其在金融领域的应用情况,尹辰轩近日在接受 InfoQ 采访时做 了简要阐述。更多实践细节他将在 6 月 27~28 ...