AI大模型赋能B端应用-高ROI场景将率先实现PMF
-·2025-01-03 08:23
AI 大模型赋能 B 端应用,高 ROI 场景将率先实现 PMF20250101 自 2024 年以来,全球可获取的训练数据有限,加之 OpenAI GPT-5 发布持续延期 等事件,业内开始质疑大模型性能迭代是否遇到瓶颈。我们观察到,随着数据规 模和模型复杂度的增加,大模型的边际效益逐渐放缓,尤其是在训练数据端,全 球优质数据训练已经触及天花板。因此,为了突破这一瓶颈,AI 大模型正在向 合成数据和推理阶段创新两个方向发展。例如,安卓 P 在 2024 年 6 月发布的 Call.3.50 万内使用了合成数据,在多个测试集上表现优于 GPT-4。而 OPPO AI 的大模型通过将计算资源从大规模预训练数据集重新分配至训练和推理阶段,有 效验证了其在推理端的持续有效性。尽管在训练阶段出现暂时的边际效益放缓, 但通过合成数据和推理阶段的创新,大模型性能增长潜力仍然强劲。 大模型推理成本降低有哪些具体表现? 各厂商通过架构和算法创新带动了大模型推理成本的大幅降低。在过去一年中, 上下文长度拓展、MoE(Mixture of Experts)的引入以及异构资源池应用,使 得大模型效率显著提升。例如,根据微软在 20 ...