面壁MiniCPM4端侧模型发布：长文本推理 5 倍提速，0.5B 模型拿下新SOTA

MiniCPM4.0 -0.5B 在性能上，也展现出惊人的以小博大—— 在MMLU、CEval、BBH、HumanEval等基准测试中，MiniCPM4.0 -0.5B性能秒杀同级 的 Qwen-3-0.6B、Llama 3.2、Gemma3，并通过原生QAT技术实现几乎不掉点的int4量化，实现了 600 Token/s 的极速推理速度。 模型相关链接 https://arxiv.org/pdf/2506.07900 「前进四」速度狂飙，快至220 倍！ 2025 智源大会，新一代「面壁小钢炮」 MiniCPM4.0 端侧模型发布。一款 8B 稀疏闪电版，带来端侧性能创新式大跃升；一款 0.5B 实力演绎以小博 大，适配广泛终端场景。 MiniCPM4.0 -8B 是首个原生稀疏模型，5%的极高稀疏度加持系统级创新技术的大爆发，让长文本、深思考在端侧真正跑起来，宣告了端侧长文本时 代到来。 MiniCPM4.0 -8B 在MMLU、CEval、MATH500、HumanEval等基准测试中，以仅 22% 的训练开销，性能比肩 Qwen-3-8B，超越Gemma-3-12B。 代号「前进四」，小钢炮 Mini ...