DeepSeek出圈,AI模型开启终端侧「范式转移」
" 未来,AI智能体就是唯一与终端用户交互的UI。 " 作者丨刘伊伦 编辑丨包永刚 "在资源受限的端侧,有了DeepSeek的蒸馏模型之后,比如原来只能部署7B模型的场景,现在能达到 14B模型的效果,让端侧AI的能力上一个台阶。"芯片工程师哲宇认为DeepSeek的出现对生成式AI的普及 意义重大。 DeepSeek的出现让终端侧AI的表现超越了一年前仅能在云端运行的模型,端侧AI蓄势待发,高通作为连 接和计算领域的领导者,也正在加速终端侧AI时代的到来。 去年,高通公司总裁兼CEO安蒙(Cristiano Amon)就表示, "AI推理正在向数据所产生的边缘侧转移。 边缘侧和终端侧AI实现了AI功能的扩展,提升了AI的性能和效率。 它兼具即时性、可靠性和极低时延。 数据保留在终端, 有助于保障隐私性和个性化。" 最近高通发布《AI变革正在推动终端侧推理创新》白皮书后,高通公司高级副总裁兼技术规划和边缘解决 方案业务总经理马德嘉(Durga Malladi)表示, AI推理和处理正在全面向终端侧转移。 而从硬件、软件 到生态的全面适配,高通将加速终端侧AI时代的到来。 高通也正在引领端侧AI多模态的发展。 ...