3DDRAM

Search documents
国泰海通:NPU+3DDRAM或成端侧AI下一代技术趋势 推荐兆易创新(603986.SH)
智通财经网· 2025-05-27 08:23
智通财经APP获悉,国泰海通发布研报称,DRAM制程微缩放缓背景下,3D架构转型与NPU协处理器 结合将成为端侧AI发展的关键技术路径。研报指出,当前AI端侧推理速度的瓶颈在于内存带宽而非算 力,而3DDRAM通过混合键合技术可显著提升传输效率(如800GB/s带宽下高通骁龙8GEN3的推理速度 可从4.8 tokens/s跃升至57 tokens/s)。NPU作为协处理器的运用叠加3DDRAM极有可能是下一代的端侧技 术趋势,给予行业"增持"评级,推荐兆易创新(603986.SH)。 DRAM制程微缩放缓,长远命题在于从2D转向3D架构 以高通骁龙8GEN3为例,其NPU算力约45 TOPs,内存带宽约为67 GB/s,若运行7B大模型,代入前述 公式得到计算能力限制约3215 tokens/s,内存带宽限制约4.8 tokens/s,最终速度取两者中的最小值,确 保实际推理不受硬件瓶颈限制,而其内存限制瓶颈明显远大于计算限制。DRAM+NPU通过HB堆叠的形 式合封,该行假设以800 GB/s的内存带宽代入上述高通骁龙8GEN3的问题,内存限制将提升至57 tokens/s。中国大陆玩家兆易创新及其投资子 ...
未知机构:国泰海通电子高通NPU3DDRAM专家交流takeaways-20250506
未知机构· 2025-05-06 01:40
【国泰海通电子】高通NPU+3DDRAM专家交流takeaways 1、高通合作验证节奏:今年一季度正式立项,完成了国内供应商验证,预计6月底回片后进行合封、测试、良率 和功能评估,明年2-3月送样手机厂商,9-10月推出手机市场; 2、应用层面升级:高通骁龙8 Elite旗舰机标配LPDDR5x,带宽85GB/s,升级3DDRAM后可超过 1T。 目前配合验证的产品带宽在256GB/s, 【国泰海通电子】高通NPU+3DDRAM专家交流takeaways 1、高通合作验证节奏:今年一季度正式立项,完成了国内供应商验证,预计6月底回片后进行合封、测试、良率 和功能评估,明年2-3月送样手机厂商,9-10月推出手机市场; 2、应用层面升级:高通骁龙8 Elite旗舰机标配LPDDR5x,带宽85GB/s,升级3DDRAM后可超过 1T。 目前配合验证的产品带宽在256GB/s,速率提升三倍,成本合计上升约60美元,适用计算摄影AI等高端机型; 3、WoW方案优势:相比华邦CUBE,WoW采用hybrid bonding,没有微凸点,堆叠高度更薄,内存带宽和功耗方面 具备优势;且在4层以上堆叠情况下良率优于CUB ...