从智能手机到智能体,芯片厂商竞逐端侧AI
记者从业内了解到,一些端侧AI应用已经崭露头角。例如,当你想要利用AI为你制作一份旅游计划表 时,传统的AI会为你提供一份大众化攻略,但通过端侧AI,它可以自动识别你的日历表中哪些日期、 哪些时段已经安排了其他行程,在制作攻略时会主动避开这些时段,从而提供更合理的出行建议。 无独有偶,联发科在本周发布旗舰芯片时也对端侧AI功能着墨不少。该公司声称,其最新发布的旗舰 芯片率先支持Bitnet 1.58 Bit推理框架,端侧AI能力获得了史诗级的提升,大幅减少AI计算、图像识别 及自然语言处理能力运算对于云的需求,让以往需要依赖云端才能做到的4K超高分辨率文生图、128K 长文本处理、AI写真等功能得以在端侧实现。 近日,高通发布了年度旗舰芯片,在高通负责人的演讲中,频频提到一个关键词——端侧AI。 端侧AI是将AI模型部署在终端设备上,让终端设备具备本地的智能处理能力,无需依赖云端服务器就 能完成一些AI任务。与之相对应的是云侧AI,云侧AI是指将人工智能的模型训练和推理任务放在云端 服务器进行处理。 从名称上就可以感受到端侧与云侧两种AI处理模式的差异,在端侧处理,省去了信息在终端与云端的 交互时间,处理速度 ...