Meta内部备忘录:全新Avocado成公司迄今“最强能力”大模型

左为王士立(Alexandr Wang)与马克・扎克伯格 据《信息》杂志获取的一份内部备忘录显示,元宇宙平台公司(Meta Platforms)对其新成立 AI 团队即 将推出的首款核心大模型,态度愈发乐观。 这份日期为1 月 20 日的备忘录由 Meta 超级智能实验室(Meta Superintelligence Labs)产品经理梅根・ 傅(Megan Fu)发布,其中明确指出,下一代大语言模型Avocado(牛油果)已完成预训练,是 "Meta 迄今能力最强的预训练基础模型"。预训练是 AI 模型开发的初始阶段,模型需接触海量数据,学习通用 知识、模式与关联关系。 备忘录称,Avocado 的性能已超越当前最优的开源基础模型。(基础模型指仅完成预训练、尚未通过 "后训练" 阶段优化的大语言模型;后训练阶段会通过人类反馈强化学习等技术,针对特定任务对模型 进行精调。)尽管 Avocado 尚未完成后训练,但其在知识储备、视觉感知及多语言能力上,已与顶尖 的后训练模型持平。 作者:乔蒂・曼(Jyoti Mann) 在 Avocado 正式公开发布前,Meta 内部对其 AI 模型进展的乐观评估,能否经受住 ...