京产大模型成果登上国际顶级期刊

2018年以来，GPT采用"预测下一个词元（Next-token prediction，NTP）"的自回归路线，实现了语言大 模型重大突破，开启了生成式人工智能浪潮。而擅长同时处理文字、图片、视频等多种形态信息的多模 态模型主要依赖对比学习、扩散模型等专门路线。在此背景下，一个重要问题困扰行业数年：能否用一 种简单、统一的方法即自回归路线，让AI（人工智能）同时学会高效地处理文字、图片和视频？ 智源这项名为"通过预测下一个词元进行多模态学习的多模态大模型"的成果给出了肯定的答案。该成果 表明，只采用自回归路线，就可以统一多模态学习，训练出优秀的原生多模态大模型，这对于确立自回 归成为生成式人工智能统一路线具有重大意义。 （来源：千龙网） 值得一提的是，基于这一核心路径的迭代版本Emu3.5模型，已展现出对物理世界运行规律的初步学习 与模拟能力，能够尝试预测场景的下一步变化，为发展更通用、更接近人类认知方式的大模型与智能体 奠定了基础。 当地时间1月28日，北京智源人工智能研究院的一项突破性研究成果在国际顶级学术期刊《自然》 （Nature）上线，这是我国科研机构主导的大模型成果首次在《自然》正刊发表。 据悉， ...