首个全流程国产化类脑脉冲大模型推出

记者8日从中国科学院自动化研究所获悉，来自该所等单位的科研人员首次在国产GPU（图形处理器） 算力平台上完成原生类脑脉冲大模型"瞬悉"1.0的全流程训练和推理，并正式开源了70亿参数版本大模 型，同时开放了760亿参数版本大模型的测试网址。这是全球首个类脑脉冲大模型，实现了全流程国产 化，标志着我国在类脑计算与大模型融合创新方面取得重要突破。 相比传统模型，"瞬悉"1.0展现出四大核心优势：首先，在极低数据量下实现了高效训练，显著提升了 长序列训练效率；其次，推理效率得到数量级提升，特别是在超长序列处理上展现出显著优势；再次， 构建了国产自主可控的类脑大模型生态，支持将现有Transformer模型高效转换为类脑脉冲架构；最后， 设计了多尺度稀疏机制，为低功耗类脑大模型运行提供了有力支撑。 李国齐表示，这项成果不仅是我国在类脑脉冲大模型架构和国产算力全流程建设上的重大突破，更为法 律、医疗、科学模拟等超长序列应用场景提供了更高效的建模工具，也将启迪下一代神经形态计算理论 和芯片设计。 （文章来源：科技日报） 当前，基于Transformer架构的大模型主要依赖简单"点神经元"与大规模算力提升智能，但其训练和推 ...