LIVE INDEX / 最新文章
斯坦福大学等顶尖机构联合发布:大语言模型架构的"减速新方案",谁说速度总是胜利?

斯坦福大学等顶尖机构联合发布:大语言模型架构的"减速新方案",谁说速度总是胜利?

这项由上海人工智能实验室等多家国际机构联合完成的研究系统性地梳理了大语言模型高效架构的最新进展。论文将创新方法分为七大类:线性序列建模、稀疏序列建模、高效全注意力、稀疏专家混合、混合架构、扩散语言模型和跨模态应用。研究揭...