模型压缩 关键字列表
Microsoft研究人员称开发出可在 CPU 上运行的超高效 AI 模型

Microsoft研究人员称开发出可在 CPU 上运行的超高效 AI 模型

微软团队推出名为 BitNet b1.58 2B4T 的 2 亿参数 1 位模型,通过将权重量化为 -1、0、1,实现了内存和运算效率的显著提升,并能在 CPU(如苹果 M2)上运行,但目前仅支持特定硬件。