LIVE INDEX / 至顶网
给语言模型的词表"瘦身":一个不改变输出结果的量化技巧

给语言模型的词表"瘦身":一个不改变输出结果的量化技巧

Q&A Q1:softmax重参数化是什么? A:这是一种针对语言模型输出头的后训练量化方法,通过给输出头权重的每一行减去词表行均值乘以一个可调系数,找到一个数学上完全等价、但更适合量化压缩的权重表达方式,从而在不改...

2026-10-20

从特斯拉 Roadster 技术创新,看光伏组件如何走向“智能”

特斯拉第二代Roadster的首秀,让“跑车”的品类边界被改写了一次。日前,在得州SpaceX测试基地,这款车倒挂行驶、腾空、空中翻转,最后平稳落地。马斯克发布的飞行片段,不到一天就在X上收获超1900万次观看、近50万...