PrismML发布超低功耗1位大语言模型，力图将AI从云端解放

加州理工学院AI初创公司PrismML发布了1位大语言模型Bonsai 8B，该模型仅需1.15GB内存，在边缘硬件上比同类模型小14倍、快8倍、节能5倍。该1位架构将神经网络权重简化为±1表示，避免了传统低位量化的性能...