/
超低功耗技术 关键字列表
PrismML发布超低功耗1位大语言模型，力图将AI从云端解放
加州理工学院AI初创公司PrismML发布了1位大语言模型Bonsai 8B，该模型仅需1.15GB内存，在边缘硬件上比同类模型小14倍、快8倍、节能5倍。该1位架构将神经网络权重简化为±1表示，避免了传统低位量化的性能损失问题。公司提出"智能密度"新指标，Bonsai 8B达到1.06/GB，远超其他模型。该技术有望推动AI从云数据中心转向移动设备、机器人等边缘应用场景。
白皮书
京公网安备 11010802021500号
