Refiant AI获500万美元融资,以"自然启发"算法大幅压缩模型能耗
初创公司Refiant获500万美元种子轮融资。该公司研发出“受自然启发”的AI模型压缩算法,能在保持极高保真度的情况下,将模型能耗降低80%以上。其已成功让1200亿参数模型在普通笔记本上运行,旨在解决AI领域的能耗危...
初创公司Refiant获500万美元种子轮融资。该公司研发出“受自然启发”的AI模型压缩算法,能在保持极高保真度的情况下,将模型能耗降低80%以上。其已成功让1200亿参数模型在普通笔记本上运行,旨在解决AI领域的能耗危...
面对私人公司违约率高达9.2%的金融风险,多元宇宙计算提供了新的解决方案。这家西班牙初创公司推出CompactifAI应用和API门户,展示其量子启发压缩技术的能力。该技术可将OpenAI、Meta等主要AI实验室的模型...
西班牙初创公司Multiverse Computing发布了基于量子计算技术的AI模型压缩解决方案CompactifAI。该公司在Hugging Face平台免费开放HyperNova 60B模型,该模型仅32GB大小,...
西班牙AI初创公司Multiverse Computing发布两款超小型AI模型,分别命名为"鸡脑"和"苍蝇脑"。该公司声称这是全球最小的高性能模型,具备聊天、语音和推理能力。这些模型专为物联网设备、智能手机和平板电脑设...
随着AI模型参数达到数十亿甚至万亿级别,工程团队面临内存约束和计算负担等共同挑战。新兴技术正在帮助解决这些问题:输入和数据压缩技术可将模型压缩50-60%;稀疏性方法通过关注重要区域节省资源;调整上下文窗口减少系统资源消...
Multiverse Computing宣布完成2.15亿美元B轮融资,用于加速部署其量子计算启发的AI模型压缩技术。该技术可将大语言模型体积缩小95%而不影响性能表现,大幅降低AI推理成本。公司的CompatifAI技...
微软团队推出名为 BitNet b1.58 2B4T 的 2 亿参数 1 位模型,通过将权重量化为 -1、0、1,实现了内存和运算效率的显著提升,并能在 CPU(如苹果 M2)上运行,但目前仅支持特定硬件。