当缓存比计算还慢:一个被颠覆的常识
论文研究大模型长文本推理中共享KV缓存反而拖慢速度的问题,提出带宽临界值和固定成本的数学模型,并通过分片存储、独立实例、异步加载及修复关键bug,将极端延迟从83秒降至0.67秒。
论文研究大模型长文本推理中共享KV缓存反而拖慢速度的问题,提出带宽临界值和固定成本的数学模型,并通过分片存储、独立实例、异步加载及修复关键bug,将极端延迟从83秒降至0.67秒。
FDE-Gym是一个评测AI交付企业真实项目能力的新基准,含95个任务、20个行业场景,测试AI能否发现隐藏问题并真正提升客户业务指标,而非仅完成表面需求,结果显示顶尖模型仍远低于专家水准。
视频生成模型提出ForcingBooster框架,通过轻量路由模块让画面中简单区域提前停止去噪、复杂区域继续精细处理,实现去噪步数减少约50%同时画质接近四步基线效果。
3C电子制造的产线形态在过去数年间发生了明显变化:产品迭代周期缩短,同一车间内多型号并行生产成为常态,工位上的抓取对象从整机外壳延伸到PCB板、小型。
11月19日,在第六代AMD EPYC处理器峰会上,芯展速成为首批第六代AMD EPYC适配验证的存储与连接方案合作伙伴。
华硕正式推出ProArt系列全新力作,基于NVIDIA RTX SparkN1X超级芯片的——ProArt GR1X个人AI智能体迷你电脑。
基础设施投资、每颗加速器不断增加的HBM和定制芯片具有真实技术需求,长期合同也提高了短期订单能见度;但三年后的AI盈利能力和估值变化,仍可能影响存储需求,过高的半导体价格也会挤压普通消费者。
11月15日,以“智算力,大模型,新经济”为主题的“第八届中国超级算力大会 ChinaSC 2026”暨中国智能计算产业联盟理事会年会在京隆重举办。
Palo Alto Networks宣布以全股票方式、45亿美元收购AI计算平台Applied Compute,旨在为企业提供开放权重AI模型的训练、定制与安全部署能力,并计划在未来3至5年内自建超过100兆瓦的GPU算...
保时捷与Hedley Studios合作推出550 J电动车,为传奇赛车550 Spyder的80%比例复刻版,双座设计,RS版最高时速80km/h、续航80km,售价约9.1万美元,限量250台,2027年春季交付。
Google发布Gemini Decisions API,基于新Gemini Decision 1模型,支持单次请求评估最多1000个问题,延迟150至250毫秒,定价$0.10/百万输入tokens。与OpenAI同类...
Scout Motors在南卡罗来纳州新工厂引入AI培训系统,工人佩戴AI耳机即可获得实时操作指引,系统还能根据应聘者背景智能推荐岗位匹配,并持续学习每批学员反馈以优化后续培训效果。工厂计划2028年前招募逾4000名员...
Canva推出生成式AI功能总开关,用户可在设置中一键关闭Magic Write、Magic Design等多项AI工具;同时新增选项,允许用户在内容库中优先显示人工创作内容。背景移除等非生成式AI功能不受该开关影响。
纽约市、洛杉矶和芝加哥三大学区官员公开讨论弃用Google搜索,起因是Google宣布学校若禁用其AI产品则无法使用Google搜索。纽约市市长和学区官员指责Google利用垄断地位强推AI,三地学区均表示若Google...
Nvidia第三财季调整后每股收益2.68美元,营收1158亿美元,均超华尔街预期。临时CEO Colette Kress将FY2028营收增长目标从70%上调至75%,并披露3900亿美元基础设施采购承诺,四季度营收指...
Atlassian数据显示,2026年10月AI每单位输出成本降至29.11美元,较9月下降约28%,为连续六个月上涨后首次回落。与此同时,AI生成代码占合并代码比例已升至70%,但瓶颈正从代码生成转向评审、规划与文档环...
英国新云服务商NexGen Cloud任命前Nscale AI基础设施副总裁Dan Thomas为首席基础设施官,同时宣布位于芬兰奥卢的第二个欧洲云区域EU2正式上线,该区域与GleSYS合作开发,提供8MW容量。公司计...
Applied Digital旗下云业务分拆公司ChronoScale与STN达成50/50合资协议,共同开发德州奥德萨数据中心园区,服务一家匿名前沿AI实验室。项目分三期推进,合同总价值75亿美元,ChronoScal...