Claude Code缓存机制调整引发用户争议，配额消耗速度加快

Anthropic近期将Claude Code提示缓存的TTL（存活时间）从一小时缩短至五分钟，尽管官方声称此举不会增加成本，但大量用户反映配额消耗明显加快。有用户指出，五分钟TTL对长会话、高上下文的使用场景极为不利。...

AMD发布双V-Cache版Ryzen 9950X3D2处理器

AMD发布新款旗舰桌面处理器Ryzen 9 9950X3D2双版本，配备16个核心和高达208MB的超大缓存池。该处理器是9950X3D的改进版，两个计算芯片组均配备64MB SRAM瓦片，将L3缓存从128MB提升至1...

华为将推出AI SSD缓解GPU内存瓶颈问题

华为即将发布AI固态硬盘，配合统一缓存管理软件，将键值缓存数据从GPU高带宽内存中转移到SSD存储，避免重复计算以提升AI处理速度。该方案采用分层缓存架构，整合GPU内存、CPU内存和SSD存储。华为还将运用Xtreme...

英伟达用分层KV缓存和Dynamo引擎扩展大语言模型内存

英伟达通过Dynamo引擎实现分层KV缓存，将大语言模型的键值对存储从GPU高带宽内存扩展至CPU内存、直连SSD和网络存储。该技术解决了GPU内存不足时向量数据被驱逐需重新计算的问题，通过多层存储架构提升推理效率。Dy...