Iterate.ai推出Lifeboat引擎，单GPU运行AI智能体效率提升6倍

Iterate.ai推出面向企业的LLM推理引擎Lifeboat，通过KV缓存优化与公平调度，在单张Nvidia RTX PRO 6000 GPU上实现2048个并发会话，较标准引擎提升最高6倍，并内置基于AMD、Int...