LIVE INDEX / 红帽
AI成功、安全和虚拟化,红帽的下一步是什么
2026-11-12

AI成功、安全和虚拟化,红帽的下一步是什么

从Linux到容器,再到如今的AI,红帽始终吸收优秀的开源技术,结合自身积累的技术经验,将其转化为企业可用、可靠的产品。从红帽企业Linux、红帽OpenShift、红帽Ansible自动化平台,到如今的红帽AI,都是这...

分布式推理如何保障大模型高效运转

分布式推理如何保障大模型高效运转

文章详细介绍了分布式推理系统如何通过六项关键技术——前缀缓存感知路由、KV缓存卸载、流量控制、批量推理优化、预填充/解码分离及宽专家并行——提升大模型服务效率,并以开源框架llm-d为例说明各技术的协同运作方式。