OpenAI提供大模型的提示缓存（Prompt Caching）：GPT-4o系列模型输入价格下降一半，访问速度提升80%

Azure OpenAI 的提示缓存功能为处理长提示和重复请求提供了一个非常有价值的优化方案。它通过减少计算延迟和成本，显著提高了模型的效率。