OpenAI News·· 8 天前精选AI 评分73
GPT-6 改进 Prompt Caching 机制
Better prompt caching for GPT-6
AI 导读
GPT-6 改进了 Prompt Caching 机制，支持更高的缓存命中率、全新诊断工具以及显式断点控制。这些改进可帮助开发者在调用过程中更精确地管理缓存，从而降低请求延迟和使用成本。
推荐理由
GPT-6 优化了 Prompt Caching 机制并增加了显式断点与诊断工具，有助于开发者在复杂调用场景中进一步降低延迟和成本。
来源：OpenAI News · openai.com