OpenAI API 推出 12 小时提示词缓存,Codex 和 Work 登录用户的缓存永久保留
PANews 10月21日消息,据 OpenAI Developers,OpenAI API 现在支持 12 小时的提示词缓存(prompt caching)。开发者可以把共享的指令、工具和上下文缓存更长时间,即使请求之间隔了几个小时,也能按较低的缓存输入价格计费。
分享至:
相关阅读

Google 开源 TorchTPU,挑战 NVIDIA AI 生态主导地位
PANews 快讯 · 1小时前

阿里云推出 AI 原生搜索产品 CleverSee 覆盖联网、垂域与企业内搜
ChainCatcher · 1小时前

Mistral发布Voxtral 3语音模型系列,推出语音代理SDK
PANews · 10小时前

美国人工智能事务主管称负责任开发AI的建议将很快发布
PANews · 11小时前
快讯
Falari 测试网 v2.4 上线:为 AI Agent 提供链上记忆与自主账户
Falari 官网 · 13小时前

a16z 对话 Circle CEO:区块链如何制衡 AI 时代的中心化?
PANews · 13小时前