术语
Cache
Next Token / Wiki

缓存

缓存保存可复用的数据或计算结果,使后续请求不必重新获取或计算全部内容。

定义

缓存保存可复用的数据或计算结果,使后续请求不必重新获取或计算全部内容。

使用场景与易混概念

浏览器资源、数据库查询结果和模型上下文都可能使用缓存。缓存命中依赖内容与系统规则,旧数据还需要更新或失效处理;不同系统中的缓存不能视为同一种机制。

参考资料