LLM 提示缓存与语义缓存的区别与配合方式

ByteByteGo 撰文对比 LLM 应用中的提示缓存与语义缓存：前者复用共享前缀的 KV 状态，按前缀匹配，Anthropic 标准缓存读取价为普通输入价的 1/10；后者用嵌入向量检索相似问题的已有答案，命中可省去模型调用。