怀特克利夫公园，西温哥华，加拿大
...
你需要知道的AI缓存知识
大模型的价格，主要是 Token 的输入价格和输出价格，这个很容易理解。但是，还有一项"输入 Token 的缓存命中价格"，这是什么东西？上图是 DeepSeek V4 Flash 模型的定价，可以看到缓存命中的输入价格只有2分钱，足足是未命中的输入价格的五十分之一！为什么相差这些大？我们能不能充分利用缓存，来降低费用呢？我对于这些问题，以前也不是很了解，最近看了一篇文章，终于理清了思路，今天就来分享。（1）模型输入的收费原因大家知道，使用大模型的时候，需要先有提示词。大模型会将提示词分解成 Token，再将 Token 转成向量值，然后计算所有 Token 之间的注意力关...