- 博客(2)
- 收藏
- 关注
原创 ClaudeCode Prompt-Caching-原理与成本优化
ClaudeCode Prompt Caching 技术摘要 核心原理: 通过KV Cache机制缓存中间计算结果,复用GPU已处理过的上下文数据,减少重复计算量。 成本优化: 首次请求需全量计算(15美元/M tokens) 后续相同上下文请求仅需增量计算(1.5美元/M tokens) 典型场景可降低90%计算成本 技术实现: 缓存Key/Value矩阵而非原始数据 新请求只需计算增量token的注意力 96层Transformer架构每层复用缓存 应用场景: 重复代码补全 文档问答系统 批量数据处理
2026-04-16 17:04:13
505
原创 CoreJava_IO
JAVA中IO结构总图:Java 流在处理上分为字符流和字节流。字符流处理的单元为 2 个字节的 Unicode 字符,分别操作字符、字符数组或字符串,而字节流处理单元为 1 个字节,操作字节和字节数组。Java 内用 Unicode 编码存储字符,字符流处理类负责将外部的其他编码的字符流和 java 内 Unicode 字符流之间的转换。而类 InputStreamRea
2017-11-16 20:38:19
254
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅