- 博客(307)
- 问答 (3)
- 收藏
- 关注
RSS订阅原创 TransmittableThreadLocal (TTL)介绍和工具类
TransmittableThreadLocal (TTL)介绍和工具类
2026-07-30 12:25:28
203
1原创 Tools使用指南
概念一句话@tool把函数变成 LLM 能调用的工具函数签名决定了 LLM 能填什么参数文档字符串决定了 LLM 什么时候调这个工具把工具注册到 LLMtool_callsLLM 返回的"我想调 XX 工具"信号关联工具调用和结果循环LLM 可以调多次、跨多步，直到给出最终回答。
2026-05-31 17:37:53
240
原创 JVM内存与GC笔记
概念说明from 区上次 GC 存活对象所在的位置to 区空的，这次 GC 要往这挪每次 GC 完from 清空，from ↔ to 互换对象年龄每熬过一次 GC 就 +1晋升阈值默认 15 次（S0/S1 为什么不用一个避免碎片。两个区交替用，每次 to 区是紧凑排列两个 Survivor 都放不下直接升老年代（Handle Promotion Failure）
2026-05-29 15:54:04
227
原创 本地大模型参数详解
引擎负责运行，格式决定存储方式，大小体现能力上限，量化决定你跑不跑得动。四者的关系：用合适的引擎加载特定格式的模型文件，根据模型大小和硬件条件选择合适的量化级别，在质量和性能之间找到平衡点。
2026-05-26 17:47:14
693
原创 召回率与精准率
召回率 = 该捞的捞到了多少（别漏）精准率 = 捞到的东西质量怎么样（别错）ChromaDB：控制 k → 决定召回率上限Rerank： 控制 min_score → 决定精准率关系：k↑ → 召回率↑ 精准率↓min_score↑ → 召回率↓ 精准率↑没有完美参数，只有适合你场景的平衡点。
2026-05-24 15:31:08
226
原创 创建FastAPI项目步骤
即可看到 FastAPI 自动生成的 Swagger 交互式 API 文档页面，可以直接在页面上测试接口。FastAPI 还提供 ReDoc 风格的文档，访问。是一个 Python 包。是一个 Python 包。，注意拼写，不要写成。
2026-05-23 22:13:52
285
原创 uv操作指南
日常用：uv add / uv remove / uv run重装用：rm -rf .venv uv.lock && uv sync查错看：报错信息前五行 + 最后一行三条铁律永远记住：① 只用 uv add，不用 uv pip install② 版本号用 >= 不用 ==③ 出问题就删 .venv uv.lock 重来。
2026-05-21 01:46:29
336
原创 rerank入门指南
Rerank 就是在搜到的结果里再做一次精排安装三步走：□ 1. nvidia-smi 看 CUDA 版本（决定用哪个 PyTorch 源）□ 2. 配好 pyproject.toml（有显卡加 PyTorch 源，没显卡不加）□ 3. uv sync 完事使用一句话：CrossEncoder 打分 → 按分数排序 → 取 top 1。
2026-05-21 01:33:27
284
原创 embedding入门指南
Embedding = 把现实世界的东西（文字、图片、声音）变成一串有意义的数字（向量）。Embedding 就是把文字变成有语义的向量安装方式：├─ Ollama（最简单） ← 推荐├─ sentence-transformers（最灵活）└─ 调 API（不用部署）典型流程：文档 → 切分 → 生成 embedding → 存向量库用户提问 → 生成 embedding → 向量库检索 → 拼 prompt → LLM 回答黄金法则：1. 选一个模型就不要换。
2026-05-20 11:25:56
201
原创 Java开发者转AI应用开发：12周完整学习路线（私有化部署版）
本文档为 Java 开发者量身定制，目标是帮助有 Java 开发经验但不懂 Python 的工程师，在 12 周内转型为 AI 应用开发工程师。全文三个核心方向：RAG 知识库、Agent 智能体开发、多模态 AI。其中 RAG 部分采用全私有化部署方案，所有模型和数据均运行在内网，不依赖任何外部 API。
2026-05-15 14:31:57
688
TA创建的收藏夹 TA关注的收藏夹
TA关注的人