- 博客(6)
- 收藏
- 关注
原创 (五)造自己的轮子:LLaMA-Factory微调一条龙
本文介绍了如何使用单张显卡(如RTX 3060)微调7B大模型的全流程,重点包括: 微调原理:利用预训练基座模型,通过LoRA/QLoRA技术仅更新少量参数,使模型适配特定任务,大幅降低计算需求。 硬件要求:最低RTX 3060(12GB显存)可QLoRA微调7B模型,推荐RTX 4090(16GB+)获得更好效果。
2026-06-21 16:52:52
437
原创 (四)赋予手脚:从Function Calling到Multi-Agent
文章摘要: 本文介绍如何通过Function Calling机制让AI模型具备执行任务的能力(如搜索、计算、发邮件等),而非仅限文本问答。核心步骤包括:1) 定义工具及其参数;2) 模型选择工具并生成调用参数;3) 执行工具并返回结果。教程以百度搜索(免API Key)和计算器为例,演示了LangChain框架的ReAct Agent实现,并强调生产环境需注意权限控制与安全。
2026-06-17 18:23:05
171
原创 (三)接上外脑:从零搭建RAG系统
本文介绍了如何从零搭建一个检索增强生成(RAG)系统,让大模型能够基于用户提供的私人文档回答问题。RAG的核心流程包括:文档分块、向量化存储、检索相似文档块,并将相关内容拼接到提示词中供大模型生成回答。文章提供了不到40行的核心代码实现,使用SentenceTransformer进行文本嵌入,ChromaDB作为向量数据库。关键优化点包括分块策略、嵌入模型选择、检索数量控制等,并推荐使用Ragas进行量化评估。对于复杂场景,建议采用RAGFlow或LlamaIndex等框架。
2026-06-16 17:51:42
470
原创 (二)拆解黑盒:从d2l-zh到nanoGPT
从d2l-zh到nanoGPT:两阶段吃透Transformer。先跟d2l-zh敲完注意力机制,再用nanoGPT跑通训练并生成莎士比亚风格文本。走完这步你能手写简化版GPT,理解token、embedding、attention的真正含义。
2026-06-16 08:31:32
491
原创 (一)站稳脚:用Scikit-learn跑通第一条Pipeline
用Scikit-learn跑通第一条ML Pipeline:从泰坦尼克号CSV出发,走完数据加载→特征工程→随机森林训练→评估全流程。20行代码理解"读数据→训练→评估"这个基本循环。
2026-06-15 21:41:36
370
原创 (零)先磨刀:30分钟搭好你的AI学习环境
30分钟搭好AI学习环境:装Python 3.11+ → 装Ollama跑通qwen2.5:7b模型 → 克隆d2l-zh教科书 → 配好VS Code插件。三件事做完,你就有了一套可用的AI学习基础设施。
2026-06-15 21:36:23
518
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅