自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

大模型学习

回头看,轻舟已过万重山

  • 博客(6)
  • 收藏
  • 关注

原创 (五)造自己的轮子:LLaMA-Factory微调一条龙

本文介绍了如何使用单张显卡(如RTX 3060)微调7B大模型的全流程,重点包括: 微调原理:利用预训练基座模型,通过LoRA/QLoRA技术仅更新少量参数,使模型适配特定任务,大幅降低计算需求。 硬件要求:最低RTX 3060(12GB显存)可QLoRA微调7B模型,推荐RTX 4090(16GB+)获得更好效果。

2026-06-21 16:52:52 437

原创 (四)赋予手脚:从Function Calling到Multi-Agent

文章摘要: 本文介绍如何通过Function Calling机制让AI模型具备执行任务的能力(如搜索、计算、发邮件等),而非仅限文本问答。核心步骤包括:1) 定义工具及其参数;2) 模型选择工具并生成调用参数;3) 执行工具并返回结果。教程以百度搜索(免API Key)和计算器为例,演示了LangChain框架的ReAct Agent实现,并强调生产环境需注意权限控制与安全。

2026-06-17 18:23:05 171

原创 (三)接上外脑:从零搭建RAG系统

本文介绍了如何从零搭建一个检索增强生成(RAG)系统,让大模型能够基于用户提供的私人文档回答问题。RAG的核心流程包括:文档分块、向量化存储、检索相似文档块,并将相关内容拼接到提示词中供大模型生成回答。文章提供了不到40行的核心代码实现,使用SentenceTransformer进行文本嵌入,ChromaDB作为向量数据库。关键优化点包括分块策略、嵌入模型选择、检索数量控制等,并推荐使用Ragas进行量化评估。对于复杂场景,建议采用RAGFlow或LlamaIndex等框架。

2026-06-16 17:51:42 470

原创 (二)拆解黑盒:从d2l-zh到nanoGPT

从d2l-zh到nanoGPT:两阶段吃透Transformer。先跟d2l-zh敲完注意力机制,再用nanoGPT跑通训练并生成莎士比亚风格文本。走完这步你能手写简化版GPT,理解token、embedding、attention的真正含义。

2026-06-16 08:31:32 491

原创 (一)站稳脚:用Scikit-learn跑通第一条Pipeline

用Scikit-learn跑通第一条ML Pipeline:从泰坦尼克号CSV出发,走完数据加载→特征工程→随机森林训练→评估全流程。20行代码理解"读数据→训练→评估"这个基本循环。

2026-06-15 21:41:36 370

原创 (零)先磨刀:30分钟搭好你的AI学习环境

30分钟搭好AI学习环境:装Python 3.11+ → 装Ollama跑通qwen2.5:7b模型 → 克隆d2l-zh教科书 → 配好VS Code插件。三件事做完,你就有了一套可用的AI学习基础设施。

2026-06-15 21:36:23 518

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除