SmallZCan_t的博客

原创 OpenCompass 评测 InternLM-1.8B 实践

原创 XTuner 微调个人小助手认知任务

训练过程微调结果

原创 Llamaindex RAG实践

使用RAG前使用RAG后

原创 LangGPT结构化提示词编写实践

原创 8G 显存玩转书生大模型 Demo

基础任务使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事，记录复现过程并截图。进阶任务使用 LMDeploy 完成 InternLM-XComposer2-VL-1.8B 的部署，并完成一次图文理解对话，记录复现过程并截图。使用 LMDeploy 完成 InternVL2-2B 的部署，并完成一次图文理解对话，记录复现过程并截图。

原创 书生·浦语大模型全链路开源开放体系

2.5概览核心技术思路模型能力飞轮高质量合成数据基于规则的数据构造 基于模型的数据扩充 基于反馈的数据生成基于规划和搜索解决复杂问题书生·浦语开源模型谱系数据开源数据处理工具箱预训练InternEvo微调XTunerOpenCompass评测体系部署LMDeploy智能体Lagent

原创 Python 基础知识

【代码】Python 基础知识。

原创 Linux基础知识

【代码】Linux基础知识。

原创 InternLM实战营笔记与作业合集

笔记：书生·浦语大模型全链路开源体系-优快云博客笔记：浦语大模型趣味Demo-优快云博客练习：浦语大模型趣味Demo--练习-优快云博客笔记：基于InternLM和LangChain搭建你的知识库-优快云博客练习：基于InternLM和LangChain搭建你的知识库--练习-优快云博客笔记：XTuner大模型单卡低成本微调实践-优快云博客练习：XTuner大模型单卡低成本微调实践--练习-优快云博客笔记：LMDeploy大模型量化部署实验_模型量化实验-优快云博客练习：LMDeploy大模

原创 OpenCompass大模型评测--练习

基础作业

原创 OpenCompass大模型评测

为什么需要评测普通用户：了解模型的特色能力和实际效果 开发者：监控能力变化，指导优化模型生产 管理机构：减少大模型带来的社会风险 产业界：找出最适合产业应用的模型，赋能真实场景如何评测主观评测 客观评测 prompt工程OpenCompassOpenCompass能力框架OpenCompass开源评测平台架构OpenCompass评测流水线设计大模型评测挑战缺少高质量中文评测集 难以准确提取答案 能力维度不足 测试集混入训练集 测试标准各异

原创 LMDeploy大模型量化部署实验--练习

从前，有一个小男孩，他总是感到孤独和失落。他觉得自己没有朋友，没有人真正理解他。他觉得自己是一个被遗弃的孩子。有一天，他遇到了一只小鸟。这只小鸟非常友好，它跟小男孩聊了很多，告诉小男孩许多有趣的事情。小男孩开始感到自己不再孤独，他觉得这只小鸟是他的朋友。然而，小男孩很快发现这只小鸟受伤了。它无法飞行，无法找到食物。小男孩决定照顾这只小鸟，他每天都给它喂食，帮助它恢复健康。经过一段时间的努力，小鸟终于恢复了健康。它飞了起来，飞向了天空。小男孩感到非常高兴，他知道这只小鸟是他的朋友，他永远不会被遗弃。

原创 LMDeploy大模型量化部署实验

LMDeploy时LLM在英伟达设备上部署的全流程解决方案。包括模型轻量化、推理和服务。

原创 XTuner大模型单卡低成本微调实践--练习

未完待续。。。

原创 XTuner大模型单卡低成本微调实践

加速方式：flash attention。

原创 基于InternLM和LangChain搭建你的知识库--练习

基础作业：课程知识库助手搭建知识库搭建InternLM 接入 LangChain构建检索问答链部署 Web Demo

原创 基于InternLM和LangChain搭建你的知识库

LangChain框架是一个开源工具，通过为各种LLM提供通用接口来简化应用程序的开发流程，帮助开发者自由构建LLM应用。核心组成模块：链（将组件组合实现端到端应用，通过一个对象封装实现一系列LLM操作 eg.检索问答链基于LangChain搭建RAG应用。

原创 浦语大模型趣味Demo--练习

主题：又见敦煌主题：原神启动！

原创 浦语大模型趣味Demo

人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。

原创 书生·浦语大模型全链路开源体系

高效推理引擎、完备易用的工具链。