- 博客(17)
- 收藏
- 关注
RSS订阅原创 书生进阶岛L2-茴香豆：企业级知识库问答工具
通过这个链接进入，可以看到 Web 版茴香豆的知识库注册页面，进行注册和登录接下来可以创建一个自己的知识库然后可以进行对话通过配置正反例调优知识助手效果添加好正反例，然后进行测试。
2025-02-22 23:21:25
655
原创 书生进阶6L2-MindSearch 快速部署
如果是新建的codespace，在第一次创建conda环境时，需要conda init，再另启一个终端并激活。export SILICON_API_KEY=<上面复制的API KEY>前后端都启动后，我们可以看到github自动为这两个进程做端口转发。接下来会出现这个界面（PS：网络有点差，图片没加载出来）打开codespace主页，选择Blank模板进行创建。# 进入你clone的项目目录。# 进入你clone的项目目录。创建一个相应的虚拟环境来隔离。启动MindSearch。
2025-01-18 22:19:28
472
原创 书生进阶4L2-InternVL 多模态模型部署微调实践
微调后，把模型checkpoint的格式转化为便于测试的格式。出现如下图，用ctrl+鼠标左键点击图中圈出来的链接。拉取本教程的github仓库。这次就能认出这就是黔菜了。这是黔菜，回答的不正确。Xtuner微调实践。先准备好基础的配置文件。再根据需要修改以下参数。
2025-01-18 20:19:24
291
原创 书生进阶3L2-LMDeploy 量化部署进阶实践
创建一个名为lmdeploy的conda环境，python版本为3.10，创建成功后激活环境并安装0.5.3版本的lmdeploy及相关包。3.让我们进入创建好的conda环境并启动InternLM2_5-1_8b-chat。W4A16 量化+ KV cache+KV cache 量化。设置在线 kv cache int4/int8 量化。我们可以输入如下指令查看在当前目录中显示所有子目录的大小。以Gradio网页形式连接API服务器。设置最大kv cache缓存大小。以命令行形式连接API服务器。
2025-01-18 18:14:33
290
原创 书生进阶2L2-Lagent 自定义你的 Agent 智能体
================================== 硅基流动的API ==================================# ================================== 浦语官方的API ==================================message.content = f"**批评建议**:\n{feedback}\n\n**推荐的文献**:\n{arxiv_results}"
2025-01-18 15:05:26
700
原创 书生基础6L1-OpenCompass 评测书生大模型实践
internlm_url = 'https://internlm-chat.intern-ai.org.cn/puyu/api/v1/' # 你前面获得的 api 服务地址。然后运行这段代码python run.py --models puyu_api.py --datasets demo_cmmlu_chat_gen.py --debug。d['reader_cfg']['test_range'] = '[0:1]' # 这里每个数据集只取1个样本, 方便快速评测.retry=3, # 重试次数。
2024-12-14 19:19:16
923
原创 书生基础5L1-XTuner 微调个人小助手认知
使用 XTuner 微调 InternLM2-Chat-7B 实现自己的小助手认知，如下图所示（图中的需替换成自己的昵称），记录复现过程并截图。
2024-12-05 00:29:11
934
原创 书生基础4L1-InternLM + LlamaIndex RAG 实践
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力，截图保存。
2024-11-27 09:47:14
894
原创 书生基础3L1-浦语提示词工程实践
背景问题：近期相关研究指出，在处理特定文本分析任务时，语言模型的表现有时会遇到挑战，例如在分析单词内部的具体字母数量时可能会出现错误。任务要求：利用对提示词的精确设计，引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证。不能准确的回答出r的个数能快速准确的回答出r的个数为3。
2024-11-18 16:41:14
315
原创 书生基础2L1-玩转书生「多模态对话」与「AI搜索」产品
API 控制台内包含 “API 文档”、“API Tokens”、“限流策略”、“调用明细” 4 个模块。
2024-11-12 17:22:45
876
原创 书生入门4L0-玩转HF/魔搭/魔乐社区
首先通过这个链接打开CodeSpace，并选择jupyter Notebook的use this template进行创建环境。创建好环境后就会进入网页版VSCode的界面，这就是CodeSpace提供给我们的在线编程环境。然后在界面下方的终端安装依赖，以便于后期模型的运行。
2024-11-11 21:45:55
803
原创 书生入门2L0-python基础知识
先在vscode中安装python插件，然后运行Run & debug(1).如下图，分别设置了5个断点,然后进行了debug调试。图中的①是continue，表示继续运行到下一个断点；②是step over，表示跳过，可以理解为运行当前行代码，不进入具体的函数或者方法。③是step into，表示进入函数或者方法。如果当行代码存在函数或者方法时，进入代码该函数或者方法。如果当行代码没有函数或者方法，则等价于step over。④是step out，表示退出函数或者方法, 返回上一层。
2024-10-28 18:57:02
377
原创 书生基础2-8G 显存玩转书生大模型 Demo
用conda activate /root/share/pre_envs/icamp3_demo该指令激活。
2024-10-11 21:20:32
687
原创 书生基础1L1-书生大模型全链路开源体系
书生大模型的全链路开源开放体系通过全面覆盖数据收集、模型训练、性能优化、部署应用等各个环节，构建了一个高效、透明且易于使用的生态系统。其强大的模型能力和完善的开源生态为开发者提供了坚实的支持，使其在多种应用场景中表现出色。随着技术的不断进步，书生大模型将继续引领行业发展，为更多用户带来创新和价值。
2024-10-09 20:30:23
475
原创 书生入门2-python基础知识
import re# 清洗文本，去除标点符号# 将文本转换为小写# 分割文本为单词列表# 使用Counter统计每个单词出现的次数# 测试文本text = """to her."""# 调用函数并打印结果。
2024-09-27 21:06:27
728
原创 书生入门1L0-linux基础
图中NVIDIA-SMI 535.54.03表示GPIO驱动版本，Persistence-M表示驱动常驻模式，N/A上面的0表示GPU的序号，A100-SXM4-80GB表示GPU类型，46C表示当前GPU温度，80W/400W表示当前功率与总功率，00000000：89：00.0表示总线，447MiB表示系统占用显存大小，81920MiB表示总现存大小，0%表示核显核心利用率，Default表示默认为计算模式。(2).在开发机中点击SSH连接，复制登录命令，粘贴到power shell中，回车；
2024-09-27 18:47:56
1047
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人