- 博客(14)
- 收藏
- 关注
RSS订阅原创 MindSearch深度解析实践
在上面的例子中我们使用的是DuckDuckGoSearch，因此你也可以尝试其他的搜索引擎API。第一次创建conda环境时，需要conda init，再另起一个终端，并且进入环境mindsearch。注册并获取 硅基流动的API Key，复制其生成的api key，再运行后端。export SILICON_API_KEY=<上面复制的API KEY>打开github的codespace主页，选择blank模板进行创建。# 进入你clone的项目目录。启动后端后，另开终端，运行前端。
2025-02-08 18:37:12
560
原创 InternVL 多模态模型部署微调实践
InternVL2采用了动态分辨率策略，能够根据输入图像的宽高比和分辨率将图像分割成不同大小的tiles，最多12个448×448像素的patch用于训练，测试时可扩展至40个patch（即4K分辨率）。demo.py文件中，MODEL_PATH处传入InternVL2-2B的路径，如果使用的是InternStudio的开发机则无需修改，否则改为模型路径。：用于改变tensor的通道数和特征图的大小，以增强高分辨率处理的可扩展性。再问前面的问题，发现答案正确，已经可以正确的识别出来这是什么菜品了。
2024-12-23 15:08:24
828
原创 LMDeploy 量化部署进阶实践
由于internlm2_5-7b-chat和InternVL2-26B模型量化会消耗大量时间(约8h)，所以用internlm2_5-1_8b-chat模型完成。创建一个名为lmdeploy的conda环境，python版本为3.10，创建成功后激活环境并安装0.5.3版本的lmdeploy及相关包。想要实现显存资源的监控，我们也可以新开一个终端输入如下两条指令的任意一条，查看命令输入时的显存占用情况。的输入提示即启动成功，此时便可以随意与InternLM2.5对话，同样是两下回车确定，输入。
2024-12-22 15:20:13
740
原创 Lagent 自定义你的 Agent 智能体
使用 Lagent 复现文档中 “制作一个属于自己的Agent” 和 “Multi-Agents博客写作系统的搭建”两部分内容，记录复现过程并截图。（4）输入项目名称（可以使用“Lagent”），选择免费订阅，并在凭据设置中创建新的凭据。帮我查询一下重庆渝北区现在的天气，可以看到模型对现在的实时天气情况的认知很明显错误的。如果我们再次询问，让其搜索文献，可以看到，模型具备了根据任务情况调用不同工具的能力。（3）在控制台中，点击左侧的“项目管理”，然后点击右上角“创建项目”。
2024-12-20 21:49:22
648
原创 探索书生大模型能力边界
"等等，妈妈还要考你一个题目，"她接着说，"你看这6只做化验用的玻璃杯，前面3只盛满了水，后面3只是空的。" 爱动脑筋的周雯，是学校里有名的"小机灵"，她只想了一会儿就做到了。：在 LeetCode 使用 InternThinker 刷 5 道算法题：使用 InternThinker 生成答案提交至 100% 通过。的 puzzle 推理题(您所在专业题目、面试代码题、逻辑思维题、行测找规律问题、高等数学题、奥赛题等等，) 考倒 InternThinker：让 InternThinker 生成错误的回复。
2024-12-20 19:34:08
750
原创 评测 InternLM-1.8B 实践
使用 OpenCompass 评测浦语 API 记录复现过程并截图。创建用于评测 conda 环境cd /rootexport INTERNLM_API_KEY=xxxxxxxxxxxxxxxxxxxxxxx # 填入你申请的 API Keyimport osinternlm_url = 'https://internlm-chat.intern-ai.org.cn/puyu/api/v1/' # 你前面获得的 api 服务地址models = [dict(
2024-12-16 12:29:15
981
原创 Llamaindex RAG 实践
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力，截图保存。：将 Streamlit+LlamaIndex+浦语API的 Space 部署到 Hugging Face。将文档（知识库）放到llamaindex_demo/data下面。
2024-12-16 12:17:39
225
原创 LangGPT结构化提示词编写实践
经过以上的对比，可见用了提示词后，有更多的场景描写，以及更加生形象且具体的动作描写，细节描写，有更好的文字创作能力、更优美的文字。任选下面其中1个任务基于LangGPT格式编写提示词 (用提示词前后的对比可见，用之后更规范，遵守更准确的格式。
2024-12-08 14:27:18
227
原创 书生「多模态对话」与「AI搜索」产品
（InternVL 开源的视觉语言模型官方的对话产品）——体验书生·万象模型多模态能力，从图片 OCR、图片内容理解等方面与书生·万象展开一次包含图片内容的对话。MindSearch 话题挑战：https://www.zhihu.com/question/1915470960。InternLM 开源模型官方的对话类产品——选择角色扮演，不同场景的话题与浦语进行对话 (轮次不限)开源的 AI 搜索引擎提问，观察他的“思考”逻辑。
2024-11-27 20:32:42
237
原创 书生大模型全链路开源体系
以前做任务，比如rag的这种步骤都是先把内容进行拆分，在进行向量化，问题也向量化，将问题拿来匹配分块，再拿出来去问语言模型，相对而言，做一些简单的索引是没有问题的，但是如果需要做一些跨文档的分析，就会显得效果并不算很好。最后的基于反馈的数据生成，涉及到了基于人类反馈的强化训练，就是人类对模型生成多样化数据的时候，人类对这些进行排序，从而使模型在后面的版本中根据满意度来生成更符合人类满意度的数据。而基于模型的数据扩充，比如一些基于现有模型，商业模型的数据扩充，比如给图中例子这样的代码加上一些函数或者注释。
2024-11-27 20:10:44
833
原创 基础岛第四关
使用Hugging Face平台、魔搭社区平台（可选）和魔乐社区平台（可选）下载文档中提到的模型（至少需要下载config.json文件、model.safetensors.index.json文件），请在必要的步骤以及结果当中截图。创建项目，把intern_study_L0_4克隆到本地，传config.json，建立README.md文件，用git提交到远程仓库，然后可以在Hugging Face的个人profile里面看到这个model。Hugging Face Spaces选择。
2024-11-06 10:08:45
186
原创 基础岛第二关：Python 基础知识
下面是一段调用书生浦语API实现将非结构化文本转化成结构化json的例子，其中有一个小bug会导致报错。方法，期望返回一个 JSON 格式的字符串。但是，由于某种原因，返回的字符串。目录下，并成功在一个新建的python文件中引用。, 笔记中提交代码与leetcode提交通过截图。通常意味着字符串是空的或者只包含空白字符。不是有效的 JSON 格式。可能是空的或者不是有效的 JSON。或者直接输出，而非转成json格式的。使用VScode连接开发机后使用。命令安装一个numpy到看开发机。
2024-11-03 21:03:05
266
原创 InternLM入门岛第一关Linux 基础知识
闯关任务：完成 SSH 连接与端口映射并运行 hello_world.py。任务 2：使用 VSCODE 远程连接开发机并创建一个conda环境。
2024-10-26 23:08:41
159
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人