- 博客(15)
- 收藏
- 关注
RSS订阅原创 【书生浦语】挑战小游戏-S03EP4-InternVL 多模态模型部署微调实践
理解多模态大模型的常见设计模式，可以大概讲出多模态大模型的工作原理。多模态大模型通常指的是可以处理多种形式的数据（如文本、图像、音频等），并在这些不同模态之间进行交互的模型。这类模型的设计旨在充分利用不同类型数据的互补性，以提升整体系统的性能和效果。常见设计模式独立编码器与共享解码器：此模式中，每种模态的数据通过独立的编码器进行处理，但共享一个解码器。这意味着，不同模态的数据被单独编码，但解码时共享一个模型。这种设计模式能够较好地处理不同模态数据之间的差异性。
2024-12-11 16:18:01
1705
原创 【书生浦语】挑战小游戏-S02EP6-OpenCompass 评测
贴入代码，然后启动cmmlu评测集进行评测，结果再第二张图，可以看到对于数学问题支持不是很好，还有一些伦理问题，不过这些是通病，不能怪internlm。本次调用用了大概14wtokens，不过目前不清楚opencompass的测试方案是什么。这里采用本地部署模型的方式进行测试，分数如下，看上去和api简单测试的结果 相差并不多。有趣的是，internlm2的实力明显不如internlm2.5（废话）使用lmdeploy进行部署。
2024-11-17 22:06:29
343
原创 【书生浦语】挑战小游戏-S02EP2-玩转书生「多模态对话」与「AI搜索」产品
解释：MindSearch可以标记出智能体思考这个问题的路径，并给用户提供整个思考环节的过程。任务：给他一个网易云歌单，让他进行信息整合，效果可以的，除了一个识别错了，其他都没问题。最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节？我问了武侠小说+克苏鲁元素的写作建议，效果还可以。
2024-11-13 17:05:54
712
原创 【提示工程】提示工程的总结与技巧
指令即通过明确、具体的方式向模型传达需求，以确保其能理解并准确执行，指令即是语言的艺术，这与个人知识储备和表达有关，「好问题好答案」，如何「压缩」你的问题成为指令的核心。上世纪，社会学家卢曼将笔记卡片盒作为「沟通的伙伴」，现在，AI 仍然不能脱离工具而「越轨」，它只是更丰盛智能的「划片箱伙伴」，甚至作为知识伙伴的降格，现在你很难忽视 AI 存在而独立处理 Fleeting Thoughts.最近提示词大佬李继刚在采访中也表达出，「真正重要的是人的思想和认知，AI 只是帮助我们表达和实现的工具。
2024-11-07 15:41:41
369
原创 【书生浦语】挑战小游戏-S02EP4-llama index实战
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 InternLM2-Chat-1.8B 模型不会回答，借助 LlamaIndex 后 InternLM2-Chat-1.8B 模型具备回答 A 的能力，截图保存。
2024-10-30 18:15:29
327
原创 【书生浦语】挑战小游戏-S02EP3-提示工程
将不使用系统提示的书生浦语大模型作为 baseline 对比，提交的系统提示词要指导LLM表现出比baseline更高的性能，提供对比截图并加以分析说明即可。感觉区别不大，除了故事的背景交代的不错并且给故事留了最后的彩蛋，好像难分伯仲，主要原因是大模型本身是语言模型，对于故事生成支持还是不错的。基于LangGPT格式编写提示词，使用。
2024-10-27 21:16:08
487
原创 【书生浦语】挑战小游戏-S01EP2-python
请使用本地vscode连接远程开发机，将上面你写的wordcount函数在开发机上进行debug，体验debug的全流程，并完成一份debug笔记(需要截图)。请实现一个wordcount函数，统计英文字符串中每个单词出现的次数。返回一个字典，key为单词，value为对应单词出现的次数。TIPS：记得先去掉标点符号,然后把每个单词转换成小写。不需要考虑特别多的标点符号，只需要考虑实例输入中存在的就可以。这题莫名让我想到mapreduce 哈哈哈！python确实比Java写的爽多了，就是不是很规范。
2024-10-24 09:30:00
246
原创 anylogic报错：Index 0 out of bounds for length 0
Index 0 out of bounds for length 0java.lang.IndexOutOfBoundsException: Index 0 out of bounds for length 0
2023-03-10 13:27:35
3583
2
原创 anylogic报错：There is insufficient memory for the Java Runtime Environment to continue.
anylogic报错信息：There is insufficient memory for the Java Runtime Environment to continue.
2023-03-05 22:32:28
682
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人