Rocket,Qian-优快云博客

原创 OpenCompass 来评测 InternLM2 1.8B实践

在 OpenCompass 中评估一个模型通常包括以下几个阶段：配置 -> 推理 -> 评估 -> 可视化。

2024-08-12 19:18:13 427

原创书生大模型全链路开源体系

使用了一段时间InterLLM,最近回过头来看下InterLm整个的发展开源体系，了解过后，也方便自己以后选用模型使用模型。优异的长文本背景知识定位能力。微调工具Xtuner。

2024-08-12 16:29:52 248

原创 llamaindex+Internlm2 RAG实践

记录llamaindex+Internlm2 RAG实践过程

2024-08-09 12:54:45 985

原创大模型微调技术PEFT

这里也就是 NF4，用于对符合正态分布的数进行量化的，而非用于直接计算，需要反量化为浮点型才能进行推理计算，这也是 config 中需要指定计算类型——bnb_4bit_compute_dtype 的原因。0值单独拿出来，作为 16 个值中的 1 个，正数分配 8 个，复数分配 7 个，按照累计概率密度等分。

2024-08-05 15:46:38 821

Prompt是一种用于指导以大语言模型为代表的生成式人工智能生成内容(文本、图像、视频等)的输入方式。它通常是一个简短的文本或问题，用于描述任务和要求。Prompt可以包含一些特定的关键词或短语，用于引导模型生成符合特定主题或风格的内容。Prompt还可以包含一些特定的指令或要求，用于控制生成文本的语气、风格、长度等方面。总之，Prompt是一种灵活、多样化的输入方式，可以用于指导大语言模型生成各种类型的内容。提示工程是一种通过设计和调整输入(Prompts)来改善模型性能或控制其输出结果的技术。

2024-07-31 20:44:43 700

原创 InternLM2-Chat-1.8B 模型的部署

vscode里自动完成端口映射，浏览器访问 http://localhost:6006。使用 Streamlit 部署 InternLM2-Chat-1.8B 模型。先把相关代码clone到本地demo文件夹。任务：根据prompt，生成300字小说。

2024-07-31 19:22:16 427

原创初体验InterStudio开发机

初体验InterStudio

2024-07-20 01:20:23 290

原创 Linux+InternStudio

InternStudio 是大模型时代下的云端算力平台。基于 InternLM 组织下的诸多算法库支持，为开发者提供开箱即用的大语言模型微调环境、工具、数据集，并完美兼容 🤗 HugginFace 开源生态。

2024-07-20 01:11:26 259

原创基于streamlit快速部署机器学习项目（Public URL）

什么是 Streamlit？Streamlit 是一个用于创建数据应用程序的Python库，可以帮助数据科学家、工程师和分析师轻松快速地构建交互式和可视化的数据界面。无需繁琐的前端代码，只需几行简单的Python代码，你就能将你的数据展现得美观而有效。

2024-04-26 14:16:55 1266

原创代码随想录刷题总结

代码随想录刷题总结

2023-03-01 19:03:40 1142

原创代码随想录 NO25 |回溯_LeetCode 216.组合总和III 17.电话号码的字母组合

回溯_LeetCode 216.组合总和III 17.电话号码的字母组合

2023-03-01 14:34:05 210

原创代码随想录NO55 |单调栈_leetcode 84.柱状图中最大的矩形

单调栈_leetcode 84.柱状图中最大的矩形

2023-03-01 13:29:58 232

原创代码随想录 NO54 |单调栈_leetcode 503.下一个更大元素II 42. 接雨水

单调栈_leetcode 503.下一个更大元素II 42. 接雨水

2023-02-28 14:18:14 621

原创代码随想录NO53 |单调栈_leetcode 739. 每日温度 496.下一个更大元素 I

单调栈_leetcode 739. 每日温度 496.下一个更大元素 I

2023-02-27 16:23:24 284

原创代码随想录 NO52 | 动态规划_leetcode 647. 回文子串 516.最长回文子序列

动态规划_leetcode 647. 回文子串 516.最长回文子序列

2023-02-26 15:33:41 591

原创代码随想录 NO51 | 动态规划_leetcode583. 两个字符串的删除操作 72. 编辑距离

动态规划_leetcode583. 两个字符串的删除操作 72. 编辑距离

2023-02-24 11:15:28 309

原创推荐算法——NCF知识总结代码实现

随着技术的发展，协同过滤相比深度学习模型的弊端就日益显现，因为它是通过直接利用非常稀疏的共现矩阵进行预测的，所以模型的泛化能力非常弱，遇到历史行为非常少的用户，就没法产生准确的推荐结果。虽然，可以通过矩阵分解算法增强它的泛化能力，但因为矩阵分解是利用非常简单的内积方式来处理用户向量和物品向量的交叉问题的，所以，它的拟合能力也比较弱。2017 年，新加坡国立的研究者就使用深度学习网络来改进了传统的协同过滤算法，取名 NeuralCF（神经网络协同过滤）。

2023-02-24 08:41:52 2786 4