- 博客(24)
- 收藏
- 关注
RSS订阅原创 llama.cpp制作GGUF文件及使用
llama.cpp是一个开源项目，由Georgi Gerganov开发，旨在提供一个高性能的推理工具，专为在各种硬件平台上运行大型语言模型（LLMs）而设计。这个项目的重点在于优化推理过程中的性能问题，特别是针对CPU环境。高性能推理引擎：llama.cpp使用C语言编写的机器学习张量库ggml，这使得它能够高效地处理大规模的张量运算，从而加速模型推理。模型量化工具。
2024-05-06 17:22:32
3266
原创 【InternLM实战营---第七节课笔记】
本节课的主讲老师是【曹茂松、刘卓鑫】。1.大模型评测的背景2.大模型评测工具OpenCompass的介绍3.OpenCompass实战。
2024-04-24 15:09:19
919
原创 【InternLM实战营---第六节课笔记】
本节课的主讲老师是【樊奇】。1.大模型智能体的背景及介绍2. Lagent&AgentLego框架介绍3.Lagent&AgentLego框架实战。
2024-04-23 17:47:08
971
1
原创 【InternLM实战营---第五节课笔记】
本节课的主讲老师是【安泓郡】。1.大模型部署背景2. 大模型部署方法3.LMDeploy介绍以及实战。
2024-04-22 13:38:08
1350
原创 【InternLM实战营---第四节课作业】
从这期的课程中，我们可以知道，多模态模型需要两阶段，第一阶段需要大量数据训练得到Image Projector，这里为了节省时间和算力，老师提供了幼儿园版的Image Projector，我们直接进入第二阶段进行微调即可。将自我认知的模型上传到 OpenXLab，并将应用部署到 OpenXLab。太细了，跟着教程走，一点问题都没有，模型已经成功上传到OpenXLab。没有成功应用部署到 OpenXLab，个人认为是资源的问题，在申请了。跟着教程走，有惊无险，哈哈哈，搞定。
2024-04-21 00:29:44
880
1
原创 【InternLM实战营---第二节课笔记】
本节课的主讲老师是角色扮演SIG小组长任宇鹏。部署 InternLM2-Chat-1.8B 模型进行智能对话部署实战营优秀作品 八戒-Chat-1.8B 模型通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo实践部署 浦语·灵笔2 模型。
2024-04-01 20:13:08
1078
1
原创 【InternLM实战营---第二节课作业】
使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事熟悉 huggingface 下载功能浦语·灵笔2 的 图文创作 及 视觉问答 部署等待资源调整Lagent 工具调用 数据分析 Demo 部署
2024-04-01 20:11:46
227
1
原创 conda的使用教程
Conda可以与系统中已有的Python环境共存，并且可以创建独立的Python环境，方便管理和使用不同版本的Python和Python包。需要注意的是，如果您使用Conda创建了新的Python环境，并在其中安装了Python包，这些包只能在该环境中使用。创建环境：使用Conda可以创建多个独立的Python环境，每个环境可以安装不同版本的Python和不同的Python包。激活环境：创建环境后，需要激活环境才能使用其中的Python和Python包。安装Conda：首先需要安装Conda，可以从。
2023-04-03 09:27:23
2641
原创 数据结构学习之环形队列（数组实现）
文章目录前言一、环形队列二、使用步骤1.引入库2.读入数据总结前言在上节课的学习中，使用数组实现了单向队列，单向队列不能复用，环形队列可以解决这个问题。一、环形队列示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。二、使用步骤1.引入库代码如下（示例）：import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport seaborn as snsimport
2021-08-11 11:10:24
413
原创 数据结构学习之单向队列
文章目录一、队列是什么？二、数组模拟队列1.实现思路2.代码实现3.问题分析一、队列是什么？队列是一个有序列表，可以用数组或是链表来实现。队列遵循先入先出的原则。即：先存入队列的数据，要先取出。后存入的数据要后取出二、数组模拟队列1.实现思路//使用数组模拟队列-编写一个类class ArrayQueue{ private int maxSize; //表示数组的最大容量 private int front; //队列头 private int rear; //队
2021-08-10 18:02:34
277
原创 数据结构学习之稀疏数组
文章目录一、数据结构的相关概念线性结构非线性结构二、稀疏数组1.基本介绍2.稀疏数组的实际应用例子3.代码示例总结一、数据结构的相关概念程序 = 数据结构 + 算法数据结构包括： 线性结构 和 非线性结构线性结构线性结构作为最常用的数据结构，其特点是数据元素之间存在一对一的线性关系线性结构有两种不同的存储结构，即顺序存储结构和链式存储结构。顺序存储的线性表称为顺序表，顺序表中的存储元素是连续的链式存储的线性表称为链表，链表中的存储元素不一定是连续的，元素节点中存放数据元素以及相邻元素的地址
2021-08-05 11:28:42
246
原创 Linux上运行jar包
Linux上运行jar包1.直接运行java -jar xxxx.jar当前窗口被锁定，Ctrl+C和关闭窗口都会中断程序的运行2. 后台运行java -jar xxxx.jar &窗口可以进行切换，但是关闭窗口仍会导致程序运行中断3.不挂断运行nohup java -jar xxxx.jar &关闭窗口程序运行也不会中断nohup java -jar xxxx.jar > xxx.log 2>&1 &不挂断运行程序的同时，将运行日志输出到指
2021-07-06 15:18:46
162
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人