- 博客(470)
- 收藏
- 关注
RSS订阅原创 麒麟操作系统，DrvMngGetConsoleLogLevel failed. (g_conLogLevel=3) dcmi module initialize failed. ret is -800
去网上搜了可能是和内核版本有关系，于是把内核版本改回原版就好了。
2024-11-27 00:32:13
925
原创 Error response from daemon: failed to create task for container:
记录一次再麒麟操作系统上遇到的问题。本来docker好好的能启动，然后服务器重启以后就启动不了docker了。cpu架构是aarch64Error response from daemon: failed to create task for container: failed to create shim task: OCI runtime create failed: container_linux.go:328: starting container process caused "permi
2024-11-22 16:30:29
707
原创 conda环境打包放到离线麒麟Kylin操作系统，arm64,aarch64
服务器是在内网环境下，只能先本地打包好模型，然后放到服务器上再展开。cpu是aarch64架构的鲲鹏，因此海不得不先到华为云上租一个aarch64架构的服务器。
2024-11-18 17:02:13
346
原创 记录一次nvcc问题。
能够看到cuda是12.0版本，但是使用。就是我明明已经安装好了cuda，使用。看不了cuda版本。执行一下两句命令即可。
2024-11-14 19:21:12
281
原创 麒麟V10，arm64，离线安装docker和docker-compose
需要在离线环境的系统了里面安装docker。目前国产化主推的是麒麟os和鲲鹏的cpu，这块的教程还比较少，记录一下。
2024-11-13 17:43:18
1444
原创 LLM单机多卡训练
安装nvcc，如果不安装nvcc直接安装deepspeed会出错。在LLaMAfactory里写好训练脚本，相比单卡要多一行指令，安装 LLaMA-Factory。
2024-11-11 19:52:14
488
原创 vllm加载模型会让大模型变笨？真的是一记大雷！
事情是这样的，因为实验要用一堆模型来跑，都说vllm加载模型能加快推理嘛，于是我所有的实验都用vllm加载了，实验结果吧不能说好坏，只能说有很多不合理的地方！最终通过不断的重跑，表格也还行。。。勉强能看。今天用vllm加载codellama-34b-instrcut发现vllm没法自动多卡加载，于是换回去transformers加载，发现codellama-34b效果非常令人满意！于是我又试了试7b、8b、13b、14b之前用过的模型，竟然都提升了很多！后来发现可能是vllm的模版加载的问题。。。。
2024-11-08 15:47:17
319
原创 终于有了！！！基于Langgraph使用本地LLM搭建agent！！！
Langchain是使用闭源LLM实现agent搭建的，Langgraph官网给的例子是基于Claude，其他一些agent例子也是基于OPENAI的，但是对于很多私有化场景，使用本地LLM搭建agent是非常重要的。但是网上并没有相关的教程，捣鼓了两天，捣鼓出来Ollama+Langgraph实现的基于本地LLM的agent搭建。
2024-10-29 19:25:00
607
原创 将本地LLM部署为OPENAI的API进行调用
接上一篇使用langgraph搭建agent。有一个问题是能不能用本地的llm来接入langgraph，这里先介绍一下把模型部署为OPENAI的API进行调用。
2024-10-29 10:49:30
1332
原创 langgraph入门
使用langgraph框架搭建一个简易agent。最近想学习一下agent相关知识，langgraph似乎挺好的，于是就来试一试。。看了官网，起核心思想是官网用的是claude的api，我这里用的OPENAI的api。输出结果为整体的代码分为，调用模型call_model，调用工具call_tool，定义工具，定义终止条件，以及定义workflow。这里主要是这个workflow，，langgraph里面核心的概念是state。
2024-10-28 16:49:41
251
原创 launcher.py: error: the following arguments are required: --output_dir
记录一个LLaMA-Factroy配置过程。
2024-10-04 10:00:43
642
原创 python下将sqlite数据提取出来，转化为json数据
大致的思路：使用sqlite3读取指定路径的数据，然后使用pandas.read_sql_query接收数据，然后to_dict，再写入到json文件即可。问题描述：我需要将sqlite数据提取出来做一部分处理，使用pandas，sqlite3库实现。
2024-05-24 14:22:34
844
原创 Elasticsearch_sql插件安装+使用
前提是你先安装好了elasticseach，安装过程在我有说，可以看一下。在elasticsearch容器启动的情况下，进入到elasticsearch容器，仓库，比如我的版本是8.11.2，那么我就选择对应的命令。进入到elasticsearch容器以后执行以上命令即可。执行完毕以后记得重启elasticsearch和kibana，然后看一下插件安装成功没有，查看插件是否安装成功的命令是，首先进去elasticsearch的docke容器里面，然后执行以下命令可以看到一个sql就代表安装成功了。
2024-05-14 17:41:56
628
1
原创 elasticsearch一些使用记录
先安装elasticsearch再安装kibana，使用elasticsearch生成的password和token才能登录，先进入elasticsearch的docker中再执行list命令查看插件安装了哪些。一定要这么做，然后之后你的es就一直运行着了，我是运行在服务器上。查看安装的插件有哪些。
2024-05-14 15:01:10
445
1
原创 Elasticsearch做到像mysql这样的表连接Parent-Child实现
比如在mysql中我有两张表，movies和ratings，这两张表依赖movie_id实现关联。问题1：使用has_parent，因为我们这里是对父数据的movie_title字段进行筛选数据。导入数据，我这里父数据定义了两条，movie_id分别是1和2，子数据定义了多个。问题2：使用has_child，因为我们这里是对孩子数据进行筛选。那么我需要在elasticsearch中实现一下两个任务。
2024-05-13 16:46:17
425
2
原创 在Langchain中使用ConversationSummaryMemory给链增加记忆
刚接触Langchain，整体感觉下来就是langchain中的事件顺序都是按照一定的套路来实现，例如常见的链LLMChain，需要使用到的大模型LLM和Langchain自带的PromptTemplate两块来实现，要求PromptTemplate有预留好下一步插入的内容。但是有可能考虑到使用ConversationChain时会导致输入的内容超过模型输入的上下文，所以适用了ConversationSummaryMemory，就是让模型自己对过去的对话进行总结，但是这种方式可能会丢失一定的关键信息。
2024-04-26 14:05:44
443
原创 使用git将本地项目上传到github
大致的流程是：创建本地仓库，把代码传到本地仓库，把本地仓库内容传到远程仓库。还不太完整，逐渐摸索使用吧。在本地项目的路径中初始化一个仓库。3、设置远程仓库并上传。
2024-04-25 13:26:25
341
原创 springboot+Vue实现分页
今天开发的有一个场景就是需要从远程ssh服务器上加载一个文件展示到前端，但是一次性拉过来有几万条数据，一下载加载整个文件会导致前端非常非常的卡，于是要使用分页解决，我之前看过的有mybatis的分页查询解决方案，哪个是封装好的，但是我的场景是查询文件实现分页展示，因此需要写一个个性化的分页逻辑。
2024-04-25 10:15:49
1640
4
原创 前端之Vuex
就是对四种机制的映射，让我们使用起来更加方面，具体的映射可以看。②在main.js中引入注入这个store机制。①新建一个js文件，里面专门存放State。创建好以后这个state就是数据仓库了。module是面向不同模块的数据隔离。主要解决租价之间传值的问题。注意其中的计算属性中使用。
2024-04-11 23:35:56
645
原创 使用vscode快速写出代码模板
是这样的，最近在处理数据，总是要用到load_json，save_json这样的操作，而且每次都要从头开始写with open()巴拉巴拉一大堆，其中很多代码都是高复用的，没必要每次都手动敲，所以呢我发现了vscode的。选择python下，其他的语言类似。功能，就是快速调模板的感觉。
2024-04-11 15:40:14
227
原创 Axios网络请求
Axios网络请求主要用于前后端请求，前后端分离时前端需要通过url请求后端的接口，并且处理后端传过来的数据。安装在main.js导入通过上面的设置就可以在任何组件里面直接使用！！！在vue里面使用的时候直接使用。
2024-04-10 00:16:30
490
原创 Vue第三方组件使用
另外，项目中的node_modules文件夹都是我们安装的第三方依赖库，这个可以删除，只要package.json文件还在。第三步就可以直接在elelmentui官网打开一个组件使用即可。直接把代码复制到组件里面即可。第二步在main.js中全局注册elementui组件。// props将属性暴露给外界进行赋值。首先要在项目目录下安装elementui。能够看到package.json文件里。第四步，fontawesome图标。用法很简单,在哪用直接用就好。1、父组件与孩子组件传值。
2024-04-09 23:09:08
1109
原创 Vue组件
h2>学生年龄：{{studentage}}学生年龄：{{studentage}}学校地址:{{address}}学生姓名：{{studentname}}学校地址:{{address}}学生姓名：{{studentname}}学校名称:{{schoolname}}学校名称:{{schoolname}}// #组件注册,局部注册。// #组件注册,局部注册。
2024-04-07 23:31:32
757
原创 设计模式之观察者模式
以及get、set方法，attach增加观察者方法，notifyall通知所有观察者方法。每个观察者继承Observer抽象类，观察者内心都有一个主题subject，因为他们要观察的就是这个主题，以及每个人自己的update方法，因为信息在每个人心中的展示可能不一样。观察者模式的感觉就是设计一个主题，主题中的数据发生变化会通知所有观察者数据发生变化了，然后每个观察者根据变化的数据改变自我的展示情况。举个例子，就比如我们看电影，当电影的内容改变的时候，我们每个人的脑海里呈现的信息就会发生改变。
2024-04-07 11:14:06
713
原创 springboot之mybatisPlus多表查询及分页查询
反过来说，我如果希望查询所有订单及对应的用户，其实直接在OrderMapper里面编写Results映射即可，只不过一个订单只对应一个用户所以要使用。接收，在将uid传入到UserMapper的selectById，在OrderBean里面增加一个User成员变量存放即可。具体的流程呢是在User里面加一个List，这个很好理解每个用户需要有多个订单嘛，使用一个列表来接受很合理。这里的场景是，查询每个用户及其所有的订单。就是查询你的id号的同时，把你所有的历史订单信息都拉出来。
2024-04-06 21:53:01
2648
原创 springboot之MybatisPlus
简单来说ORM就是一个能够帮我们把java中Bean类映射到数据库中。使用mybatis-plus。
2024-04-03 01:03:01
1346
原创 springboot之RESTful接口与Swagger
这里使用到的swagger2的版本是2.9.2记得把springboot的版本改成。GET获取资源、POST新建资源、PUT更新资源、DELETE删除资源。除此之外，还能给每个接口增加说明，需要到后端指定接口处去增加。用于生成、描述、调用和可视化RESTful风格的Web服务。2、幂等性：对一个接口请求和多次请求返回的资源应该一致。例如说，我在hello2这个方法增加了注解，要使用。1、安全性：GET请求不会引起资源本身改变。在swagger展示如下。4xx：客户端错误。5xx：服务器错误。
2024-04-02 23:13:27
479
原创 springboot文件上传+拦截器
例如我在static目录下放了test.jpg直接通过localhost:8080/test.jpg就能访问。再来请求localhost:8080/hello2接口。就不出现被拦截的标志。如果要增加前缀就在application.properties增加配置。再一次配置静态目录，让我们能够通过地址从浏览器访问到这个图片。我们来请求localhost:8080/user/hello。直接把文件放到static目录下，直接就可以访问到。然后我们看这里我是拦截了user下的所有请求。第一步创建拦截器继承。
2024-04-01 23:39:08
358
原创 springboot注解及GET、POST接口写法
一、注解springboot提供了@Contrller和@RestController。@Controller：返回页面和数据@RestController：返回数据value：请求URL的路径。method：HTTP请求方法。
2024-04-01 22:04:46
474
原创 springboot热部署
热部署的意思是，在我们每次修改接口的时候不需要手动的重启项目，而是让项目自主的帮我们检测文件发生的变化。里面更改就可以了，到此为止springboot的热部署问题就解决了。引入依赖以后使用mvn工具下载依赖，成功以后应该能看到这个。2、修改application.propertier配置文件。在Registy中勾选的，但是新版本直接在setting下的。注意，第二个勾选需要分版本，老版本的是。3、修改setting。
2024-04-01 00:31:57
237
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人