- 博客(25)
- 资源 (5)
- 收藏
- 关注
原创 JVM参数详解
Xss300K:设置每个线程的堆栈大小。JDK5.0 以后每个线程堆栈大小为 1M,以前每个线程堆栈大小为 256K。但是操作系统对一个进程内的线程数还是有限制的,不能无限生成,经验值在 3000~5000 左右。JAVA_OPTS='-Xms3096m -Xmx3096m -Dsun.net.inetaddr.ttl=180' 这个只是用于设置堆内存的大小,而JVM运行过程中到底会向操作系统申请多少内存,这个是由JVM在运行过程中动态决定的,我们无法设置。-Xmn350M:设置年轻代大小为 350M。
2025-02-20 15:25:39
226
原创 LangChain开发流程
我们将开发以大语言模型为功能核心、通过大语言模型的强大理解能力和生成能力、结合特殊的数据或业务逻辑来提供独特功能的应用称为大模型开发。开发大模型相关应用,其技术核心点虽然在大语言模型上,但一般通过调用 API 或开源模型来实现核心的理解与生成,通过 Prompt Enginnering 来实现大语言模型的控制,因此,虽然大模型是深度学习领域的集大成之作,大模型开发却更多是一个工程问题。在大模型开发中,我们一般不会去大幅度改动模型,而是将大模型作为一个调用工具,通过 Prompt Engineering、数据
2025-02-20 15:19:00
1196
原创 LangChain简介
ChatGPT 的巨大成功激发了越来越多的开发者兴趣,他们希望利用 OpenAI 提供的 API 或者私有化模型,来开发基于大型语言模型的应用程序。尽管大型语言模型的调用相对简单,但要创建完整的应用程序,仍然需要大量的定制开发工作,包括 API 集成、互动逻辑、数据存储等等。为了解决这个问题,从 2022 年开始,许多机构和个人相继推出了多个开源项目,旨在帮助开发者们快速构建基于大型语言模型的端到端应用程序或工作流程。其中一个备受关注的项目就是 LangChain 框架。
2025-02-20 15:12:08
836
原创 部署Langchain-Chatchat
1. 此文档主要描述Langchain-Chatchat项目的源码安装过程,项目版本为0.3.12. 使用ollama作为模型运行框架包括LLM和Embedding模型3. LLM使用qwen:7b。
2025-02-20 15:06:03
318
原创 LLM基础环境准备-云服务器
操作系统: TencentOS Server 3.1 (TK4)Python: 3.9.0(使用 conda的虚拟python环境,可根据实际需要更换版本,当前使用的是3.9.0的版本)CUDA Version: 12.2(腾讯云会自动安装)
2025-02-20 15:00:05
199
1
原创 Ollama 部署大模型
Ollama是一个开源框架,专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中,从而优化了设置和配置细节,包括GPU使用情况,简化了在本地运行大型模型的过程,采用WSL2作为运行环境。WSL2是WINDOWS的Linux虚拟机,此案例使用的是Ubuntu 22.04.3 LTS (GNU/Linux 5.15.167.4-microsoft-standard-WSL2 x86_64)版本系统。
2025-02-20 14:55:54
237
原创 Embedding模型介绍&部署部署
是一种将高维数据(如文本、图像、音频)映射到低维空间的技术,其中每个数据点由实数构成的向量表示,这些向量在向量空间中的位置反映了数据的语义特征。这种技术广泛应用于自然语言处理和机器学习中,使得计算机能够理解和处理文本等数据。以下是关于Embedding模型的一些关键点:1总体来说,Embedding模型是现代数据分析和机器学习中的一个关键技术,它使得计算机能够理解和处理复杂的数据结构,如文本和图像,从而推动了人工智能技术在多个领域的应用和发展。
2025-02-20 14:48:33
987
原创 Java 前后端分离,流程审批,权限管理框架源码
使用springboot,activiti,mybatis,vue elementui开发的后台管理系统(包含权限管理、工作流等功能),可使用docker部署。
2022-09-07 14:35:12
3126
原创 关于分布式事务、两阶段提交协议、三阶提交协议
随着大型网站的各种高并发访问、海量数据处理等场景越来越多,如何实现网站的高可用、易伸缩、可扩展、安全等目标就显得越来越重要。为了解决这样一系列问题,大型网站的架构也在不断发展。提高大型网站的高可用架构,不得不提的就是分布式。在《分布式系统的一致性探讨》一文中主要介绍了分布式系统中存在的一致性问题。本文将简单介绍如何有效的解决分布式的一致性问题,其中包括什么是分布式事务,二阶段提交和三阶段提交。分布...
2020-12-29 15:30:11
153
原创 高并发情况下,MYSQL的锁等待问题分析和解决方案
问题描述在进行高并发性能调优的时候发现了如下的一个问题:1. 在一个事务中同时包括了SELECT,UPDATE和INSERT语句2. SELECT和UPDATE涉及到的数据为同一张表中的同一套记录3. 在并发为10的情况下就会触发数据库锁等待和死锁的情况问题分析在问题分析之前引入几个概念共享锁SELECT 语句时对查询行加的锁类型为共享锁。共享锁的特性为:不...
2020-03-14 20:20:58
4379
原创 Centos7 安装docker-18.03.1-ce(离线安装)
一、引言为了实现离线安装docker-18.03.1-ce这个想法,我遍寻网络,什么 RPM 搜索大法啦,yum localinstall 方法啦,都是复杂到不行。二、终极解决直接上网址:Install Docker CE from binaries (官方文档:通过二进制包安装 docker 社区版)友情提示:访问该网页需要科学上网:)这里,我把当前最新(2018-05-2...
2018-08-01 09:51:56
13440
11
原创 minikube 本地部署运行 kubernetes 实例
1、kubernetes 介绍Kubernetes 是 Google 开源的容器集群管理系统,它构建在目前流行的 Docker 技术之上,为容器化的应用提供资源调度、部署运行、服务发现、扩容缩容等一整套功能。而就在日前 DockerCon 欧洲大会上, Docker 宣布拥抱支持 Kubernetes,Docker 公司计划提供一个无缝平台,同时支持包含 Swarm 和 Kubernetes...
2018-07-30 09:22:04
775
转载 Kubernetes介绍
一、Kubernetes系列之介绍篇 •Kubernetes介绍1.背景介绍 云计算飞速发展 - IaaS - PaaS - SaaS Docker技术突飞猛进 - 一次构建,到处运行 - 容器的快速轻量 - 完整的生态环境2.什么是kubernetes 首先,他是一个全新的基于容器技术的分布式架构领先方案。Kubernetes(k8s)是Google开源...
2018-06-13 10:59:05
3225
原创 事务的ACID特性
ACID特性数据库中的事务(Transaction)有四个特性,分别是:原子性(Atomicity),一致性(Consistency),隔离性(lsolation),持久性(Durability)所谓事务,它是一系列操作的序列,这些操作要么都执行,要么都不执行,它是一个不可分割的工作单位。(执行逻辑功能的一组指令或者操作称之为事务)详解1. 原子性原子性是指一个事务是一个不可再...
2018-06-05 14:22:35
12223
原创 springmvc获得项目根目录(绝对路径(服务器路径))
在项目中有时候我们需要记录日志或者上传图片,需要知道项目的具体路径,如果项目中使用了spring,那么获得到项目跟路径很简单,只需要在web.xml中添加listener配置,具体如下:[html] view plain copy<context-param> <param-name>webAppRootKey</param-name> ...
2018-06-05 10:11:55
4913
转载 jstack命令详解
stack用于打印出给定的java进程ID或core file或远程调试服务的Java堆栈信息,如果是在64位机器上,需要指定选项"-J-d64",Windows的jstack使用方式只支持以下的这种方式:jstack [-l] pid如果java程序崩溃生成core文件,jstack工具可以用来获得core文件的java stack和native stack的信息,从而可以轻松地知道java程序...
2018-06-05 10:10:44
1297
转载 Tomcat 8熵池阻塞变慢详解
问题现象Tomcat 8启动很慢,且日志上无任何错误,在日志中查看到如下信息:Log4j:[2015-10-29 15:47:11] INFO ReadProperty:172 - Loading properties file from class path resource [resources/jdbc.properties]Log4j:[2015-10-29 15:47:11] IN...
2018-06-05 10:10:07
154
转载 aop:aspect与aop:advisor的区别
在开发过程中,不少有Spring Aop的使用,在面向切面编程时,我们会使用< aop:aspect>;在进行事务管理时,我们会使用< aop:advisor>。那么,对于< aop:aspect>与< aop:advisor>的区别,具体是怎样的呢?至于两者的区别,网上有很多资料,但是似乎都不能说清楚。 首先,我们需要明确两者的概念。< ao...
2018-06-05 10:02:42
3070
1
转载 全面分析 Spring 的编程式事务管理及声明式事务管理
开始之前关于本教程本教程将深入讲解 Spring 简单而强大的事务管理功能,包括编程式事务和声明式事务。通过对本教程的学习,您将能够理解 Spring 事务管理的本质,并灵活运用之。先决条件本教程假定您已经掌握了 Java 基础知识,并对 Spring 有一定了解。您还需要具备基本的事务管理的知识,比如:事务的定义,隔离级别的概念,等等。本文将直接使用这些概念而不做详细解释。另外,您最好掌握数据库...
2018-06-05 09:48:26
154
转载 AspectJ的切入点表达式---execution表达式详解
Aspectj切入点语法定义在使用spring框架配置AOP的时候,不管是通过XML配置文件还是注解的方式都需要定义pointcut”切入点”例如定义切入点表达式 execution (* com.sample.service.impl..*. *(..))execution()是最常用的切点函数,其语法如下所示:整个表达式可以分为五个部分:1、execution(): 表达式主体。2、第一个*号...
2018-06-05 09:46:27
44472
4
原创 spring-boot+spring-session集成
在这个微服务,分布式的时代,很多传统的实现方案变的不再那么适用,比如传统的web服务将session放在内存中的情况,当web服务做水平扩展部署的时候,session共享就成了需要处理的问题。目前有很多成熟的技术可供我们选择,下面简单介绍最近用到的spring-boot+spring-session实现session共享的方案。spring-boot集成spring-session非常简单,因为s...
2018-03-16 09:47:49
130
1
国密SM4的可检索加密算法实现
2022-11-08
分布式体系建设-微服务治理指引
2022-03-29
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人