- 博客(31)
- 收藏
- 关注
原创 CTranslate2转换模型
首先,确保安装了 CTranslate2 和 faster-whisper(基于 CTranslate2 的 Whisper 实现)。转换完成后,模型会保存在 /path/to/whisper-small-ct2 目录中。–quantization:量化方式(可选 int8、float16 等)。–model:Hugging Face 模型的路径。–output_dir:转换后的模型输出路径。
2025-02-20 10:55:41
300
原创 GGUF介绍安装及使用
GGUF 格式的全名为(GPT-Generated Unified Format),提到 GGUF 就不得不提到它的前身GGML 是专门为了机器学习设计的张量库,最早可 以追溯到 2022/10。其目的是为了有一个单文件共享的格式,并 且易于在不同架构的 GPU 和 CPU 上进行推理。但在后续的开发 中,遇到了灵活性不足、相容性及难以维护的问题。
2025-01-25 15:22:05
2110
原创 ModelScope下载模型
在 ModelScope 中,snapshot_download 是一个非常有用的工具,可以直接下载模型文件到指定路径,而无需加载模型。
2025-01-25 14:46:59
2033
原创 skywalking-agent自定义插件
SkyWalking 插件的工作机制主要基于 Java Agent,它会在应用启动时自动附加到目标应用上。插件主要实现方法拦截(Method Intercept),即在指定的方法执行之前、之后或者发生异常时进行操作,以便收集监控数据。增强类定义(Enhancement Class):指定需要增强的目标类。方法拦截器(Method Interceptor):定义拦截的逻辑,比如调用链的开始、结束、异常捕获等。
2024-12-11 10:55:35
888
原创 1.Spring MVC源码解读之相关组件
常用组件主要讲解以下组件HandlerMappingRequestMappingHandlerMappingHandlerAdapterRequestMappingHandlerAdapterHandlerExecutionChainHandlerInterceptorHandlerMethod1. HandlerMappingHandlerMapping 的主要功能是根据客户端的 HTTP 请求信息(如 URL 和 HTTP 方法)找到能够处理该请求的处理器
2024-12-09 17:28:40
213
原创 Spring AOP多个环绕切面执行流程实战
使用 @Order 或 Ordered 接口可以明确控制通知的执行顺序。最后一个切面执行真正的方法环绕通知执行顺序遵循“先进入后退出”的嵌套规则。如果没有显式顺序,执行顺序由 Spring 容器决定,不应依赖。
2024-11-21 15:05:34
337
原创 skywalking之alarm实战
Webhook 要求对端为 Web 容器,报警信息将以 HTTP POST 方式以application/jsonContent-Type 发送,JSON 格式基于List<org.apache.skywalking.oap.server.core.alarm.AlarmMessage>webhooks:结构体//所有范围均在中定义org.apache.skywalking.oap.server.core.source.DefaultScopeDefine//目标范围实体名称。
2024-11-19 15:58:23
407
原创 mybatis之类型转换处理器
基类BaseTypeHandler源代码如下//// Source code recreated from a .class file by IntelliJ IDEA// (powered by FernFlower decompiler)//package org.apache.ibatis.type;import java.sql.CallableStatement;import java.sql.PreparedStatement;import java.sql.Resul
2024-11-19 15:18:34
174
原创 Redis持久化
1.RDB快照是内存的二进制序列化形式,存储上非常紧凑,节约内存。1.1 RDB快照的方式save指令和bgsave指令可以手动执行一次RDB转存;1.1.2 save指令:使用redis主线程进行同步转储,所以他会阻塞redis服务器,生产环境不用1.1.3 bgsave指令:主线程fork一个子线程,一边子线程持久化、主线程响应客户端请求。子进程转储到一个temp的文件下,当转储完成放到dir目录下并重命名由dbfilename参数定义的名字覆盖旧的存储。一些情况:
2024-11-11 16:47:04
814
原创 聊聊ClassLoader
BootstrapClassLoader:加载环境变量 --sun.boot.class.path的资源文件。,ExtClassLoader和AppClassLoader为Launcher中的两个静态内部类。AppClassLoader:加载环境变量 --java.class.path的资源文件。ExtClassLoader:加载环境变量 --java.ext.dirs的资源文件。构造方法获取了Ext和App类加载器,并。自定义ClassLoader。蓝框内获取锁稍后讲;
2024-11-11 15:34:05
567
原创 gRPC说明及使用(java版)
一元 RPC,其中客户端向服务器发送单个请求并得到单个响应,就像普通函数调用一样。服务器流式 RPC 中,客户端向服务器发送请求并获取流以读取一系列消息。客户端从返回的流中读取,直到没有更多消息。gRPC 保证单个RPC 调用中的消息排序。客户端流式 RPC,客户端使用提供的流编写一系列消息并将其发送到服务器。客户端完成编写消息后,它会等待服务器读取消息并返回响应。同样,gRPC 保证了单个 RPC 调用中的消息排序。双向流式RPC,双方使用读写流发送一系列消息。
2024-11-05 15:05:37
1113
原创 protobuf说明及使用
Protocol Buffers(protobuf)是Google开发的一种语言中立、平台中立、可扩展的序列化结构数据的机制。它主要用于数据存储和网络通信,尤其是在gRPC中。
2024-11-04 15:56:11
188
原创 skywalking单机部署及其使用
需要将 apache-skywalking-apm-bin-es7/agent 目录,拷贝到 Java 应用所在的服务器上。config SkyWalking OAP Server 配置文件。bin 执行脚本。
2024-10-28 14:22:45
280
原创 docker安装redis6.0.6并设置密码
docker run -d -p 6380:6379 --name redis -v /opt/db_data/redis/data:/data redis:6.0.0 --requirepass 123456
2024-03-07 17:05:48
576
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人