- 博客(9)
- 问答 (2)
- 收藏
- 关注
RSS订阅原创 使用vLLM高效部署Qwen3系列模型的完整指南
本文介绍了使用vLLM框架部署Qwen3系列大语言模型的完整方案。Qwen3是阿里推出的新一代模型，支持多语言和两种思考模式，包含30B参数的基础模型和8B参数的Embedding/Reranker模型。文章详细讲解了模型下载、vLLM环境配置、服务启动命令及Docker部署方案，并提供了性能对比数据，显示Qwen3在综合得分、上下文长度和检索任务上显著优于竞品。最后给出了根据显存限制选择模型组合的建议，为开发者提供了一套完整的部署指南。
2025-08-26 13:28:07
690
原创 Rocky Linux 8 更换阿里云 repo 文件指南
本文介绍了将Rocky Linux 8系统软件源更换为阿里云镜像的详细步骤。主要内容包括：配置BaseOS、AppStream和Extras三个主要仓库源，清理并重建软件包缓存，以及验证配置是否成功。使用阿里云镜像能显著提升软件下载速度，同时保持与官方源同步。操作需要root权限，完成后可通过dnf repolist命令验证。该方法适用于需要优化软件包下载速度的Rocky Linux 8用户。
2025-07-15 16:24:43
930
原创 SpringBoot3 + LangChain4j + Redis 实现大模型多轮对话及工具调用
本文介绍了基于SpringBoot3和LangChain4j的智能对话系统实现。系统核心特性包括流式响应、多轮对话（基于Redis持久化）、工具集成和智能内存管理。技术栈采用SpringBoot 3.5.3、Java 21、LangChain4j 1.1.0-beta7和Redis等现代技术。文章详细讲解了项目结构、依赖配置（OpenAI和Redis）、Redis持久化存储实现，以及流式助手接口和自定义工具的开发要点。
2025-07-11 14:25:09
878
原创 用数组实现循环队列（一个新的思路）
用数组实现循环队列（新思路）用数组实现一个循环队列，难点就在于如何判断数组是否满了，不论是书上的方法，还是一些大佬的写法，都是利用一个计算去判断：（rear + maxSize - front） % maxSize有的小伙伴天资聪颖一下就理解了，有的小伙伴可能理解不够深刻，只能牢牢记住这个公式在这里我给大伙分享一种思路：其实上面的思路的本质就是：判断尾指针是否追上了头指针，很多小伙伴可能就在你追我，我追你的过程中就懵逼了其实我们完全可以忽略这个过程，我们只需要定义一个变量 size，add() 一
2022-01-27 18:27:12
1424
原创 使用 Java NIO 搭建一个聊天室
使用 NIO 搭建一个聊天室前面刚讲了使用 Socket 搭建了一个 Http Server，在最后我们使用了 NIO 对 Server 进行了优化，然后有小伙伴问到怎么使用 Socket 搭建聊天室，这节仍然使用 NIO 为基础进行搭建。一、NIO 聊天室入门案例该案例只有三个类：NioServer 聊天室服务端、NioClient 聊天室客户端、ClientThread 客户端线程。服务端代码：package com.fengsir.network.chatroom;import ja
2022-01-24 17:37:16
459
原创 使用Socket实现HttpServer（三）
使用Socket实现HttpServer（三）这一章继续对我们的服务器进行优化，引入 NIOpackage com.fengsir.network.step4;import java.io.IOException;import java.net.InetSocketAddress;import java.nio.ByteBuffer;import java.nio.channels.*;import java.nio.charset.StandardCharsets;import java
2022-01-24 16:49:47
248
原创 使用Socket实现HttpServer（二）
使用Socket实现HttpServer（二）前面我们使用 Socket 实现了一个简易的 HttpServer，接下来我们将对我们的服务器进行优化：面向对象的封装优化线程模型（引入多线程）Request/Response 对象抽象Step1（面向对象的封装）对我们之前所写的 HttpServer 进行面向对象封装。主要封装了 listen() 和 accept() 方法。package com.fengsir.network;import java.io.*;import jav
2022-01-24 15:33:04
937
1
原创 使用Socket实现HttpServer（一）
使用Socket实现HttpServer（一）Socket 编程socket 翻译过来叫插槽，一张图你就明白socket 就插在 TCP 也就是传输层上，对用户的请求和服务器的响应进行处理。下面我使用 socket 实现一个简易的 HttpServerpackage com.fengsir.network;import java.io.*;import java.net.ServerSocket;import java.net.Socket;/** * @Author FengZe
2022-01-24 13:29:56
631
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人