- 博客(28)
- 问答 (2)
- 收藏
- 关注
原创 gRPC 实战教程:从 Protobuf 到 FastAPI,一篇讲清核心原理与开发实践
本文从 RPC 基础出发,介绍 gRPC 的核心原理、性能优势及其与 REST 的差异,并通过 Python Demo 演示 Protobuf 定义、代码生成、四种 RPC 通信方式、错误处理、Metadata、压缩和拦截器。文章还说明了 gRPC-Web、Envoy、HTTP/JSON 转码,以及 gRPC 与 FastAPI 共存时的异步调用、生命周期和部署边界,帮助读者以尽可能简单的方式理解并落地 gRPC。
2026-07-02 11:52:39
375
原创 TEI Inference Toolkit - 工业级Embedding/NLI /Reranking服务调用最佳实践
tei-inference-toolkit 是一个轻量级 Python 工具包,为 Hugging Face TEI 的三种服务模式(Embedding、NLI 分类、Cross-Encoder 重排序)提供独立的客户端模块,并封装了连接池、端点轮询、缓存去重等共享资源逻辑,让 TEI 服务调用更清晰高效。GitHub:https://github.com/AnchorYYC/tei-inference-toolkit
2026-04-03 15:40:30
412
原创 Docker入门
本文系统介绍了Docker容器技术的核心概念与应用实践。主要内容包括:Docker三大核心组件(镜像、容器、仓库)及其工作原理;详细安装指南(Linux/Windows/Mac);容器管理命令(运行、调试、日志查看);数据持久化方案(Volume);网络配置(Bridge/Host/None模式);Dockerfile编写与镜像构建;以及使用Docker Compose编排多容器应用。特别以部署Huggingface TEI推理服务为例,展示了GPU容器的典型配置方法。文章还涵盖了镜像加速、容器调试等实用技
2026-03-09 11:03:03
503
原创 从日志与源码白盒定位 vLLM 接口的通用方法(以 /v1/score 为例)
本文针对vLLM等Python服务库接口文档不可信的问题,提出了一套白盒排查流程。通过分析运行日志定位入口文件(如api_server.py),在源码中建立路由索引,追踪请求类型(如ScoreRequest)和实现逻辑,最终确定真实接口契约。该方法适用于FastAPI/Flask/Starlette框架,解决了接口溯源问题,帮助开发者绕过错误文档直接获取准确接口信息,包括参数格式和批量处理支持等核心细节。
2026-02-04 21:47:37
1092
原创 基于 vLLM 的 Reranker 部署实用方案
Reranker模型的生产就绪vLLM部署,支持冷启动推理和热启动服务器模式。提供稳定的/v1/rerank和/v1/score API、可复用的Python客户端,以及在现实工作负载中对Qwen3-Reranker 0.6B/4B/8B的验证支持。
2026-02-04 16:44:25
1690
原创 使用 Gradio 构建支持语音/图像输入的 AI 聊天机器人完整项目
MultimodalChat 是一个开源多模态对话系统,支持文本、语音、图像和视频输入,提供 ModuText(转文字后调用 LLM)和 MultiFlow(多模态直连大模型)两种处理路径。项目基于 Gradio 构建网页界面,支持聊天记录保存、上下文修剪、摘要记忆、流式输出与输入锁定机制,兼容 Qwen、GLM 等模型,提供本地部署指南,模块化设计便于扩展,适合学习多模态对话系统开发。
2025-07-17 09:38:09
1192
原创 解决Python升级后CMD仍显示旧版本:环境变量优先级问题详解
为什么安装新Python后命令行还是旧版?系统变量与用户变量的隐藏陷阱。场景复现:"明明下载了Python 3.12,安装时勾选了『Add to PATH』,但cmd输入却显示旧版3.8?重启也没用"——这是典型的问题,本文将彻底解析原因并提供三种解决方案。
2025-07-02 23:32:26
2960
原创 3/13/24运算符、补码、整型、浮点型、汇编
目录三目运算符逗号运算符自增自减运算符位运算运算符优先级补码讲解整型解析溢出解析浮点数IEEE754标准解析浮点数精度丢失真题汇编指令生成汇编方法常用指令条件运算符是C语言中唯一的三目运算符。通过判断问号之前的表达式的真假,来确定整体表达式的值。result=(condition)?a:b;condition为true时,result=a;为false时,result=b。条件运算符高于赋值运算符。逗号运算符的优先级最低。逗号表达式的整体值是最后一个表达式的值。eg:if(i,j-1)//并不会进入if内,
2024-03-13 17:24:11
1122
原创 3/10/24二叉树权值、单链表双指针查找、顺序查找、二分查找、二叉排序树
二叉树各叶结点深度即递归层数。链表查找第k个,快指针先走k个,再一起遍历知道快指针到链表尾。二分查找注意循环推出条件low<=high。二叉排序树中序遍历即升序排列顺序。注意各类型逻辑熟练,其次考虑代码实现。
2024-03-10 23:59:34
396
1
原创 3/5/24函数、结构体、C++引用、逻辑存储结果、时间复杂度、线性表、单链表
函数之间的调用关系是:由主函数调用其它函数,其它函数之间可以互相调用。同一个函数可以被一个或多个函数调用任意次,同样也可以调用任意次其它函数。可以嵌套调用,但不支持嵌套定义。
2024-03-05 23:52:31
756
原创 3/4/24运算符、关系逻辑表达式、循环体语句、一维数组、指针
在内存区域中每个字节都对应一个编号,即”地址”。在程序定义变量进行编译时,系统会给变量分配内存单元。按变量地址存取变量值的方式称为“直接访问”。而另一种,将存放变量值的地址放到一种特殊的存放地址的变量中,即指针变量,这种通过指针变量存取变量值的方式称为“间接访问”。基本数据类型 *指针变量名;指针变量前面的“*”表示该变量为指针变量。自定义指针变量时必须指定其类型。指针变量的类型必须与存放地址所对应值的类型一致。&和*优先级别相同,但要按照自右向左的方向结合。与int *a, *b, *c;不同。
2024-03-04 23:42:24
877
1
原创 3/3/24基类型、进制转换、类型转换、printf、scanf
十进制短除法余数反向对应相应进制的大端,低位在后、高位在前,注意最高位为符号位,而CPU采用小端方式进行数据存储,低位在前、高位在后。eg:十进制123,十六进制为7b,在电脑端表示为7b000000,而不是b70000,7b为1B整体。格式串在通过匹配而读取结束后会在缓冲区会剩余一个回车(\n)无法读取,在后续的匹配中缓冲区的第一位是上一个匹配读取所遗留的回车(\n),注意遗留的回车(\n)对后续匹配的影响。指数形式e表示10的幂次,幂次可正可负,e之前必须有数字,且e之后的指数必须为整数。
2024-03-03 23:25:17
561
原创 Ubuntu源码安装配置PostgreSQL
源码安装PostgreSQL可以自定义配置,省去很多apt默认安装带来的配置冲突,在后续使用中会遇到诸多问题。一般生产都是推荐源码安装,更灵活,标准化。此处为大家提供源码安装的演示。提前说明演示中的各文件路径供参考...
2023-12-06 12:17:28
1960
13
原创 SLF4J: Failed to load class “org.slf4j.impl.StaticLoggerBinder“. Defaulting to no-operation (NOP)
重构maven项目,点击方框或在右侧Maven中点击箭头所指的重新加载。在maven 项目pom.xml文件中引入如下依赖。
2023-09-27 20:14:53
242
1
原创 配置Python安装pip默认镜像
使用pip安装第三方库时,由于网络限制下载时间太久,也可能会报错:安装超时每次pip安装都需要繁琐地输入镜像为此,可以修改默认的pip源下载路径为国内镜像,之后就不需要手动指定了
2022-12-01 11:21:33
4176
原创 Maven安装和配置
最开始一个项目,项目的jar包是直接放在项目lib文件夹下的,需要别的依赖,在单独新建文件夹。 随着项目演变的过程中,依赖会特别的多,最终有可能导致,生产开发依赖版本不一致,研发与研发之间的版本不一致,造成版本冲突。然后项目中依赖会越来越多,导致项目十分的臃肿。项目在开发过程中,每天需要编译,打包,测试。有很多重复的工作要做。通过maven我们就可以缩减这些重复的工作,全部交给maven来完成。
2022-10-19 17:07:42
3553
5
原创 Scala从安装配置到入门基础
Scala是一门多范式的编程语言。是一种纯面向对象的语言,每个值都是对象。同时也是一种函数式语言,其函数也能当成值来使用。由于Scala整合了面向对象和函数式编程的特性,因此Scala相对于Java、C#、C++等其它语言更简洁。本文章将通过简单的案例教会大家如何简单的使用Scala编程,大家也可以模仿案例动手实践有助于自己入门学习Scala也是运行在JVM上的语言,所以必须确认环境中安装了JavaWindows安装直接在官网下载后,在本地高级系统设置中添加bin目录地址环境即可............
2022-08-30 14:38:46
7740
23
原创 MongoDB基础数据库集合操作
需要注意在使用方法时注意养成以下习惯:1、MongoDB的命名中严格遵守驼峰式命名2、shell命令中无法进行指令提示需要手动敲出一对括号和引号,为避免漏掉成对的符号,最好一次性敲完一对首先,启动mongo shell1 数据库操作1.1 新建数据库MongoDB中,use是集创建和切换数据库两种功能为一体的指令,若指定的数据库不存在,则创建新数据库,否则切换到指定的数据库下面创建一个新数据库db_demouse db_demo出现如图返回结果,数据库db_
2022-03-12 02:23:37
7599
1
原创 MongoDB安装部署
对于自身作为刚接触MongoDB的初学者而言,使用命令提示符更有利于入门学习,在此就只介绍如何安装部署MongoDB服务器。MongoDB Compass的使用本文不做说明。此处进入官网MongoDB Community Download | MongoDB,按照下图提示选择对应的版本和操作系统后点击下载下载完成后,双击启动安装出现下图所示,点击“Next”勾选接受协议,点击“Next”注意此处选择“Custom”后,点击“Next”进行自定义安装点击“Bro...
2022-03-12 00:36:47
2218
原创 安装Python模块之后仍显示未安装
目录问题原因解决方法1、更换pycharm解释器2、添加另一个解释器的模块内容问题原因电脑安装了python又安装pyhcram,pychram又自带python解释器,这个时候你的电脑安装了两个python解释器。由于你在电脑命令行用pip命令安装了模块,是安装在你电脑的python2/3而非pychram的python解释器,导致使用pycharm无法找到该模块项目。解决方法因此我们可以通过两种方式进行解决:1、更换pycharm解释器2、对pycharm添加另.
2021-07-16 11:41:23
6686
3
空空如也
c语言在printf内写多余操作
2023-04-08
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅