SYC_MORE-优快云博客

原创 YOLOv11快速上手：如何在本地使用TorchServe部署目标检测模型

YOLOv11 是当前最新的目标检测模型，凭借其卓越的效率和准确性广泛应用于图像分割、姿态估计等任务。本文详细介绍了如何使用YOLOv11训练目标检测模型并在本地使用TorchServe部署。包括模型训练、模型导出为TorchScript、创建模型存档、启动TorchServe进行推理测试以及通过curl命令验证部署模型。适合对YOLO系列感兴趣的开发者快速入门。

2024-10-22 11:34:53 896 1

原创 YOLOv11 快速上手：训练你的第一个目标检测模型

本文提供了一个关于如何使用YOLOv11进行目标检测模型训练的详细教程。首先介绍了环境准备和数据集的结构与配置，随后通过具体的命令指导你如何基于预训练模型进行训练，并解释了常用的训练参数及其优化技巧。文章还包含了如何验证模型性能、调试参数以及实验结果评估的方法，帮助你快速掌握YOLOv11的基本操作和模型训练流程。

2024-10-17 17:23:51 1297

原创一文带你了解 YOLOv11：入门操作与配置详解

这篇文章为读者提供了关于YOLOv11模型的入门指南，详细介绍了YOLOv11的安装、训练、验证等基本操作，并通过对比不同版本的YOLO模型，帮助读者快速上手目标检测任务。文章还涵盖了YOLOv11的常用配置参数以及如何应用这些参数进行有效的模型训练。通过该指南，读者可以轻松完成YOLOv11模型的基础配置，并为深入应用该模型打下基础。大部分内容基于官方文档，确保操作的准确性和易用性。

2024-10-17 16:34:56 5412 1

原创 SGLang实战：从Qwen2.5-32B参数调优到多节点性能突围

在大型语言模型的生产部署中，SGLang凭借其创新的RadixAttention技术，正在成为替代vLLM的新一代推理引擎。本文基于Qwen2.5-32B的实战经验，详细解析关键参数配置与性能调优技巧。

2025-04-08 11:10:02 210

原创 SGLang实战问题全解析：从分布式部署到性能调优的深度指南

SGLang的强大性能源自对系统各层级的深度优化，而充分理解其运行机制，才能在大模型落地的最后一公里中占据先机。记住：没有放之四海皆准的最优配置，只有与业务场景深度契合的调参哲学。

2025-04-08 10:52:01 548

原创 SGLang实战：从KV缓存复用到底层优化，解锁大模型高效推理的全栈方案

在当今快速发展的人工智能领域，大型语言模型(LLM)的应用已从简单对话扩展到需要复杂逻辑控制、多轮交互和结构化输出的高级任务。面对这一趋势，如何高效地微调并部署这些大模型成为开发者面临的核心挑战。本文将深入探讨SGLang——这一专为大模型设计的高效推理引擎与结构化生成语言，揭示它如何通过软硬件协同设计理念，从后端运行时系统到前端编程语言进行全面优化，为开发者提供更快速、更可控的大模型微调与部署体验。

2025-04-08 10:28:28 158

原创 vscode 配置 Copilot 提示GHE.com连接失败

点击菜单栏中的 “文件” -> “首选项” -> “设置”。在搜索设置栏中输入 “Copilot: Advanced”。点击搜索结果下方的 “在 settings.json 中编辑” 链接，这会打开 settings.json 文件。

2025-02-20 16:24:11 1612 17

原创使用uTools的插件快速获取热点资讯

uTools 是一款集成多个实用工具的插件管理平台，用户可以方便地安装和管理各种插件，以提升日常效率。“资讯风向标”插件正是基于uTools而设计的一款资讯聚合工具，通过它，用户可以在一个平台上快速获取多平台的实时热点资讯。“资讯风向标”插件在uTools平台上的集成，使得您的日常信息获取更加便捷、快速，是一款不可多得的实用资讯工具。

2024-11-07 15:47:25 275

原创 ‘ChatGLMTokenizer‘ object has no attribute ‘sp_tokenizer‘

将self.sp_tokenizer = SPTokenizer(vocab_file, num_image_tokens=num_image_tokens)移动到super().

2024-05-09 12:52:40 316

原创 Error loading Python lib ‘/tmp/＜tmp_dir＞/libpython3.8.so.1.0‘

改为安装Miniforge3。

2024-03-07 11:34:25 1421

原创 OSError: [E050] Can‘t find model ‘en_core_web_sm‘.

这个错误信息表明在尝试使用spacy.load(‘en_core_web_sm’)加载SpaCy的英文模型en_core_web_sm时遇到了问题。错误原因是因为SpaCy无法找到名为en_core_web_sm的模型。这通常是因为该模型尚未被安装。

2024-02-28 14:58:30 675

原创 $‘\r‘: 未找到命令

这个错误是因为脚本文件包含了 Windows 风格的换行符（CR LF），而不是 UNIX/Linux 所期望的换行符（LF）。在 UNIX/Linux 系统中执行含有 Windows 换行符的脚本会导致未找到命令和语法错误的问题，因为 shell 无法正确解析文件。可以使用 dos2unix 工具来转换文件的换行符，从而解决这个问题。如果你的系统中还没有安装 dos2unix，你可以根据你的 Linux 发行版安装它。安装 dos2unix。

2024-02-27 18:42:20 1166

原创 ImportError: liblapack.so.3: cannot open shared object file: No such file or directory

遇到 ImportError: liblapack.so.3: cannot open shared object file: No such file or directory 错误表明系统中缺少 LAPACK（线性代数包）库，这是执行科学计算常需的一个库，特别是在使用像 NumPy 或 SciPy 这样的 Python 库进行矩阵运算时。

2024-02-27 18:27:40 1197

原创 ImportError: libblas.so.3: cannot open shared object file: No such file or directory

在Debian或Ubuntu系统上，你可以通过安装libblas-dev包来解决这个问题。

2024-02-27 18:24:17 1205

原创 centos7.6配置华为310NPU

显卡驱动对内核版本有要求，centos系统仅支持7.6和8.3。

2024-02-27 15:12:19 865

原创 can‘t decompress data； zlib not available

安装依赖zlib、zlib-devel。

2024-02-27 14:39:15 755

原创 libpython3.7m.so.1.0: cannot open shared object file: No such file or directory

该方法为临时方案，后续需要自己编译python生成libpython3.7m.so.1.0文件。将对应libpython3.7m.so.1.0放到项目文件下。

2024-02-27 11:47:17 636

原创 ModuleNotFoundError: No module named ‘_ssl‘

【代码】ModuleNotFoundError: No module named ‘_ssl‘

2024-02-27 11:08:21 1188

原创 One of the configured repositories failed

【代码】One of the configured repositories failed。

2024-02-27 09:13:49 385

原创 [ERROR]The list of missing tools: lspci,ifconfig

【代码】[ERROR]The list of missing tools: lspci,ifconfig。

2024-02-26 11:53:56 736

原创 TorchServe部署模型-index_to_name.json

torchserve --start --model-store model_store --models 模型名=模型名.mar。TorchServe部署模型时候将模型输出结果对应到指定标签上的文件。

2024-01-19 15:15:01 447

原创 RuntimeError: result type Float can’t be cast to the desired output type long int

yolov5模型训练时候报错。

2024-01-19 15:04:01 408

原创 TorchServe部署问题-curl: (7) Failed connect to localhost:8080； Connection refused

创建镜像环境但是没有吧8080端口映射到本地主机，2.问题原因：Nginx未安装。3.问题原因：容器端口未映射。临时处理方案：在容器内使用。（1）查看防火墙状态。

2024-01-19 14:51:22 1051

原创 TorchServe部署模型-handler文件

目标检测类TorchServe打包mar文件所需的handler文件：目标检测类yolov5。

2024-01-19 14:30:40 716

原创 python捕获异常并重启程序

【代码】python捕获异常并重启程序。

2023-08-15 15:27:04 267

原创 Ubuntu设置定时重启

定时重启

2023-08-14 13:36:37 1765

原创 WARNING: Ignoring invalid distribution

WARNING: Ignoring invalid distribution（目录地址）根据提示到指定目录地址中删除~开头的文件。一般是由于下载过程中异常终止导致的。

2023-04-19 17:45:00 2107

原创 Vscode更新后远程服务器连接不上

到系统盘指定文件夹下.ssh文件夹中打开known_hosts文件找到要连接的服务器地址，删除对应行。Vscode更新后远程服务器连接不上，输入密码后一直弹出密码框。使用Vscode打开该文件，删除其中连不上的主机对应行即可。(.ssh文件夹为隐藏文件)

2022-12-08 14:09:37 919

原创 No module ‘xformers‘. Proceeding without it.

通过python命令行安装确认运行时python版本，不确定的话进创建的虚拟环境中找到python文件运行下述命令 stable-diffusion-webui-master\虚拟环境名称\Scripts\python.exe）下载xformers-0.0.14.dev0-cp310-cp310-win_amd64.whl文件。

2022-12-02 18:06:26 36476 7

原创 SSLError(SSLEOFError(8, ‘EOF occurred in violation of protocol (_ssl.c:852)‘),)

novelai运行时提示上述错误。

2022-12-02 17:13:31 1293

原创 You can skip this check with --disable-safe-unpickle commandline argument.

运行时增加–disable-safe-unpickle。NovelAI运行时会提示上述错误。

2022-12-02 17:10:07 2212

原创 DefaultCPUAllocator: not enough memory: you tried to allocate

解决方案（1）：重启电脑/使用任务管理器关闭多余应用释放系统内存（临时方案）解决方案（2）：增加电脑虚拟内存（建议选该方案）

2022-12-02 16:44:27 21423 3

原创 GitHub Copilot could not connect to server.

在切换账号时出现GitHub Copilot could not connect to server. Extension activation failed: "Thank you for participating in the GitHub Copilot Technical Preview. Your extended access has ended.错误。针对上述问题，由于VScode上登录的github账号未切换导致。重新切换为GitHub Copilot的github账号即可。

2022-09-29 09:51:51 10418