- 博客(695)
- 收藏
- 关注
原创 从0到第一次对话:gemma-4-26B-A4B-it-w8a8-llmcompressor的vLLM推理代码逐行讲解
本文带你用 vLLM 快速跑通 gemma-4-26B-A4B-it-w8a8-llmcompressor 模型推理:这是一个由 AMD 用 LLM Compressor 完成 W8A8 量化的 Gemma4 MoE 模型,专为 AMD EPYC CPU(ZenDNN)优化,权重体积从 48.1 GiB 压缩到 25.3 GiB。下面我们把官方示例的 6 行代码逐行拆开讲,帮助你从 0 走到"第一
2026-11-03 18:49:32
538
原创 让AI跨会话记住你的架构决策:tokensave记忆工具3步实践
AI 编程助手最大的痛点之一:每次新会话,它都像一个刚入职的实习生,需要重新解释一遍"为什么用 JWT 而不是 session"、"这个目录是干嘛的"。**tokensave** 是一个 100% 本地运行的代码智能 MCP 服务器(40+ 工具、30+ 语言、9 个 Agent 集成),其中的**记忆工具(memory tools)**专门解决这个问题——通过 3 个简单的工具调用,让 AI 跨
2026-11-03 12:07:20
707
原创 ZeroLeaks 攻击分类大全:18 种提取攻击与 6 大注入类别完整清单
ZeroLeaks 是一款命令行 AI 安全扫描器(AI Security Scanner),用于检测 LLM 系统的提示词注入(prompt injection)与系统提示词提取(extraction)漏洞。本文完整梳理它的攻击分类体系:**18 种提取攻击类别 + 6 大注入行为类别**,并给出用命令行一键查看全部探针的方法,新手也能快速看懂每种"攻击"到底在测什么。## 先搞懂:Zero
2026-10-28 10:35:55
452
原创 飞书、钉钉、企业微信接入AI编程Agent:WeSight IM Agent Hub多通道配置实战
**WeSight 的 IM Agent Hub 功能可以让飞书、钉钉、企业微信等 IM 机器人直接驱动 AI 编程 Agent**,在聊天窗口里一句话就能调用 Claude Code、Codex、OpenClaw 等引擎完成编码任务。本文带你完成多通道接入配置。[
本文围绕 [bin/internal/README.md](https://link.gitcode.com/i/77db98b4a9af25509cf067c065498107) 展开,系统讲解本仓库(CPF-Flutter/flutter_flutter,即 Flutter SDK + Engine 的 OpenHarmony 适配版)如何通过 `bin/internal` 目录下的若干 `.
2026-10-14 16:48:56
657
原创 Forge 工具调用协议解析实战:以真实 LLM 回复理解 `forge_tool_call` XML 格式与解析链路
本文以仓库内真实留存的一段模型输出样本 [tool_call_01.md](https://link.gitcode.com/i/e6df492beebfe259ed30f32e18db2f88) 为线索,完整讲解 Forge 中 LLM 工具调用(tool call)的 XML 协议格式、解析器实现、容错兜底与测试验证机制。读完本文,你将理解一个"文本回复 + `<forge_tool_call
2026-09-27 09:53:15
324
原创 如何基于D2Admin快速搭建RBAC权限管理系统:动态路由与用户鉴权实战指南
D2Admin 是一款基于 Vue 的优雅后台管理仪表盘(Dashboard)框架。本指南以 D2Admin 为示例项目,带你完整走通如何基于**用户鉴权**(登录 Token)与**动态路由**搭建一套 **RBAC 权限管理系统**——从"登录 → 鉴权拦截 → 动态菜单 → 动态添加路由"的全流程,项目里全都内置了现成实现,克隆后本地运行即可看到效果。[的核心模型,它在保持BERT原有优势的基础上,通过创新性的位置编码技术突破了传统
2026-05-28 10:03:31
588
原创 ImageNet-21k预训练模型有多强?swin-large-patch4-window7-224-in22k性能深度测评
在计算机视觉领域,**ImageNet-21k预训练模型**已经成为提升下游任务性能的黄金标准。今天我们将深入测评微软推出的**Swin Transformer大型模型**——swin-large-patch4-window7-224-in22k,探索这个基于海量ImageNet-21k数据集训练的视觉Transformer模型究竟有多强大。🎯## 🔥 什么是Swin Transforme
2026-05-28 09:58:51
447
原创 如何在MindSpore上使用ChatGLM2-6B API:从基础调用到高级应用
ChatGLM2-6B是一款高效的开源对话模型,结合MindSpore深度学习框架,为开发者提供了强大的文本生成能力。本文将详细介绍如何在MindSpore环境中快速上手ChatGLM2-6B API,从基础安装到高级应用技巧,帮助新手轻松掌握AI对话模型的使用方法。## 准备工作:环境搭建与安装要开始使用ChatGLM2-6B API,首先需要准备MindSpore环境并获取项目代码。按
2026-05-28 09:42:30
321
原创 如何快速开始使用mT5-small-sum-de-mit-v1:德语文本摘要的终极指南
想要快速掌握德语文本摘要技术吗?mT5-small-sum-de-mit-v1是一款基于MIT许可证的开源德语文本摘要模型,专为处理德语内容而设计。这款由Deutsche Telekom AG开发的模型能够高效地将长文本压缩为简洁摘要,特别适合需要处理德语文档的开发者和研究人员。## 🚀 为什么选择mT5-small-sum-de-mit-v1?**mT5-small-sum-de-mi
2026-05-28 09:37:46
375
原创 Qwen3-VL-8B-Thinking高级教程:自定义生成参数优化与最佳实践
Qwen3-VL-8B-Thinking是Qwen系列中最强大的视觉语言模型,具备卓越的文本理解与生成能力、深度视觉感知与推理能力,以及增强的空间和视频动态理解能力。本教程将详细介绍如何通过自定义生成参数来优化模型输出,帮助新手用户轻松掌握参数调优的最佳实践。## 核心生成参数解析### 基础参数配置Qwen3-VL-8B-Thinking的默认生成参数配置可在[generation_c
2026-05-28 09:37:38
698
原创 从图片识别到视频理解:Qwen3-VL-8B-Instruct-FP8 10个实战案例
Qwen3-VL-8B-Instruct-FP8是一款功能强大的多模态AI模型,它能够同时处理图像和视频数据,实现从图片识别到视频理解的全方位视觉任务。本文将为您介绍10个基于该模型的实战案例,帮助您快速掌握其应用方法。## 1. 图像内容描述生成Qwen3-VL-8B-Instruct-FP8可以对输入的图像进行全面分析,并生成准确的内容描述。无论是风景照、人物照还是商品图片,模型都能捕
2026-05-28 09:37:02
957
原创 为什么选择Qwen3-VL-8B-Thinking?六大核心增强功能全面解析
Qwen3-VL-8B-Thinking是一款强大的多模态模型,专为图像-文本交互设计,能够实现从图像到代码的生成、精细视觉特征提取等多种高级功能。本文将深入解析其六大核心增强功能,帮助您全面了解这款模型的独特优势。## 一、Visual Coding Boost:图像到代码的智能转换Qwen3-VL-8B-Thinking的**Visual Coding Boost**功能可从图像或视频
2026-05-28 09:36:49
1107
原创 Qwen2.5-VL-7B-Instruct-quantized.w8a8部署终极指南:单流与多流异步性能深度对比
🚀 **Qwen2.5-VL-7B-Instruct-quantized.w8a8** 是一款经过INT8量化的高性能多模态AI模型,专为视觉-语言任务优化。这款模型在保持高精度的同时,通过先进的量化技术实现了显著的推理加速,是部署大规模视觉语言应用的理想选择。本文将为您提供完整的部署最佳实践,并深入对比单流与多流异步两种部署模式的性能差异。## 📊 模型核心优势与量化技术**Qwen
2026-05-28 09:18:07
1072
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅