
大模型
文章平均质量分 96
半斤地瓜烧.
等仗打完,给你赏半斤地瓜烧。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
社区版Dify 基于vLLM部署Qwen2.5-VL系列视觉大模型与推理加速策略
Dify+vLLM+Qwen2.5-VL快速推理,实现Image/video Caption,视觉大模型聊天。原创 2025-04-10 17:45:05 · 2727 阅读 · 0 评论 -
Jetson Nano 三个版本(B01 4GB、Orin 4GB、Orin 8GB)本地部署Deepseek等大模型的测评
Jetson Nano 是Soc,小白请注意Jetson Nano 的 GPU 并不是独立的,(可不是那种4090迷你版),而是与 CPU 共享同一块内存(即 统一内存架构,Unified Memory Architecture, UMA)。这种设计在嵌入式设备和移动设备中非常常见,目的是为了节省空间、降低功耗和成本。原创 2025-03-19 23:44:36 · 1860 阅读 · 0 评论