- 博客(6)
- 收藏
- 关注
原创 【实战指南】vLLM框架安装教程:从零开始快速部署大语言模型推理加速
在大语言模型(LLM)应用开发中,高效的推理框架至关重要。vLLM作为一款专为LLM优化的开源推理引擎,通过创新的技术可实现高达30倍的吞吐量提升。本文将手把手教你完成vLLM的完整安装流程,助你快速开启高效推理之旅!
2025-03-24 18:23:47
344
原创 使用Ollama实现模型一键备份与恢复(附Windows/Linux脚本)
在使用Ollama进行大模型开发时,模型备份与迁移是开发者常遇到的需求。本文将介绍无需下载重复下载模型的备份恢复方案,并提供Windows/Linux双平台自动化脚本实现一键操作。#模型导出路径(备份的模型会放到这)#模型恢复路径(需要的模型会放到这,然后脚本识别一件恢复)#模型保存的路径#模型文件路径。
2025-03-24 18:07:57
600
原创 探索智能边界:深度求索(DeepSeek)技术全景解析与实战指南
探索智能边界:深度求索(DeepSeek)技术全景解析与实战指南 附赠DeepSeek从入门到精通(清华大学版).pdf
2025-02-11 15:46:26
714
原创 Linux(CentOS7.9)MongoDB的安装配置教程3个服务器+增量备份(带脚本)
这篇教程详细介绍了如何在 Linux 系统上安装和配置 MongoDB 数据库,并设置为主-从-仲裁模式的集群。首先介绍了 MongoDB 和 Compass 工具的基本信息,然后通过具体步骤,从下载安装包、配置系统字符集和时区,到安装 MongoDB 服务器和配置集群,每一步都详尽地指导了如何操作。接着,教程深入到如何在 MongoDB 中实现增量备份和还原,提供了全量和增量备份的脚本实例,并讲解了如何使用这些脚本进行数据备份和还原操作,以确保数据的安全性和可恢复性。最后,通过脚本自动化这些过程。
2024-03-29 10:13:47
2094
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人