第二章 Docker+Ollama封神!2步装Qwen+Deepseek小型模型

Docker+Ollama部署Qwen与Deepseek

宝子们!上篇 Ubuntu Docker 教程火了~ 好多宝子问怎么用 Docker 装 Ollama 跑大模型,今天安排上!不用复杂配置,2 步就能装完 Qwen 和 Deepseek 的小型库,本地就能聊,还不占太多内存👏

📌 前提:已装 Docker(没装的看上篇教程!)

先确认 Docker 在运行:终端输docker ps,能看到表头就没问题~ 没运行的话输sudo systemctl start docker启动

🔧 第一步:Docker 拉取 Ollama 镜像(超简单!)

打开终端(Ctrl+Alt+T),直接复制这条命令,回车:

sudo docker pull ollama/ollama

等待下载完成,期间可以喝口水~ 下载速度看网速,一般几分钟就好

📸 

🚀 第二步:启动 Ollama 容器 + 装 Qwen+Deepseek 小型模型

1. 先启动 Ollama 容器

### 部署DeepSeek本地模型的教程 #### 使用DockerOllama和Open-WebUI在Linux上的部署流程 为了成功部署DeepSeek本地模型,需先安并配置好Docker环境。对于Linux系统而言,推荐按照官方文档中的指导完成安过程[^1]。 一旦Docker准备就绪,下一就是拉取所需的镜像文件。这里涉及到两个主要组件:一个是用于处理数据流的应用程序`docker.io/sladesoftware/log-application:latest`[^2];另一个则是特定版本的日志收集工具`docker.io/elastic/filebeat:7.8.0`。不过针对DeepSeek项目本身,则需要找到对应的预构建镜像或是自行创建适合该模型运行的基础镜像。 关于Ollama的支持,在此假设其作为服务端的一部分被集成到了最终使用的容器化应用里。而Open-WebUI作为一个图形界面前端框架,可以方便开发者调试以及用户交互操作。通常情况下,这类web应用程序也会被打包成独立的Docker镜像来简化分发与部署工作。 下面是一个简单的Python脚本例子展示如何通过命令行调用API接口启动相关服务: ```python import subprocess def start_services(): try: # 启动日志收集器FileBeat filebeat_command = "docker run -d docker.io/elastic/filebeat:7.8.0" process_filebeat = subprocess.Popen(filebeat_command.split(), stdout=subprocess.PIPE) # 启动Log Application log_app_command = "docker run -d docker.io/sladesoftware/log-application:latest" process_logapp = subprocess.Popen(log_app_command.split(), stdout=subprocess.PIPE) output, error = process_filebeat.communicate() if error is None: print("Services started successfully.") else: print(f"Error occurred while starting services: {error}") except Exception as e: print(e) if __name__ == "__main__": start_services() ``` 值得注意的是,实际环境中可能还需要考虑网络设置、存储卷挂载等问题以确保各个微服务之间能够正常通信协作。此外,由于具体实现细节会依赖于所选的技术栈及业务需求,因此建议参考更多针对性强的学习资源如《Docker入门到实践》一书获取深入理解。 最后提醒一点,当涉及敏感信息传输时务必遵循安全最佳实践原则保护隐私不受侵犯。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值