本文讲述了作者在Windows11上安装部署私有知识库，如MetaLlama3和StableDiffusion，选择不使用docker而采用ollama-ui和saddle简化WebUI的过程，进而探讨了Docker的核心概念，如镜像、容器和仓库，以及Docker的安装和使用，包括在Windows上的配置和测试，最后强调了Docker以空间换时间的特点和对SSD盘的影响。
近来，笔者想好好学习和应用一下AIGC技术，在Windows主机安装部署私有知识库（Window 11本地部署 Meta Llama3）以及Stable Diffusion等（Stable Diffusion Windows本地部署超详细教程Window 11本地部署 Meta Llama3-8b），在本地部署Llama3实践过程中，作为一个有一点“简洁控”的我，不想让自己的电脑安装太多软件，其Web前端没有使用Ollama官方推荐以及大多数人所使用的docker+open-webui方案，而采用最为简单的ollama-ui和saddle作为WebUI，回避了docker软件的安装。而今天想要安装部署anything-llm以实现在本机部署私有知识库时，发现官方还是建议采用docker来部署AnytingLLM。虽然，Anything-LLM也利用NodeJS直接部署，但毕竟还是没有现成的docker一键部署方便。看来docker是一个不能忽略的工具了，人生苦短，得抓住重点，先把RAG+LLM的框架搭建起来再说，后面再抽空学习和研究相关细节。既然这样，那就把Docker安装起来吧，
一、 Docker简介
Docker 是一个开源的应用容器引擎，开发者可以打包他们的应用以及依赖包到一个轻量级、可移植的容器中，然后发布到任何流行的Linux机器上，也可以实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口。
最低0.47元/天 解锁文章
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
