weixin_68089745的博客

原创 实验室服务器利用docker部署Llama3本地拉取打包上传流程

新手小白参考csdn上其他博主完成，开始接到这个小任务连docker怎么用完全不知道，最开始是直接用官方ollama指令下载，实在太慢了根本不行。准备工作，xshell连接服务器，下面的对服务器上的操作都是在xshell上面输入指令。我这里是Linux的服务器，学校的内网下直接输ip端口号连接输入密码就可以。可以修改docker配置文件，添加阿里云镜像，但是没有权限修改，（ubuntu的安全策略限制了）目前找到以下本地拉取后打包传输的解决方法。目前用的是学校的服务器，docker还有显卡是默认配置好了的。