项目环境
- 1.语言 python 3.8
- 2.框架 django 3.1.4
- 3.系统 Ubuntu 18.0.4
开发机上准备
- 1.已经经过测试,系统无bug
- 2.用pip freeze > requirements.txt将当前环境的包导出到requirements.txt文件中,方便部署的时候安装。
- 3.将项目上传到服务器上的/srv目录下。这里以git为例。使用git比其他上传方式(比如使用pycharm)更加的安全,因为git有版本管理的功能,以后如果想要回退到之前的版本,git轻而易举就可以做到。
- 4.在https://git-scm.com/downloads下载Windows版本的客户端。然后双击一顿点击下一步安装即可。
- 5.然后使用码云,在码云上创建一个项目。码云地址:https://gitee.com/
- 6.然后进入到项目中,使用以下命令做代码提交:
# 初始化一个残酷
* git init
# 添加远程的仓库地址
* git remote add origin xxx.git
# 添加所有的代码到缓存区
* git add .
# 将代码提交到本地仓库
* git commit -m 'first commit'
# 从码云仓库上拉数据下来
* git pull origin master --allow-unrelated-histories
# 将本地仓库中的代码提交到远程服务器的master分支上
* git push origin master
在服务器上的准备工作
1.ubuntu开启root用户:
*sudo passwd root
# 然后输入root用户的密码
2.安装vim:
*sudo apt install vim
. 2.1 pip3报错
在常用pip3中 pip3 install -r requirements.txt
可能会提示
Command 'pip3' not found, but can be installed with:
sudo apt install python3-pip
装python3-pip会显示已经安装python3-pip is already installed
用下面的命令行即可
locate pip3 //查看pip3的位置
提示:
/home/××/PycharmProjects/untitled/venv/bin/pip3
/home/××/PycharmProjects/untitled/venv/bin/pip3.6
/usr/share/man/man1/pip3.1.gz
/var/crash/_usr_bin_pip3.0.crash
sudo ln -s /home/××/PycharmProjects/untitled/venv/bin/pip3.6 /usr/local/bin/pip3
3.如果数据库用到本地数据库则安装MySQL服务器和客户端:
*sudo apt install mysql-server mysql-client
# 后台需要安装mysql驱动
*pip3 install PyMySQL
# 系统目录下(ne_op_sys)->__init__要对数据库初始化
*import pymysql
*pymysql.install_as_MySQLdb()
4.如果用到本地redis则需要安装redis服务端:
*sudo apt-get install redis-server
5.安装virtualenvwrapper,并创建好项目要用到的虚拟环境:
*pip3 install virtualenvwrapper
安装完virtualenvwrapper后,还需要配置virtualenvwrapper的环境变量。
首先通过which virtualenvwrapper.sh命令查看virtualenvwrapper所在的路径。
在当前用户目录下创建.virtualenv文件夹,用来存放所有的虚拟环境目录。
在当前用户目录下编辑.bashrc(切换到home目录 cd ~)文件,添加以下代码:
export WORKON_HOME=$HOME/.virtualenvs
export VIRTUALENVWRAPPER_PYTHON=/usr/bin/python3
export VIRTUALENVWRAPPER_VIRTUALENV=/usr/local/bin/virtualenv
source /usr/local/bin/virtualenvwrapper.sh
然后退出bashrc文件,输入命令source ~/.bashrc。
如果Ubuntu系统中既有python2和python3,而且virtualenvwrapper又安装在python3中,执行source的时候就要报错
这时候只需要将virtualenvwrapper.sh 中的python指向改成python3就可以解决问题
改好后,在执行source ~/.bashrc。
*mkvirtualenv xxx-env
6.安装git
*sudo apt install git
7.使用git下载项目代码:
* git init
* git remote add origin https://gitee.com/jingyixiansheng/ne_op_xxx
* git pull origin master
8.进入虚拟环境中,然后进入到项目所在的目录,执行命令:
*pip install -r requirements.txt
,安装项目依赖的包。如果提示OSError: mysql_config not found,那么再安装sudo apt install libmysqld-dev即可。
9.进入mysql数据库中,创建好项目的数据库。
#进入mysql 输入指令
* mysql -uroot -p
#此时的用户是root用户,密码如果没有单独设置默认为root
*root
# 显示全部数据库
<mysql show databases
# 创建数据库(utf8中间不能有-)
<mysql CREATE DATABASE xxx CHARACTER SET utf8 COLLATE utf8_general_ci;
# 如果migrate的时候报django.db.utils.InternalError: (1698, "Access denied for user 'root'@'localhost'"
# 错误则还需要创建一个跟root一样权限的用户
*<mysql create user '用户名'@'localhost' identified by '用户密码 ';
*<mysql grant usage on *.* to 'xxx'@'localhost';
*<mysql grant all privileges on 数据库名.* to 'xxx'@'localhost';
# 如果遇到了以下报错
pymysql.err.DataError: (1406, "Data too long for column '字段名' at row 1")
# 优先检查是是不是字段中的max_length值过小
pic = models.FileField(verbose_name='上传图片', max_length=512, blank=True, null=True)
# 如果没有设置max_length,默认的varchar长度为100,如果改变长度还有上面的错误信息在考虑下面的方法
# 在mysql服务器执行
set@@global.sql_mode='';
10.执行python manage.py makemigrations/migrate将模型映射到数据库中
11.执行python manage.py runserver 0.0.0.0:8000,然后在自己电脑上访问这个网站,确保没有BUG
12.在settings.py中的ALLOWED_HOST添加网站的域名或者ip地址。最好是有两套settings配置,在settings.py同目录下创建local_settings.py,把敏感数据和一些配置写在local_settings.py中,在settings的后面在导入local_settings.py
try:
from .local_settings import *
except ImportError:
print(ImportError)
设置DEBUG=False,避免如果你的网站产生错误,而将错误信息暴漏给用户。
ALLOWED_HOST=[‘www.baidu.com’, ‘1.1.1.1’] 都可以写在local_settings.py中,local_settings.py不要同步到git服务器,部署的时候手动添加到服务器。
13.在settings.py中配置STATIC_ROOT,用来存储收集的静态文件。收集静态文件的命令如下:
python manage.py collectstatic
方便后面用nginx做代理服务器的时候寻找静态文件
安装和配置uwsgi
uwsgi是一个应用服务器,非静态文件的网络请求就必须通过他完成,他也可以充当静态文件服务器,但不是他的强项。uwsgi是使用python编写的,因此通过指令
pip3 install uwsgi
就可以了。(uwsgi必须安装在系统级别的Python环境中,不要安装到虚拟环境中)。然后创建一个叫做uwsgi.ini的配置文件:
[uwsgi]
# 必须全部为绝对路径
# 项目的路径
chdir = /srv/xxx
# Django的wsgi文件
module = xxx.wsgi
# Python虚拟环境的路径
home = /root/.virtualenvs/xxx-env
# 进程相关的设置
# 主进程
master = true
# 最大数量的工作进程
processes = 10
# 如果静态文件也是uwsgi处理
http = :80
# 如果是用nginx处理静态文件 则是监听socket
socket = /srv/xxx/xxx.sock
# 设置socket的权限
chmod-socket = 666
# 退出的时候是否清理环境
vacuum = true
# 如果用到supervisor管理uwsgi进程 需要注销下面的日志以防止程序假死
daemonize = /var/log/xxx_uwsgi.log
然后通过命令:
uwsgi --ini uwsgi.ini
运行,确保没有错误。然后在浏览器中访问http://ip地址,如果能够访问到页面(可能没有静态文件)说明uwsgi配置没有问题。
安装和配置nginx:
- 虽然uwsgi可以正常的部署我们的项目了。但我们还是依然要采用nginx来作为web服务器。使用nginx来作为web服务器有以下好处:
- nginx作为专业的web服务器,暴露在公网上会比uwsgi更加安全一点。
- 运维起来更加方便。比如要将某些IP写入黑名单,nginx可以非常方便的写进去。而uwsgi可能还要写一大段代码才 能实现。
- uwsgi对静态文件资源处理并不好,包括响应速度,缓存等。
安装nginx
通过过指令:
apt install nginx
即可以安装
nginx简单操作命令:
- 启动:service nginx start
- 关闭:service nginx stop
- 重启:service nginx restart
- 重载:service nginx reload
- 测试配置文件:service nginx configtest
添加配置文件:
修改nginx配置有两种途径:
1.在/etc/nginx/nginx.conf直接修改;
2.不破坏原有文件在/etc/nginx/conf.d目录下,新建一个文件,叫做xxx.conf,然后将以下代码粘贴进去:
3. 如果需要配置https ssl 443
4. 腾讯云 -> SSL证书管理 -> 申请
下载证书,将对应的nginx服务器证书上传到腾讯云上
在配置nginx需要用到,本文将证书放到/etc/nginx/SSL文件夹
# 创建sock和uwsgi通信
upstream xxx{
server unix:///srv/xxx/xxx.sock;
}
# 配置服务器
server {
# 监听的端口号
listen 80;
# 域名
server_name www.cncxxx.com;
charset utf-8;
# 如果还要配置ssl,这里可以重写定向到 443 ssl
rewrite ^(.*)$ https://$host$1 permanent; # 默认强制使用https对http进行跳转
# 最大的文件上传尺寸
client_max_body_size 75M;
# 静态文件访问的url
location /static {
# 静态文件地址
alias /srv/xxx/static_dist;
}
# 最后,发送所有非静态文件请求到django服务器
location / {
uwsgi_pass xxx;
# uwsgi_params文件地址
include /etc/nginx/uwsgi_params;
}
}
# HTTPS server
# 如果不需要配置443则删除以下配置
server {
listen 443 ssl;
server_name www.cncxxx.com;
ssl_certificate /etc/nginx/SSL/1_www.cncxxx.com_bundle.crt; # 指定对应的证书
ssl_certificate_key /etc/nginx/SSL/2_www.cncxxx.com.key; # 指定对应的私钥
ssl_session_cache shared:SSL:1m;
ssl_session_timeout 5m;
ssl_ciphers HIGH:!aNULL:!MD5;
ssl_prefer_server_ciphers on;
# 最大的文件上传尺寸
client_max_body_size 75M;
# 静态文件访问的url
location /static {
# 静态文件地址
alias /srv/xxx/static_dist;
}
# 最后,发送所有非静态文件请求到django服务器
location / {
uwsgi_pass xxx;
# uwsgi_params文件地址
include /etc/nginx/uwsgi_params;
}
}
写完配置文件后,为了测试配置文件是否设置成功,运行命令:
service nginx configtest
如果不报错,说明成功。
每次修改完了配置文件,都要记得运行service nginx restart。
使用supervisor管理进程:
让supervisor管理uwsgi,可以在uwsgi发生意外的情况下,会自动的重启。
安装supervisor:
因为supervisor是用python写成的,所以通过pip即可安装。
pip3 install supervisor
配置supervisor:
在项目的根目录下创建一个文件叫做supervisor.conf,然后将以下代码填入到配置文件中:
# 可以在一个配置中写多个守护任务
# supervisor的程序名字
[program:xxx]
# supervisor执行的命令 这里要注意uwsgi.ini的绝对路径 如/home/ubuntu/uwsgi.ini
command=uwsgi --ini uwsgi.ini
# 项目的目录
directory = /srv/xxx
# 开始的时候等待多少秒
startsecs=0
# 停止的时候等待多少秒
stopwaitsecs=0
# 自动开始
autostart=true
# 程序挂了后自动重启
autorestart=true
# 输出的log文件
stdout_logfile=/srv/xxx/log/supervisord.log
# 输出的错误文件
stderr_logfile=/srv/xxx/log/supervisord.err
[supervisord]
# log的级别
loglevel=debug
[inet_http_server]
# supervisor的服务器
port = :9001
# 用户名和密码
username = xxadmin
password = 123
# 使用supervisorctl的配置
[supervisorctl]
# 使用supervisorctl登录的地址和端口号
serverurl = http://127.0.0.1:9001
# 登录supervisorctl的用户名和密码
username = admin
password = 123
[rpcinterface:supervisor]
supervisor.rpcinterface_factory = supervisor.rpcinterface:make_main_rpcinterface
然后使用命令supervisord -c supervisor.conf运行就可以了。
以后如果想要启动uwsgi,就可以通过命令supervisorctl -c supervisor.conf进入到管理控制台,然后可以执行相关的命令进行管理:
- status # 查看状态
- start program_name #启动程序
- restart program_name #重新启动程序
- stop program_name # 关闭程序
- update # 修改配置文件后需要执行这个命令
- reload # 重新加载配置文件
- quit # 退出控制台
supervisor可以管理非守护进程,项目中还要用到celery也是需要用到supervisor来管理进程。
# 使用supervisor来管理uwsgi进程,需要把uwsgi的日志功能关闭
# ##############################################################################
# supervisor的程序名字
[program:uwsgi]
# supervisor执行的命令 要写上uwsgi.ini的绝对路径
command=uwsgi --ini /home/ubuntu/uwsgi.ini
# 项目的目录
directory = /srv/xxxx
# 开始的时候等待多少秒
startsecs=0
# 停止的时候等待多少秒
stopwaitsecs=0
# 自动开始
autostart=true
# 程序挂了后自动重启
autorestart=true
# 输出的log文件
stdout_logfile=/var/log/uwsgi_supervisord.log
# 输出的错误文件
stderr_logfile=/var/log/uwsgi_supervisord.err
# ##############################################################################
# supervisor的程序名字
[program:celery-beat]
# supervisor执行的命令 在Ubuntu系统中要写全路径
command=/root/.virtualenvs/xxxx-env/bin/celery -A 项目名称 beat
# 项目的目录
directory = /srv/xxxx
# 开始的时候等待多少秒
startsecs=0
# 停止的时候等待多少秒
stopwaitsecs=0
# 自动开始
autostart=true
# 程序挂了后自动重启
autorestart=true
# 输出的log文件
stdout_logfile=/var/log/celery_beat_supervisord.log
# 输出的错误文件
stderr_logfile=/var/log/celery_beat_supervisord.err
# ##############################################################################
# supervisor的程序名字
[program:celery-worker]
# supervisor执行的命令 在Ubuntu系统中要写全路径
command=/root/.virtualenvs/xxxx-env/bin/celery -A 项目名称 worker -l info
# 项目的目录
directory = /srv/xxxx
# 开始的时候等待多少秒
startsecs=0
# 停止的时候等待多少秒
stopwaitsecs=0
# 自动开始
autostart=true
# 程序挂了后自动重启
autorestart=true
# 输出的log文件
stdout_logfile=/var/log/celery_worker_supervisord.log
# 输出的错误文件
stderr_logfile=/var/log/celery_worker_supervisord.err
# ##############################################################################
[supervisord]
# log的级别
loglevel=debug
[inet_http_server]
# supervisor的服务器
port = :9001
# 用户名和密码
username = admin
password = 123
# 使用supervisorctl的配置
[supervisorctl]
# 使用supervisorctl登录的地址和端口号
serverurl = http://127.0.0.1:9001
# 登录supervisorctl的用户名和密码
username = xxadmin
password = 123
# supervisor的远端接口
[rpcinterface:supervisor]
supervisor.rpcinterface_factory = supervisor.rpcinterface:make_main_rpcinterface
问题记录OSError: cannot open resource
最近在ubuntu服务器上跑python程序时,遇到以下问题:OSError: cannot open resource
主要原因在于,在做一个目标识别的项目,里边需要用到verdana.ttf
而服务器并没有这个字体,所以就报错。(服务器显示所有字体命令行:fc-list,显示中文字体命令行:fc-list:lang=zh)如果服务器上没有所要用的字体格式,就需自己下载,然后传输到服务器上。
字体安装:(需获取root权限)
对需要的字体,以verdana.ttf为例
首先,将verdana.ttf字体拷贝到制定文件夹:
cp verdana.ttf /usr/share/fonts/
然后建立字体索引信息,更新字体缓存,使用如下命令:
cd /usr/share/fonts/