Fastapi在docekr中进行部署之后，uvicorn占用的CPU非常高

最新推荐文章于 2024-12-20 10:28:47 发布
最新推荐文章于 2024-12-20 10:28:47 发布
阅读量708 收藏 5
点赞数 5
分类专栏： Fastapi踩坑日记 小袁同学3k5的工作日常 前后端学习日记 文章标签： fastapi
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/obliv/article/details/140281769
版权

前一段接点小活，做点开发，顺便学了学FASTAPI框架，对比flask据说能好那么一些，至少并发什么的不用研究其他的asgi什么的，毕竟不是专业开发，能少研究一个东西就省了很多的事。

但是部署的过程中突然之间在docker中的uvicorn占用直接50%起步，数据量大点的时候直接七八十，所以就一点点找问题的原因了。
没什么技术问题，都是不小心导致，记录一下，万一哪个未来大佬学习的过程中也会有这样的疑惑呢。
在这里插入图片描述

部署环境

centos7 宝塔 docker-compose
后端用到的东西：mysql+redis+fastapi

异常现象

docker中运行开始就50%以上的占用，运行接口量大的时候七八十占用也很正常。
在这里插入图片描述

解决思路

各种查找进程，发现主服务器中的uvicorn占用超高导致在这里插入图片描述

问题解决

一顿查找之后终于发现。
就是这个–reload导致的，我是本机开发方便，在部署的时候compose中这个运行的自动重启没去掉，于是就导致CPU占用超高。
在这里插入图片描述
删掉这个–reload之后，嗯，舒服了
在这里插入图片描述

一行命令实现docker一键部署最新模型无限制模型接近GPT4能力的微调ChatGLM3第三代大语言模型单机部署、量化部署、Mac 部署、单GPU部署及多GPU部署指南，附详细代码和步骤
代码讲故事
02-02 985
一行命令实现docker一键部署最新模型无限制模型接近GPT4能力的微调ChatGLM3第三代大语言模型单机部署、量化部署、Mac 部署、单GPU部署及多GPU部署指南，包含代码调用对话、API调用、网页对话、命令行对话、工具调用、代码解释器等模式，附详细代码和步骤。docker高度封装环境都配置好了，在不同的硬件环境中，只需要修改参数即可，例如多个GPU环境中，只需要修改GPU数量即可。也解决了大模型下载慢和无法下载的问题，提供了多种解决方案。如果想用其他的模型，只需要简单修改一下模型名称即可自动进行下载
从零到部署用FastAPI搭建高并发RESTful API服务
最新发布
qq_38220914的博客
03-15 684
框架之争的本质是场景适配的博弈。FastAPI的强类型校验（Pydantic）让我们的接口错误率下降了70%，但过度依赖OpenAPI规范也带来20%的额外开发成本。有个有趣的发现：在Python 3.10+环境中，使用AnyIO代替asyncio能让任务取消更加安全。这让我想起Donald Knuth的名言："过早优化是万恶之源，但适时优化是智慧的结晶。当你在Swagger UI里测试新接口时，不妨在依赖项里加个简单的计时中间件——它会在控制台输出彩虹色的日志，就像给每个请求打上独一无二的时光印记。
Uvicorn是一个超快速的ASGI服务器使用uvloop和httptools实现
08-10
Uvicorn是一个超快速的ASGI服务器，使用uvloop和httptools实现
fastapi搭建的接口，内存消耗过大，虚拟内存不断增大，res,virtual不断增大，解决方案python
Bean的博客
10-25 3807
python采用fastapi搭建的服务端，处理http接口，遇到虚拟内存和内存不断增大，res、virtual不断增大 现象：在服务器开启阶段，每一次请求就会导致内存消耗不断增大，增加量恐怖 解决方案：将fastapi的调用方法改为异步函数async def，这也是fastapi的精髓，之前没有注意 from pydantic import BaseModel from fastapi import FastAPI import uvicorn app = FastAPI() class Gong
FastAPI 抛出错误（加载 ASGI 应用程序时出错。无法导入模块“api”）
张伟的专栏
11-30 3648
我尝试使用 uvicorn 网络服务器运行 FastAPI，但它抛出错误。我运行这个命令，但是终端有错误。在文件名前添加目录名或cd进入该目录cd src。
fastApi 项目部署
daizikui的博客
12-31 5965
【代码】fastApi 项目部署。
paddleocr在uvicorn中多workers部署遇到的问题
yuexiaomao的博客
08-29 3141
但是问题是解决了，可这为什么呢？chatgpt也没有很好的解释。它给的答案是多进程，其他进程会复制主进程的导入模块状态，包括导包、初始化类（导包也是初始化的一种，所以即使放在init函数里面也会导致报错，只有在某个函数中延迟加载。在运行时的函数中，有自己的上下文，进程间的内容都是隔离的，所以不会出现问题。我的代码哪里出错了？为什么多进程起就这么容易出环境问题？注：上述中用到的python术语简写，如call指代__call__。但是还是不知道这是为什么？在call函数中延迟加载，此时问题得到解决。
Docker部署FastAPI实战
源滚滚编程
11-25 1219
在现代 Web 开发领域，FastAPI 作为一款高性能的 Python 框架，正逐渐崭露头角，它凭借简洁的语法、快速的执行速度以及出色的类型提示功能，深受开发者的喜爱。同时，结合 Docker 的其他特性，如数据持久化、网络配置、监控与日志管理等，可以构建出更加健壮、灵活的生产环境部署方案，满足不同规模和复杂度的应用需求。对于日志管理，可以将容器内的日志输出到宿主机的文件系统或使用专门的日志管理系统，如 ELK 栈（Elasticsearch、Logstash、Kibana），以便更好地分析和排查问题。
【容器化部署技巧】：Docker和Kubernetes在FastAPI项目中的应用
[【容器化部署技巧】：Docker和Kubernetes在FastAPI项目中的应用](https://developer.qcloudimg.com/http-save/yehe-2553644/23ad7b01018fce5ef072b538d3bbf941.png) # 1. 容器化部署的基本概念和工具 在现代IT行业...
Python版ChatGLM2：在CPU环境快速运行与本地部署AI模型
fengbeely的博客
06-28 1104
也可以支持英文，但是最后几个字有点问题。最后有点乱码，不知道是不是因为模型裁剪的问题。同时也有可能是原始素材就有这个问题。可以使用docker 在 CPU上面运行 chatglm ，同时安装了 pytorch 的CPU 版本，镜像缩小到 1.5 G了。并且速度也是非常的快了。可以在非GPU的机器上面运行了。可以解决很多问题呢。
docker_image_uvicorn
03-08
docker_image_uvicorn
uvicorn-gunicorn-docker:由Gunicorn管理的带有Uvicorn的Docker映像，用于具有性能自动调整功能的Python 3.6中的高性能Web应用程序。 可选搭配Alpine Linux
05-13
支持的标签和相应的Dockerfile链接 注意：注意：都有。 如果您需要“固定”使用的Docker映像版本，则可以选择这些标签之一。 例如tiangolo/uvicorn-gunicorn:python3.7-2019-10-15 。 葡萄干-独角兽 与图像设法在高性能的Web应用程序的Python 3.6及以上，性能自动调整。 可以选择是苗条版本或基于Alpine Linux。 GitHub存储库： https : //github.com/tiangolo/uvicorn-gunicorn-docker Docker Hub映像： https : //hub.docker.com/r/tiangolo/uvicorn-gunicorn/ 描述 根据第三方基准测试，使用Uvicorn （使用Python异步Web应用程序的“ ASGI”规范）运行的Python Web应用程序已
Docker部署FastApi详解，这一篇就够了
热门推荐
weixin_42493346的博客
04-30 1万+
首先废话一下，FastAPI是一种现代，快速（高性能）的Web框架，用于基于标准Python类型提示使用Python 3.6+构建API。据说是go+nodejs的竞争对手。 ☞FastAPI 官方文档 这里主要讲的是uvicorn-gunicorn-fastapi 这个Fastapi的官方镜像，主要的技术细节： Uvicorn Uvicorn是一款闪电般的“ ASGI”服务器。 它...
Docker生产环境部署FastAPI+supervisor+gunicorn+nginx
weixin_45457042的博客
02-28 2593
由于是第一次部署，在不断的摸索试错的过程中终于搞定了，特此记录下。线上服务器如果部署了多个网站，使用多个域名来匹配，肯定会需要使用nginx之类的软件uvicorn可以让应用跑起来，但是应用如果因为一些原因挂了，或者出现了异常，需要有一个daemon进程来监控，uvicorn是不能胜任的我们希望线上部署的时候，应用是在后台运行，不需要在控制台输出。
【推荐】使用FastAPI和Docker构建高性能API服务
gitblog_00023的博客
03-23 396
【推荐】使用FastAPI和Docker构建高性能API服务 uvicorn-gunicorn-fastapi-dockerDocker image with Uvicorn managed by Gunicorn for high-performance FastAPI web applications in Python with performance auto-tuning. Optio...
使用Dockerfile构建fastapi服务端及tiangolo/uvicorn-gunicorn-fastapi镜像中时区问题
本博客记录了从2014年以来在工作学习中遇到的技术问题、解决方法以及部分个人人生经历、经验等内容。
05-06 2173
如果太多过多无意义的层，会造成镜像里垃圾过多，镜像文件过大，建议将命令合在一起，比如上面的python模块的安装就使用的requirements.txt一次性全部安装，而不是使用pip install一次安装一个。在使用tiangolo/uvicorn-gunicorn-fastapi镜像搭建的服务端后台程序，修改了docker容器中的 /etc/timezone配置值，gunicorn的日志时间已经正常地显示成了北京时间，但在python程序中使用import time程序输出的数据中仍然是UTC时间。
Uvicorn Gunicorn Starlette Docker 项目常见问题解决方案
gitblog_00733的博客
12-20 545
Uvicorn Gunicorn Starlette Docker 项目常见问题解决方案 uvicorn-gunicorn-starlette-docker Docker image with Uvicorn managed by Gunicorn for high-performance Starlette web a...
flask与fastapi性能测试
勿在浮沙筑高台
11-26 3131
apache ab性能测试。
FastApi 内存消耗
这里是标题
09-29 2365
经过查看源码 和 一番搜索吼发现。是因为 router 没有使用async def 定义的时候， starlette 使用线程池处理响应， 然而，线程池中的worker 没有及时释放 内存， 导致内存飙升。解决方式： 升级Python 到 3.8 以上， 并且升级对应的 Fastapi asyncio。在使用FastApi 做项目的时候， 进行压测时发现 内存会主键飙升， 然后到达一个稳定值。或者 使用async def 进行定义。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小袁同学.

赏个早餐吃？

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值