systemctl 启动的服务应该怎么关闭掉

部署运行你感兴趣的模型镜像

关掉用命令行起的 vLLM(推荐做法)

方式一:按端口(8000)杀进程

# 先优雅终止
sudo lsof -t -i:8000 | xargs -r kill -15
sleep 2
# 还在就强杀
sudo lsof -t -i:8000 | xargs -r kill -9

方式二:按进程名杀(父进程 + 子进程)

# 看看都起了哪些 vllm 相关进程
pgrep -a -f 'vllm'

# 优雅终止父进程(会级联退出子进程)
pkill -f -15 'vllm.entrypoints.openai.api_server'
sleep 2
# 若仍有残留(EngineCore/worker),强杀
pkill -f -9 'vllm.entrypoints.openai.api_server'
pkill -f -9 'vllm.*EngineCore'
pkill -f -9 'vllm.*gpu_worker'

检查是否清理干净

# 端口不应再被监听
ss -ltnp | grep :8000 || echo "port 8000 is free"

# GPU 上是否还有残留进程
nvidia-smi

如果还看到占显存的 Python 进程,用 sudo kill -15 ,不行再 -9。

如果你真的是用 systemd 起的(有 vllm.service)

# 停止并取消开机自启
sudo systemctl stop vllm
sudo systemctl disable vllm

# 删除 unit 文件(若存在)
sudo rm -f /etc/systemd/system/vllm.service
sudo systemctl daemon-reload
sudo systemctl reset-failed vllm

其他可能的起法
• nohup &:日志里会打印 PID;没有就用上面的 pgrep/lsof 找。
• tmux/screen:tmux ls && tmux kill-session -t 或 screen -ls && screen -S -X quit。

需要的话我可以帮你写一个最小化的 vllm.service,以后用 systemctl start/stop 一键管理。

您可能感兴趣的与本文相关的镜像

Python3.8

Python3.8

Conda
Python

Python 是一种高级、解释型、通用的编程语言,以其简洁易读的语法而闻名,适用于广泛的应用,包括Web开发、数据分析、人工智能和自动化脚本

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

MonkeyKing.sun

对你有帮助的话,可以打赏

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值