vllm serve 设置加载conda环境并开机自启动

要在开机时进入指定的 conda 环境并启动此 vllm 服务，您可以通过以下步骤设置一个 systemd 服务来自动执行脚本。

步骤 1：创建一个启动脚本

首先，创建一个启动脚本，以便在进入 conda 环境后启动 vllm 服务。

1. 打开终端并创建启动脚本，例如 /home/username/start_vllm.sh（请替换 username 为实际用户名）：

   nano /home/username/start_vllm.sh
   

2. 在文件中添加以下内容，将 conda_env_name 替换为您的 conda 环境的名称：

   #!/bin/bash
   # 加载 conda 环境
   source ~/anaconda3/etc/profile.d/conda.sh
   conda activate conda_env_name
   
   # 启动 vllm 服务
   CUDA_VISIBLE_DEVICES=0,1</