明医（MING）开源项目常见问题解决方案

明医（MING）开源项目常见问题解决方案

MING 明医 (MING)：中文医疗问诊大模型 项目地址: https://gitcode.com/gh_mirrors/mi/MING

1. 项目的基础介绍和主要的编程语言

项目简介： 明医（MING）是一个基于医疗指令微调的中文医疗问诊大模型，由上海交通大学未来媒体网络协同创新中心和上海人工智能实验室智慧医疗中心合作研发。该项目旨在通过智能问诊和多轮对话，为用户提供医疗问题的解答和诊断建议。

主要编程语言： 该项目主要使用Python进行开发，依赖PyTorch等深度学习框架。

2. 新手在使用这个项目的时候需要特别注意的3个问题和详细的解决步骤

问题1：环境配置不正确

解决步骤：

1. 安装Python：确保安装Python 3.9.16版本。

   python3.9.16 -m venv venv
   source venv/bin/activate
   

2. 安装PyTorch：安装PyTorch 2.0.1版本，并确保与CUDA 11.7兼容。

   pip install torch==2.0.1+cu117
   

3. 安装其他依赖：安装peft库和其他项目依赖。

   pip install peft
   git clone https://github.com/MediaBrain-SJTU/MING
   cd MING
   pip install -e .
   

问题2：模型下载和运行失败

解决步骤：

1. 下载模型参数：确保下载正确的模型参数文件。

   # 示例：下载MING-7B模型参数
   wget [模型参数URL]
   

2. 配置运行环境：确保显存大于15G，并设置CUDA环境变量。

   export CUDA_VISIBLE_DEVICES=0
   

3. 运行模型：使用正确的命令行参数运行模型。

   python -m ming/serve/cli.py \
   --model_path [path_to_checkpoint] \
   --model_base [path_to_base_model] \
   --max_new_token 3072
   

问题3：对话过程中无法开启新一轮对话

解决步骤：

1. 检查输入格式：确保在对话中输入关键词“new chat”。

   # 示例对话
   用户：你好，我有点头疼
   模型：您头疼有多久了？
   用户：new chat
   模型：您好，有什么可以帮您的？
   

2. 重启服务：如果输入正确但仍无法开启新对话，尝试重启服务。

   # 重启命令
   python -m ming/serve/cli.py \
   --model_path [path_to_checkpoint] \
   --max_new_token 2048
   

3. 检查日志：查看运行日志，确认是否有错误信息，并根据提示进行修复。

通过以上步骤，新手在使用明医（MING）项目时可以更好地解决常见问题，确保项目的顺利运行。

MING 明医 (MING)：中文医疗问诊大模型 项目地址: https://gitcode.com/gh_mirrors/mi/MING