TransGPT项目安装与配置指南

TransGPT项目安装与配置指南

TransGPT 项目地址: https://gitcode.com/gh_mirrors/tr/TransGPT

1. 项目基础介绍

TransGPT是一个开源的交通大模型项目，由DUOMO团队开发。该项目主要致力于为交通行业提供实际的智能解决方案，如交通情况预测、智能出行助手、交通管理、交通规划、交通安全教育等功能。项目使用的主要编程语言是Python。

2. 项目使用的关键技术和框架

• 编程语言：Python
• 深度学习框架：PyTorch
• 自然语言处理库：Transformers（基于Hugging Face）
• 模型训练：采用了MedicalGPT的预训练和指令微调代码
• 数据集：使用了交通领域的文本数据集和对话数据集，以及通用的预训练数据集

3. 项目安装和配置准备工作

在开始安装之前，请确保您的系统已经安装了以下环境和依赖：

• Python 3.6 或更高版本 -pip（Python的包管理工具） -Conda（Python环境管理工具，推荐） -Git（版本控制工具，用于克隆项目代码）

详细安装步骤

步骤 1：克隆项目代码

打开终端或命令提示符，执行以下命令克隆项目代码：

git clone https://github.com/DUOMO/TransGPT.git
cd TransGPT

步骤 2：创建虚拟环境并安装依赖

为了确保项目依赖的隔离性和一致性，建议创建一个虚拟环境。以下是使用conda创建虚拟环境的命令：

conda env create -f environment.yml
conda activate transgpt

在environment.yml文件中已经列出了项目所需的Python依赖，使用以下命令安装这些依赖：

conda install --from environment.yml

如果您的系统中没有安装conda，可以使用以下命令安装所需的Python依赖：

pip install -r requirements.txt

步骤 3：模型训练与推理

项目提供了预训练和指令微调的脚本，以下是运行预训练脚本的命令：

sh pt.sh

和运行指令微调脚本的命令：

sh sft.sh

确保您已经按照项目说明准备了相应的数据集。

步骤 4：运行示例

安装完成后，您可以运行以下命令来测试模型是否能够正常工作：

from transformers import LlamaTokenizer, LlamaForCausalLM
from langchain import PromptTemplate, LLMChain

# 加载预训练的模型和分词器
checkpoint = 'DUOMO-Lab/TransGPT-v0'
tokenizer = LlamaTokenizer.from_pretrained(checkpoint)
model = LlamaForCausalLM.from_pretrained(checkpoint).half().cuda()

# 创建提示模板和LLM链
template = "以下是关于交通安全的指示：{question}，模型的回答是："
prompt = PromptTemplate(template=template, input_variables=["question"])
llm_chain = LLMChain(llm=model, prompt=prompt)

# 提问并获取模型回答
question = "如何避免疲劳驾驶？"
response = llm_chain.run(question)
print(response)

请注意，上述代码只是一个示例，实际使用时需要根据项目具体要求进行调整。

以上就是TransGPT项目的详细安装和配置指南，希望对您有所帮助。

TransGPT 项目地址: https://gitcode.com/gh_mirrors/tr/TransGPT