开源项目Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models使用教程

开源项目Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models使用教程

buffer-of-thought-llm Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models 项目地址: https://gitcode.com/gh_mirrors/bu/buffer-of-thought-llm

1. 项目目录结构及介绍

开源项目Buffer of Thoughts (BoT)的目录结构如下：

buffer-of-thought-llm/
├── assets/
├── benchmarks/
├── lightrag/
├── LICENSE
├── README.md
├── bot_pipeline.py
├── inference.py
├── math.txt
├── meta_buffer.py
├── meta_buffer_utilis.py
├── requirements.txt
├── run_benchmarks.py
├── test_templates.py
├── validate_results.py

• assets/：存放项目相关的资源文件。
• benchmarks/：包含项目使用的三个不同基准测试的数据。
• lightrag/：可能包含项目依赖的轻量级代码库。
• LICENSE：项目的开源协议文件。
• README.md：项目说明文件，详细介绍项目的相关信息。
• bot_pipeline.py：主程序文件，包含Buffer of Thoughts的核心逻辑。
• inference.py：推理代码，用于在数学问题上进行BoT的推理。
• math.txt：包含一些数学问题的思考模板。
• meta_buffer.py：元缓冲区实现，用于存储和管理思考模板。
• meta_buffer_utilis.py：元缓冲区工具类，辅助管理缓冲区。
• requirements.txt：项目依赖的Python包列表。
• run_benchmarks.py：运行基准测试的脚本。
• test_templates.py：测试模板的脚本。
• validate_results.py：验证测试结果的脚本。

2. 项目的启动文件介绍

项目的主要启动文件是inference.py，它是执行BoT推理的入口。以下是一个简单的使用示例：

from bot_pipeline import BoT
import argparse

# 解析命令行参数
parser = argparse.ArgumentParser(description='Use of argparse')
parser.add_argument('--llm_model', type=str, default='gpt-4o-mini', help='Model id of LLMs')
parser.add_argument('--embedding_model', type=str, default='text-embedding-3-large', help='Model id of embedding model')
parser.add_argument('--api_key', type=str, help='The api key of user')
parser.add_argument('--base_url', type=str, default='https://api.openai.com/v1/', help='we also support Open AI-like chat/embeddings APIs')
parser.add_argument('--rag_dir', type=str, default='./math', help='The path to save the meta buffer')
args = parser.parse_args()

# 创建BoT实例并进行推理
bot = BoT(
    user_input="Solve the problem: Raymond and Samantha are cousins. ...",
    api_key=args.api_key,
    model_id=args.llm_model,
    embedding_model=args.embedding_model,
    base_url=args.base_url,
    rag_dir=args.rag_dir
)
bot.bot_inference()

3. 项目的配置文件介绍

项目的配置主要通过命令行参数进行，例如在inference.py中使用的argparse模块。此外，还可以通过修改requirements.txt来配置项目依赖的Python包。

requirements.txt文件示例内容如下：

torch
transformers

确保在项目的虚拟环境中安装了这些依赖项，可以使用以下命令：

pip install -r requirements.txt

以上是Buffer of Thoughts开源项目的基本使用教程，包含了项目的目录结构、启动文件和配置文件介绍。希望对您有所帮助。

buffer-of-thought-llm Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models 项目地址: https://gitcode.com/gh_mirrors/bu/buffer-of-thought-llm