Minions 项目使用与配置教程

Minions 项目使用与配置教程

minions Big & Small LLMs working together 项目地址: https://gitcode.com/gh_mirrors/minions/minions

1. 项目目录结构及介绍

Minions 项目是一个开源通信协议，它使得小型设备上的模型能够与云端的前沿模型协作。以下是项目的目录结构及各部分的简要介绍：

• assets/: 存放项目的静态资源。
• minions/: 包含项目的主要代码，包括本地模型和远程模型的客户端，以及 Minion 和 Minions 协议的实现。
• .gitignore: 指定 Git 忽略的文件和目录。
• LICENSE: 项目使用的许可证文件。
• README.md: 项目说明文件，包含项目的基本信息和如何使用。
• app.py: Minions Demo 应用的主启动文件。
• gateway_app_demo.py: 网关应用演示文件。
• mcp.json: 配置文件。
• minions.ipynb: 用于演示 Minion/Minions 的 Jupyter Notebook 文件。
• minions_canvas.py: 画布模式的 Minions 演示文件。
• minions_cli.py: 命令行界面的 Minions 演示文件。
• setup.py: Python 包的设置文件。

2. 项目的启动文件介绍

项目的启动文件是 app.py，它使用 Streamlit 来运行一个简单的演示应用。以下是启动文件的基本内容：

# 导入必要的模块
from minions import OllamaClient, OpenAIClient, Minion
import streamlit as st

# 初始化本地和远程客户端
local_client = OllamaClient(model_name="llama3.2")
remote_client = OpenAIClient(model_name="gpt-4o")

# 实例化 Minion 对象
minion = Minion(local_client, remote_client)

# 定义上下文和任务
context = "这里是上下文信息..."
task = "这里是任务描述..."

# 执行 Minion 协议
output = minion(task=task, context=[context], max_rounds=2)

# 使用 Streamlit 显示结果
st.write(output)

要启动这个应用，你需要在项目目录下运行以下命令：

streamlit run app.py

3. 项目的配置文件介绍

项目的配置文件是 mcp.json，它用于存储和管理项目的配置信息。这个文件通常包含了项目运行时需要的一些基本设置，比如模型名称、API 密钥等。下面是一个配置文件的示例：

{
    "local_model": "ollama/llama3.2",
    "remote_model": "openai/gpt-4o",
    "api_keys": {
        "openai": "your-openai-api-key",
        "together": "your-together-api-key",
        "openrouter": "your-openrouter-api-key",
        "perplexity": "your-perplexity-api-key",
        "deepseek": "your-deepseek-api-key"
    }
}

在运行项目之前，你需要根据实际情况更新配置文件中的 API 密钥和其他设置。

minions Big & Small LLMs working together 项目地址: https://gitcode.com/gh_mirrors/minions/minions