在前几期的MCP系列教程中，我们系统地介绍了 Model Context Protocol（MCP）的基本概念、核心组件及其工作原理，为构建结构化 AI 应用打下了坚实基础。本期内容将进一步深入，聚焦于 MCP 与大型语言模型（LLM）的深度融合，探索如何通过协议与模型的协同，释放更强大的智能潜力。
本文将围绕三大关键实践方向展开：本地模型集成（如 Ollama、vLLM）、在线模型扩展（如 OpenAI、DeepSeek），以及提示词模板的高效设计。通过具体示例与实战技巧，帮助开发者全面掌握 MCP 与 LLM 的集成方法，构建更灵活、可控且高性能的 AI 应用系统。
一、MCP与LLM集成架构设计
1.1 整体架构概述
MCP与LLM的集成通常采用客户端-服务器架构：
+----------------+ +----------------+ +----------------+
| | | | | |
| MCP客户端 +------+ MCP服务器 +------+ LLM后端 |
| (应用层) | | (适配层) | | (模型层) |
| | | | | |
+----------------+ +----------------+ +----------------+
1.2 核心组件职责
-
MCP客户端：主应用程序，负责用户交互和请求调度
-
MCP服务器：协议转换层，将MCP协议转换为LLM API调用
-
LLM后端：实际执行模型推理的组件
二、本地模型接入：Ollama/vLLM + MCP
2.1 Ollama集成方案
环境准备
首先安装必要的依赖：
# 安装Ollama
curl -fsSL https://ollama.ai/install.sh | sh
# 安装Python MCP SDK
pip install mcp[sse] ollama
创建Ollama MCP服务器
# ollama_mcp_server.py
import mcp.server as mcp
from mcp.server import Server
import ollama
from pydantic import BaseModel
# 创建服务器实例
server = Server("ollama-mcp-server")
class GenerateRequest(BaseModel):
model: str = "llama2"
prompt: str
max_tokens: int = 512
@server.tool()
asyncdef generate_text(request: GenerateRequest) -> str:
"""使用Ollama生成文本"""
try:
response = ollama.generate(
model=request.model,
prompt=request.prompt,
options={'num_predict': request.max_tokens}
)
return response['response']
except Exception as e:
returnf"生成文本时出错: {str(e)}"
@server.list_resources()
asyncdef list_models() -> list:
"""列出可用的Ollama模型"""
try:
models = ollama.list()
return [
mcp.Resource(
uri=f"ollama://{model['name']}",
name=model['name'],
description=f"Ollama模型: {model['name']}"
)
for model in models['models']
]
except Exception as e:
return []
if __name__ == "__main__":
# 启动服务器
mcp.run(server, transport='stdio')
客户端配置
// mcp.client.json
{
"mcpServers": {
"ollama": {
"command": "python",
"args": ["/path/to/ollama_mcp_server.py"]
}
}
}
2.2 vLLM集成方案
vLLM MCP服务器实现
# vllm_mcp_server.py
import mcp.server as mcp
from mcp.server import Server
from vllm import LLM, SamplingParams
from pydantic import BaseModel
import asyncio
# 全局vLLM实例
vllm_engine = None
class VLLMRequest(BaseModel):
prompt: str
max_tokens: int = 256
temperature: float = 0.7
top_p: float = 0.9
def initialize_vllm(model_name: str = "facebook/opt-125m"):
"""初始化vLLM引擎"""
global vllm_engine
if vllm_engine isNone:
vllm_engine = LLM(
model=model_name,
tensor_parallel_size=1,
gpu_memory_utilization=0.9
)
server = Server("vllm-mcp-server")
@server.tool()
asyncdef vllm_generate(request: VLLMRequest) -> str:
"""使用vLLM生成文本"""
try:
sampling_params = SamplingParams(
temperature=request.temperature,
top_p=request.top_p,
max_tokens=request.max_tokens
)
outputs = vllm_engine.generate([request.prompt], sampling_params)
return outputs[0].outputs[0].text
except Exception as e:
returnf"vLLM生成失败: {str(e)}"
@server.list_resources()
asyncdef list_vllm_models() -> list:
"""列出支持的vLLM模型"""
return [
mcp.Resource(
uri="vllm://facebook/opt-125m",
name="OPT-125M",
description="Facebook OPT 125M参数模型"
),
mcp.Resource(
uri="vllm://gpt2",
name="GPT-2",
description="OpenAI GPT-2模型"
)
]
if __name__ == "__main__":
# 初始化vLLM
initialize_vllm()
mcp.run(server, transport='stdio')
三、在线模型扩展：OpenAI/DeepSeek适配器
3.1 OpenAI MCP适配器
# openai_mcp_server.py
import mcp.server as mcp
from mcp.server import Server
from openai import OpenAI
from pydantic import BaseModel
import os
client = OpenAI(api_key=os.getenv("OPENAI_API_KEY"))
server = Server("openai-mcp-server")
class OpenAIChatRequest(BaseModel):
message: str
model: str = "gpt-3.5-turbo"
temperature: float = 0.7
@server.tool()
asyncdef chat_completion(request: OpenAIChatRequest) -> str:
"""使用OpenAI API进行对话补全"""
try:
response = client.chat.completions.create(
model=request.model,
messages=[{"role": "user", "content": request.message}],
temperature=request.temperature
)
return response.choices[0].message.content
except Exception as e:
returnf"OpenAI API调用失败: {str(e)}"
@server.list_resources()
asyncdef list_openai_models() -> list:
"""列出可用的OpenAI模型"""
return [
mcp.Resource(
uri="openai://gpt-3.5-turbo",
name="GPT-3.5-Turbo",
description="OpenAI GPT-3.5 Turbo模型"
),
mcp.Resource(
uri="openai://gpt-4",
name="GPT-4",
description="OpenAI GPT-4模型"
)
]
if __name__ == "__main__":
mcp.run(server, transport='stdio')
3.2 DeepSeek MCP适配器
# deepseek_mcp_server.py
import mcp.server as mcp
from mcp.server import Server
from openai import OpenAI
from pydantic import BaseModel
import os
# DeepSeek的API与OpenAI兼容，但使用不同的base_url
client = OpenAI(
api_key=os.getenv("DEEPSEEK_API_KEY"),
base_url="https://api.deepseek.com/v1"
)
server = Server("deepseek-mcp-server")
class DeepSeekRequest(BaseModel):
message: str
model: str = "deepseek-chat"
temperature: float = 0.7
@server.tool()
asyncdef deepseek_chat(request: DeepSeekRequest) -> str:
"""使用DeepSeek API进行对话"""
try:
response = client.chat.completions.create(
model=request.model,
messages=[{"role": "user", "content": request.message}],
temperature=request.temperature
)
return response.choices[0].message.content
except Exception as e:
returnf"DeepSeek API调用失败: {str(e)}"
if __name__ == "__main__":
mcp.run(server, transport='stdio')
四、提示词模板设计：动态注入上下文
4.1 基础模板设计
# prompt_templates.py
from string import Template
from datetime import datetime
class PromptTemplate:
def __init__(self, template_str: str):
self.template = Template(template_str)
def render(self, **kwargs) -> str:
"""渲染模板"""
# 添加默认上下文
defaults = {
'current_time': datetime.now().strftime("%Y-%m-%d %H:%M:%S"),
'system_role': "你是一个有帮助的AI助手"
}
defaults.update(kwargs)
return self.template.safe_substitute(defaults)
# 定义各种场景的模板
TEMPLATES = {
"code_assistant": PromptTemplate("""
$system_role
当前时间: $current_time
请帮助我解决以下编程问题：
$user_query
请提供详细的代码示例和解释。
"""),
"content_writer": PromptTemplate("""
$system_role
当前时间: $current_time
请根据以下要求创作内容：
主题: $topic
字数要求: $word_count
风格: $style
请开始创作：
"""),
"data_analyzer": PromptTemplate("""
$system_role
当前时间: $current_time
请分析以下数据：
数据集描述: $dataset_description
分析目标: $analysis_goal
请提供详细的分析结果：
""")
}
4.2 动态上下文注入
# context_manager.py
from typing import Dict, Any
from prompt_templates import TEMPLATES
class ContextManager:
def __init__(self):
self.context_stores = {}
def add_context(self, key: str, context: Any):
"""添加上下文信息"""
self.context_stores[key] = context
def get_context(self, key: str, default=None):
"""获取上下文信息"""
return self.context_stores.get(key, default)
def generate_prompt(self, template_name: str, user_input: str, **extra_context) -> str:
"""生成最终提示词"""
if template_name notin TEMPLATES:
raise ValueError(f"未知的模板: {template_name}")
# 合并所有上下文
context = {
'user_query': user_input,
**self.context_stores,
**extra_context
}
return TEMPLATES[template_name].render(**context)
# 使用示例
context_manager = ContextManager()
context_manager.add_context("user_level", "advanced")
context_manager.add_context("preferred_language", "Python")
prompt = context_manager.generate_prompt(
"code_assistant",
"如何实现一个快速排序算法？",
complexity="high"
)
4.3 多轮对话上下文管理
# conversation_manager.py
from typing import List, Dict
from dataclasses import dataclass
@dataclass
class Message:
role: str # "user", "assistant", "system"
content: str
timestamp: str
class ConversationManager:
def __init__(self, max_history: int = 10):
self.history: List[Message] = []
self.max_history = max_history
def add_message(self, role: str, content: str):
"""添加消息到历史记录"""
from datetime import datetime
message = Message(
role=role,
content=content,
timestamp=datetime.now().isoformat()
)
self.history.append(message)
# 保持历史记录长度
if len(self.history) > self.max_history:
self.history = self.history[-self.max_history:]
def get_conversation_context(self) -> str:
"""获取对话上下文"""
context_lines = []
for msg in self.history:
context_lines.append(f"{msg.role}: {msg.content}")
return"\n".join(context_lines)
def generate_contextual_prompt(self, user_input: str, template_name: str) -> str:
"""生成包含对话上下文的提示词"""
from prompt_templates import TEMPLATES
conversation_context = self.get_conversation_context()
prompt = TEMPLATES[template_name].render(
user_query=user_input,
conversation_history=conversation_context,
current_time=datetime.now().strftime("%Y-%m-%d %H:%M:%S")
)
return prompt
五、完整集成示例
5.1 综合MCP服务器
# comprehensive_mcp_server.py
import mcp.server as mcp
from mcp.server import Server
from pydantic import BaseModel
from typing import Optional
import os
# 导入各个模块
from ollama_integration import OllamaIntegration
from openai_integration import OpenAIIntegration
from prompt_system import PromptSystem
server = Server("comprehensive-llm-server")
class LLMRequest(BaseModel):
prompt: str
model_type: str = "ollama"# ollama, openai, deepseek
model_name: Optional[str] = None
max_tokens: int = 512
temperature: float = 0.7
# 初始化各个集成模块
ollama_integration = OllamaIntegration()
openai_integration = OpenAIIntegration()
prompt_system = PromptSystem()
@server.tool()
asyncdef generate_text(request: LLMRequest) -> str:
"""统一的文本生成接口"""
# 使用提示词系统增强用户输入
enhanced_prompt = prompt_system.enhance_prompt(
request.prompt,
context=prompt_system.get_current_context()
)
# 根据模型类型选择后端
if request.model_type == "ollama":
result = await ollama_integration.generate(
enhanced_prompt,
request.model_name,
request.max_tokens
)
elif request.model_type == "openai":
result = await openai_integration.chat_completion(
enhanced_prompt,
request.model_name,
request.temperature
)
else:
return"不支持的模型类型"
# 记录到对话历史
prompt_system.add_to_history("user", request.prompt)
prompt_system.add_to_history("assistant", result)
return result
@server.list_resources()
asyncdef list_all_models() -> list:
"""列出所有可用的模型"""
ollama_models = await ollama_integration.list_models()
openai_models = openai_integration.list_models()
return ollama_models + openai_models
if __name__ == "__main__":
mcp.run(server, transport='stdio')
5.2 客户端使用示例
# client_example.py
import asyncio
from mcp import ClientSession
from mcp.client.stdio import stdio_client
asyncdef main():
# 连接到MCP服务器
asyncwith stdio_client("python", ["comprehensive_mcp_server.py"]) as (read, write):
asyncwith ClientSession(read, write) as session:
# 初始化会话
await session.initialize()
# 列出可用资源
resources = await session.list_resources()
print("可用模型:", resources)
# 使用Ollama生成文本
response = await session.call_tool(
"generate_text",
{
"prompt": "解释一下机器学习的基本概念",
"model_type": "ollama",
"model_name": "llama2",
"max_tokens": 300
}
)
print("生成的响应:", response)
if __name__ == "__main__":
asyncio.run(main())
六、最佳实践与优化建议
6.1 性能优化
-
连接池管理：为频繁使用的模型连接创建连接池
-
缓存机制：对常见请求结果进行缓存
-
批量处理：支持批量提示词处理以提高效率
6.2 安全考虑
-
API密钥管理：使用环境变量或密钥管理系统
-
输入验证：对所有输入进行严格的验证和清理
-
访问控制：实现基于角色的访问控制
6.3 监控与日志
-
性能监控：跟踪响应时间和资源使用情况
-
使用日志：记录详细的请求和响应日志
-
错误处理：实现完善的错误处理和重试机制
MCP学习交流群
推荐阅读
精选技术干货
精选文章
深入解析AI智能体记忆机制：八大策略与实现方案
让 AI 更聪明：不可错过的 7 大开源 MCP 项目
主流自动化测试框架：技术解析与实战手册
MCP零基础学习（1）| MCP 协议核心原理解析
国产模型Qwen3-32B本地化实战：LangChain + vLLM 构建企业智能引擎
深入解析Agent实现“听懂→规划→执行”全流程的奥秘
2025大模型平台选择指南：从个人助手到企业智能体，解读五大场景
企业AI转型之战：Coze、Dify与FastGPT的巅峰对决
学社精选
- 测试开发之路 大厂面试总结 - 霍格沃兹测试开发学社 - 爱测-测试人社区
- 【面试】分享一个面试题总结，来置个顶 - 霍格沃兹测试学院校内交流 - 爱测-测试人社区
- 测试人生 | 从外包菜鸟到测试开发，薪资一年翻三倍，连自己都不敢信！（附面试真题与答案） - 测试开发 - 爱测-测试人社区
- 人工智能与自动化测试结合实战-探索人工智能在测试领域中的应用
- 爱测智能化测试平台
- 自动化测试平台
- 精准测试平台
- AI测试开发企业技术咨询服务
技术成长路线
系统化进阶路径与学习方案
- 人工智能测试开发路径
- 名企定向就业路径
- 测试开发进阶路线
- 测试开发高阶路线
- 性能测试进阶路径
- 测试管理专项提升路径
- 私教一对一技术指导
- 全日制 / 周末学习计划
- 公众号：霍格沃兹测试学院
- 视频号：霍格沃兹软件测试
- ChatGPT体验地址：霍格沃兹测试开发学社
- 霍格沃兹测试开发学社
企业级解决方案
测试体系建设与项目落地
- 全流程质量保障方案
- 按需定制化测试团队
- 自动化测试框架构建
- AI驱动的测试平台实施
- 车载测试专项方案
- 测吧（北京）科技有限公司
技术平台与工具
自研工具与开放资源
人工智能测试开发学习专区
-
视觉识别在自动化测试中的应用-UI测试与游戏测试
OpenAI Whisper 原理解析：如何实现高精度音频转文字 -
人工智能产品测试：从理论到实战
专家系统与机器学习的概念 -
AI驱动的全栈测试自动化与智能体开发
基于LangChain手工测试用例生成工具 -
人工智能应用开发实战 LangChain+RAG+智能体全解析
大语言模型应用开发框架 LangChain
扫一扫
25万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
