一、测试效果
二、附件代码
import time
from openai import OpenAI
import datetime
import pytz
def count_tokens(text):
return len(text.split())
def test_provider(provider_config, messages):
""" 根据传入的 provider 配置及消息,测试生成过程,并统计各阶段指标。 如果测试过程中出现任何错误,则打印错误信息并跳过当前服务商。
"""
provider_name = provider_config.get("name", "Unnamed Provider")
print(f"\n---------------------------")
print(f"开始测试服务商:{provider_name}")
print(f"---------------------------\n")
try:
api_key = provider_config.get("api_key")
base_url = provider_config.get("base_url")
model = provider_config.get("model")
# 初始化客户端(请确保你使用的 OpenAI 客户端支持这些参数)
client = OpenAI(api_key=api_key, base_url=base_url)
# 初始化 token 计数器与文本变量
reasoning_tokens = 0
content_tokens = 0
overall_tokens = 0
reasoning_text = ""
content_text = ""
# 初始化计时变量
start_time = time.time()
first_token_time = None
# 用于记录 reasoning 与 content 部分