使用Streamlit和MistralAI创建AI聊天机器人应用

大家好，创建交互式和用户友好型的应用程序通常需要复杂的框架和耗时的开发过程。Streamlit是一个Python库，它简化了以数据为重点的网络应用程序的创建过程，使开发人员和数据科学家能够快速将他们的想法转化为交互式仪表盘和原型。本文将介绍使用 Streamlit 和 Mistral AI 构建自己的聊天机器人。

1.Mistral AI简介

Mistral AI是一家位于法国的公司，致力于成为开放人工智能的领军者，其核心使命是为开发者社区带来顶尖的开放模型。该公司以对开源精神的坚守而闻名，不仅向公众提供了遵循Apache 2.0许可的模型，还提供了原始模型权重，以支持和促进研究工作。

Mistral AI 不仅向公众开放了其预训练和微调模型的源代码，还提供了模型的原始权重，以支持更深层次的研究和开发。以下是他们发布的几个模型及其对应的 Hugging Face 链接和原始权重的校验和（md5sum）：

• Mistral-7B-v0.1: Hugging Face(https://huggingface.co/mistralai/Mistral-7B-v0.1) // 原始权重 (md5校验和: 37dab53973db2d56b2da0a033a15307f).

• Mistral-7B-Instruct-v0.2: Hugging Face(https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.2) // 原始权重 (md5校验和: fbae55bc038f12f010b4251326e73d39).

• Mixtral-8x7B-v0.1: Hugging Face(https://huggingface.co/mistralai/Mixtral-8x7B-v0.1).

• Mixtral-8x7B-Instruct-v0.1: Hugging Face(https://huggingface.co/mistralai/Mixtral-8x7B-Instruct-v0.1) // 原始权重 (md5校验和: 8e2d3930145dc43d3084396f49d38a3f).

通过这些开放资源，Mistral AI 为人工智能社区的研究者和开发者提供了宝贵的工具和数据，进一步推动了开放科学的进步。

2.Mistral AI 模型

Mistral AI 提供多种模型，包括小型、中型、大型以及嵌入模型，以满足不同应用场景的需求。

2.1 Tiny（小型）模型

• 用途：非常适合执行大规模数据处理任务，特别是那些对成本较为敏感而对模型的推理能力要求不高的应用场景。

• 当前版本：由Mistral-7B-v0.2驱动，该模型是Mistral-7B的优化微调版，其改进受到了社区贡献的启发。

• API名称：mistral-tiny

2.2 Small（中型）模型

• 特点：具备更高的推理能力和更丰富的功能。

• 支持语言：支持英语、法语、德语、意大利语和西班牙语，并且能够生成代码以及对代码进行推理。

• 当前版本：由Mixtral-8X7B-v0.1驱动，该模型是一个先进的稀疏专家混合模型，拥有高达12亿个活跃参数。

• API名称：mistral-small

2.3 Medium（大型）模型

• 说明：这个端点目前依赖于一个内部原型模型，该模型目前尚未对外公开发布。

• API名称：mistral-medium

Mistral AI 还提供了嵌入模型：

• Mistral AI通过其API端点提供了嵌入模型，这些模型能够支持检索（retrieval）和增强检索的生成应用（retrieval-augmented generation applications）。

• 该端点输出的是1024维的向量。在MTEB（可能是一个特定的评估指标或数据集）上，该模型达到了55.26的检索得分。

• 提供的API名为mistral-embed。

3.定价

定价是按使用量计费，如图所示。

M