MiniCPM-o 2.6本地部署教程——面壁智能推出的全新多模态大模型，性能媲美GPT-40

MiniCPM-o 2.6是面壁智能推出的全新端侧全模态模型，拥有强大的端到端多模态架构，是MiniCPM-0系列最新、性能最佳的多模态大模型，具有8B参数量。

在视觉、语音和多模态直播等多个领域，MiniCPM-o 2.6达到了与GPT-40相当的性能水平。模型还支持实时双语语音识别，超越了 GPT-40实时识别的表现。

值得一提的是，MiniCPM-o 2.6在保持强大能力的同时，还针对边缘设备的资源限制进行了优化。能实现高效集成和易于部署：

参数优化：尽管模型规模庞大，但通过llama.cpp 和vLLM等框架优化，MiniCPM-o 2.6 能在不牺牲精度的前提下，降低对资源的需求，适应边缘设备的计算能力。

多模态处理能力：MiniCPM-o 2.6 支持高达 1.8 百万像素（1344×1344 分辨率）的图像处理，同时还具备 OCR 功能，在 OCRBench 等基准测试中表现优异。

易于集成：兼容 Gradio 等平台，使得开发者能够轻松部署。此外，MiniCPM-o 2.6 的商业化友好性也使得其能够服务日活跃用户数不足百万的小型应用场景。

这些特点使得MiniCPM-o 2.6 对开发者和企业来说都具有非常高的吸引力，尤其是在不依赖于庞大基础设施的情况下，就能实现复杂的 AI 解决方案部署。

接下来就为大家奉上详细的MiniCPM-o 2.6一键使用和本地部署两种教程，手把手教你如何将模型部署到你的项目中，轻松享受高性能AI带来的便利。

部署过程

基础环境最低要求说明：

环境名称	版本信息1
Ubuntu	22.04.4 LTS
Cuda	V12.4.105
Python	3.10
NVIDIA Corporation	RTX 4090

1. 更新基础软件包

查看系统版本信息

# 查看系统版本信息，包括ID（如ubuntu、centos等）、版本号、名称、版本号ID等
cat /etc/os-release

配置 apt 国内源

# 更新软件包列表
apt-get update

这个命令用于更新本地软件包索引。它会从所有配置的源中检索最新的软件包列表信息，但不会安装或升级任何软件包。这是安装新软件包或进行软件包升级之前的推荐步骤，因为它确保了您获取的是最新版本的软件包。

# 安装 Vim 编辑器
apt-get install -y vim

这个命令用于安装 Vim 文本编辑器。-y 选项表示自动回答所有的提示为“是”，这样在安装过程中就不需要手动确认。Vim 是一个非常强大的文本编辑器，广泛用于编程和配置文件的编辑。

为了安全起见，先备份当前的 sources.list 文件之后，再进行修改：

# 备份现有的软件源列表
cp /etc/apt/sources.list /etc/apt/sources.list.bak

这个命令将当前的 sources.list 文件复制为一个名为 sources.list.bak 的备份文件。这是一个好习惯，因为编辑 sources.list 文件时可能会出错，导致无法安装或更新软件包。有了备份，如果出现问题，您可以轻松地恢复原始的文件。

<