在Linux系统上安装和运行JanHQ/Cortex项目的完整指南

在Linux系统上安装和运行JanHQ/Cortex项目的完整指南

cortex Drop-in, local AI alternative to the OpenAI stack. Multi-engine (llama.cpp, TensorRT-LLM). Powers 👋 Jan 项目地址: https://gitcode.com/gh_mirrors/cor/cortex

JanHQ/Cortex是一个强大的机器学习推理引擎，本文将为Linux用户提供详细的安装和使用指南。我们将从基础安装到源码编译，全面覆盖各种使用场景。

系统要求与准备工作

在开始安装前，请确保您的Linux系统满足以下最低要求：

• 操作系统：主流Linux发行版（Ubuntu/Debian/CentOS等）
• 内存：至少4GB RAM（推荐8GB以上）
• 存储空间：至少10GB可用空间
• 处理器：支持AVX指令集的x86_64架构CPU

必备依赖项

安装前需要确保系统中已安装以下基础工具：

# 对于基于Debian的系统(Ubuntu等)
sudo apt-get install -y openmpi-bin libopenmpi-dev curl jq tar

# 对于基于RHEL的系统(CentOS等)
sudo yum install -y openmpi openmpi-devel curl jq tar

一键式安装方法

JanHQ/Cortex提供了便捷的安装脚本，支持多种安装方式：

通用网络安装（所有Linux发行版）

curl -s https://raw.githubusercontent.com/menloresearch/cortex/main/engine/templates/linux/install.sh | sudo bash -s

Debian系本地安装（适合离线环境）

curl -s https://raw.githubusercontent.com/menloresearch/cortex/main/engine/templates/linux/install.sh | sudo bash -s -- --deb_local

安装参数详解

安装脚本支持多种参数，满足不同需求：

• --channel <channel_name>：指定安装渠道（stable/beta/nightly），默认为stable
• --version <version>：指定安装版本号，如--version 1.0.2
• --is_update：标记当前操作为更新而非全新安装
• --deb_local：使用本地安装方式（仅限Debian系）

验证安装

安装完成后，可通过以下命令验证是否安装成功：

cortex -v  # 查看版本信息
cortex --help  # 查看帮助信息

文件系统布局

了解Cortex在系统中的文件分布有助于后续管理和维护：

# 二进制文件位置
/usr/bin/cortex          # 主程序
/usr/bin/cortex-server   # 服务程序

# 应用数据目录
~/cortexcpp/             # 包含引擎、模型和日志
  ├── engines/           # 引擎文件
  ├── models/            # 模型文件
  └── logs/              # 日志文件

# 配置文件
~/.cortexrc              # 用户配置文件

卸载方法

如需卸载Cortex，可执行以下命令：

sudo /usr/bin/cortex-uninstall.sh

从源码编译

对于开发者或需要定制功能的用户，可以从源码编译Cortex：

编译环境准备

# Debian/Ubuntu
sudo apt-get install -y cmake g++ ninja-build make

# RHEL/CentOS
sudo yum install -y cmake gcc-c++ ninja-build make

编译步骤

1. 获取源码并初始化子模块：

git clone https://github.com/menloresearch/cortex.cpp.git
cd cortex.cpp
git submodule update --init

2. 执行编译：

cd engine
make configure-vcpkg
make build CMAKE_EXTRA_FLAGS="-DCORTEX_CPP_VERSION=$(git rev-parse HEAD) -DCMAKE_BUILD_TEST=OFF -DCMAKE_TOOLCHAIN_FILE=vcpkg/scripts/buildsystems/vcpkg.cmake"

3. 验证编译结果：

./build/cortex -h

版本更新

对于通过标准方式安装的用户，可以使用内置命令更新：

sudo cortex update

注意：此命令需要sudo权限，且仅适用于标准安装路径(/usr/bin)下的二进制文件。

常见问题解答

1. 安装失败怎么办？

   • 检查网络连接是否正常
   • 确认系统满足最低要求
   • 查看终端输出中的错误信息

2. 如何切换不同版本？ 使用--channel参数指定渠道，或--version参数指定具体版本

3. 自定义安装路径是否可行？ 官方推荐使用默认路径，如需自定义需要手动管理二进制文件

通过本文指南，您应该能够顺利完成JanHQ/Cortex在Linux系统上的安装和基本配置。如需更高级的使用方法，请参考项目文档或社区资源。

cortex Drop-in, local AI alternative to the OpenAI stack. Multi-engine (llama.cpp, TensorRT-LLM). Powers 👋 Jan 项目地址: https://gitcode.com/gh_mirrors/cor/cortex