Nova框架安装与配置指南：构建LLM安全防护的第一道防线-优快云博客

本文链接：https://blog.youkuaiyun.com/gitblog_00089/article/details/148682426

Nova框架安装与配置指南：构建LLM安全防护的第一道防线

nova-framework NOVA: The Prompt Pattern Matching 项目地址: https://gitcode.com/gh_mirrors/no/nova-framework

前言

在大型语言模型(LLM)应用日益普及的今天，如何有效识别和防范潜在的有害提示(prompt)成为开发者面临的重要挑战。Nova框架应运而生，它是一个专门设计用于检测LLM潜在有害提示的模式匹配框架。本文将详细介绍Nova的安装与配置过程，帮助开发者快速搭建起LLM安全防护的第一道防线。

环境准备

在开始安装Nova之前，请确保您的系统满足以下基本要求：

Python 3.8或更高版本
pip包管理工具
稳定的网络连接（如需使用云端LLM服务）

建议使用虚拟环境来管理Python依赖，以避免与其他项目的依赖冲突。以下是创建虚拟环境的命令：

python -m venv nova-env
source nova-env/bin/activate  # Linux/macOS
# 或
nova-env\Scripts\activate  # Windows

Nova安装详解

标准安装方式

对于大多数用户，推荐使用pip进行安装：

pip install nova-hunting

此命令将自动完成以下操作：

安装Nova核心框架
安装所有必要的依赖项
在系统路径中添加novarun命令行工具

开发版安装

如需体验最新功能或参与开发，可以直接从源码安装：

pip install git+https://github.com/fr0gger/nova.git

开发版可能包含实验性功能，适合对稳定性要求不高但希望尝试最新特性的用户。

配置LLM服务

Nova支持多种主流LLM服务提供商，每种服务都需要特定的API密钥配置。以下是各服务的详细配置说明：

1. OpenAI配置

作为默认的LLM提供商，OpenAI需要设置API密钥：

export OPENAI_API_KEY="sk-your-openai-api-key"

高级配置建议：

考虑使用组织ID（如有）：export OPENAI_ORG_ID="your-org-id"
对于企业用户，可以指定默认模型：export OPENAI_MODEL="gpt-4-turbo"

2. Anthropic配置

针对Claude系列模型：

export ANTHROPIC_API_KEY="your-anthropic-api-key"

3. Azure OpenAI服务

企业级部署推荐使用Azure OpenAI：

export AZURE_OPENAI_API_KEY="your-azure-key"
export AZURE_OPENAI_ENDPOINT="https://your-resource-name.openai.azure.com"

4. Groq配置

针对高性能Llama模型：

export GROQ_API_KEY="your-groq-api-key"

5. Ollama本地模型

对于本地部署的模型：

export OLLAMA_HOST="http://localhost:11434"  # 默认值，通常无需修改

确保Ollama服务已启动并运行正常。

配置文件详解

对于复杂的生产环境，推荐使用YAML配置文件管理所有设置。以下是nova_config.yaml的完整示例：

llm:
  default: openai  # 设置默认提供商
  
  openai:
    api_key: sk-your-key  # 覆盖环境变量
    model: gpt-4o  # 指定模型版本
    temperature: 0.7  # 可选参数
    max_tokens: 1000  # 可选参数
    
  anthropic:
    api_key: your-antropic-key
    model: claude-3-opus-20240229
    max_tokens: 1024
    
  azure:
    api_key: your-azure-key
    endpoint: https://your-resource.openai.azure.com
    deployment_name: gpt-35-turbo
    api_version: 2023-05-15
    
  groq:
    api_key: your-groq-key
    model: llama-3.3-70b-versatile
    
  ollama:
    host: http://localhost:11434
    model: llama3
    keep_alive: 5m  # 保持连接时间

使用配置文件运行Nova：

novarun -r rules.nov -p "user prompt" -c nova_config.yaml

常见问题排查

安装问题

命令未找到：如果novarun不可用，尝试：
```
python -m nova.novarun
```
或检查Python的Scripts目录是否在系统PATH中。
依赖冲突：使用虚拟环境隔离依赖，或尝试：
```
pip install --upgrade --force-reinstall nova-hunting
```