14、AI安全、隐私与公平性：挑战与应对策略

AI安全、隐私与公平性：挑战与应对策略

1. AI安全概述

AI系统的安全是一个至关重要的议题。安全的简短定义可以概括为CIA，即保密性（Confidentiality）、完整性（Integrity）和可用性（Availability）。AI系统面临的攻击可能发生在训练数据、模型本身或运行时。

1.1 攻击类型

• 训练数据攻击 ：攻击者可能会篡改训练数据，从而影响模型的性能和准确性。
• 模型攻击 ：对模型进行攻击，例如通过对抗样本等方式，使模型做出错误的预测。
• 运行时攻击 ：在模型运行过程中进行攻击，如拒绝服务攻击等。

1.2 安全方法

安全方法基于零信任原则，即在设计架构时嵌入零信任，通过应用最小权限原则、始终验证和持续监控来实现。在模型构建和准备阶段，维护数据项的版本及其谱系对于确保模型的完整性非常重要。在运营阶段，虽然没有很好的技术来避免基于数据的攻击向量，但有一些通用的做法可以减少攻击面并在攻击发生时进行检测。

1.3 基础模型（FMs）的安全挑战

FMs在安全方面面临着独特的挑战，这些挑战延伸到提示工程和RAG（检索增强生成）的使用。例如，由于FMs的训练数据通常不可用，难以确定其是否符合隐私原则。

2. 宪法大语言模型（Constitutional LLMs）的优势

可以使用特定案例的宪法对大语言模型（LLM）进行微调，使其行为更符合特定要求和约束。宪