【AI Guide】AI面试攻略只用看这一篇就够了！力争做全网最全的AI面试攻略——大模型（五十一） 大模型合规性

大模型合规性

在大模型（如 GPT、BERT 等）的应用中，合规性是一个至关重要的方面。合规性主要体现在确保模型输出符合伦理标准、法律要求和应用场景的相关规定。为了确保大模型输出内容的合规性，通常采用以下几种技术和策略：

内容过滤

内容过滤是确保生成模型输出符合特定伦理或法律标准的一种技术手段。它通过在生成过程中或生成后对模型的输出进行筛查，去除有害、敏感或不符合规定的内容。

核心技术

• 关键词屏蔽：预先定义敏感词汇（如侮辱性、违法性、政治敏感等词语），一旦模型输出包含这些词汇，便进行屏蔽或修改。
• 情感分析：分析生成文本的情感倾向，若模型生成内容带有过于激烈、负面或煽动性情感，可通过后处理进行修改或删除。
• 内容审查模型：使用专门训练的内容审查模型，对生成的文本进行分类，判断其是否包含不符合规定的内容（例如歧视性言论、虚假信息等）。
• 人类审核：某些高风险场景下（如医疗、法律咨询等），还可能需要人工审核生成的内容，确保其完全符合合规要求