Risk Assessment and Security Analysis of Large Language Models

《大型语言模型的风险评估与安全分析》（RISK ASSESSMENT AND SECURITY ANALYSIS OF LARGE LANGUAGE MODELS）核心内容总结与翻译

一、文章主要内容总结

本文聚焦大型语言模型（LLMs）在关键应用场景中的安全问题，围绕“动态风险评估+分层防御”构建技术框架，系统解决LLMs全生命周期的安全挑战，具体内容如下：

1. 核心安全风险识别

文章明确LLMs的三类核心风险，且这些风险贯穿模型训练、推理、部署全生命周期：

• 数据隐私泄露风险：训练阶段，参数规模超15亿时敏感信息恢复成功率提升2.3倍（如GPT-2可被提取含姓名、手机号的训练数据）；推理阶段，未采用差分隐私技术的医疗系统隐私泄露概率比基准高35%；API微调阶段存在参数窃取风险。
• 模型偏见传播风险：源于训练数据中的社会权力结构失衡，如“护士”与女性标签关联概率78%、“工程师”与男性标签关联概率65%；低资源语言覆盖不足（非洲本土语言仅占训练语料0.3%），LLaMA模型在非洲本土语言问答任务中错误率42%，是英语场景（12%）的3.5倍。
• 恶意滥用风险：用户层面，钓鱼邮件生成占LLM滥用攻击的32%，攻击者可通过提示注入生成恶意代码；系统层面，LLM生成勒索软件效率是传统手动编码的4倍；知识产权层面，可通