Security and Privacy Challenges of Large Language Models: A Survey

最新推荐文章于 2025-07-26 15:35:12 发布
最新推荐文章于 2025-07-26 15:35:12 发布
阅读量247 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： Survey Paper LLM Security and Privacy 文章标签： 语言模型 网络 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/136524535
本文详述大型语言模型（LLM）在安全和隐私方面的挑战，包括越狱攻击、数据中毒和个人信息泄露。调查涵盖LLM的架构、安全攻击、隐私攻击及防御机制，指出现有工作局限并提出未来研究方向。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文是LLM系列文章，针对《Security and Privacy Challenges of Large Language Models: A Survey》的翻译。

大型语言模型的安全和隐私挑战：一项调查

摘要

大型语言模型（LLM）已经展现出非凡的能力，并在多个领域做出了贡献，如生成和总结文本、语言翻译和问答。如今，LLM正成为计算机语言处理任务中非常流行的工具，能够分析复杂的语言模式，并根据上下文提供相关和适当的回应。这些模型在提供显著优势的同时，也容易受到安全和隐私攻击，如越狱攻击、数据中毒攻击和个人身份信息（PII）泄露攻击。这项调查全面审查了LLM对训练数据和用户的安全和隐私挑战，以及交通、教育和医疗保健等各个领域中基于应用程序的风险。我们评估LLM漏洞的程度，调查LLM新出现的安全和隐私攻击，并审查潜在的防御机制。此外，该调查概述了该领域现有的研究空白，并强调了未来的研究方向。

1 引言

2 LLM架构

3 LLM漏洞概述

4 LLM的安全攻击

5 LLM的隐私攻击

6 防御机制

7 LLM中基于应用程序的风险

8 现有工作的局限性和未来的研究方向

9 结论

了解本专栏 订阅专栏 解锁全文 超级会员免费看
论文阅读：2025 ACM Computing Surveys. Security and Privacy Challenges of Large Language Models: A Survey
CSPhD-winston的博客
05-26 756
大语言模型是一把“双刃剑”，既能推动科技进步，也带来安全与隐私风险。这篇论文呼吁研究者、开发者和政策制定者共同努力，通过技术创新（如更鲁棒的防御算法）和制度规范（如数据隐私法规），让大语言模型更安全、可信地服务于人类。最重要的表。
阅读笔记Security and Privacy Challenges of Large Language Models: A Survey
Yale的博客
02-29 665
这篇综述论文全面探讨了大型语言模型（LLMs）在安全性和隐私方面的挑战。LLMs在多个领域展现出了卓越的能力，如文本生成、摘要、语言翻译和问答。然而，这些模型也面临着安全和隐私攻击的脆弱性，例如越狱攻击、数据投毒攻击和个人身份信息（PII）泄露攻击。作者全面回顾了LLMs在训练数据和用户方面的安全和隐私挑战，以及在交通、教育和医疗等不同领域的应用风险。论文评估了LLMs的脆弱性，调查了针对LLMs的新兴安全和隐私攻击，并回顾了潜在的防御机制。此外，论文概述了该领域的现有研究空白，并强调了未来的研究方向。
【LLM安全】A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly
qq_43543209的博客
02-26 3250
LLMs在代码安全和数据安全与隐私方面都做出了贡献。在代码安全的背景下，LLMs已经被用于代码(例如,安全编码、测试用例生成、脆弱代码检测、恶意代码检测、代码修复等)的整个生命周期。在数据安全和隐私方面，LLMs已被应用于确保数据完整性、数据机密性、数据可靠性和数据可追溯性。大多数研究人员发现基于LLM的方法优于传统最先进的方法。
论文阅读：2025 ACM Computing Surveys Security and Privacy Challenges of Large Language Models: A Survey
CSPhD-winston的博客
04-17 974
这篇论文主要探讨了大语言模型（LLMs）的安全和隐私挑战，涵盖了攻击类型、防御机制、应用风险、现有研究局限及未来方向等方面。
论文笔记：PRIVACY ISSUES IN LARGE LANGUAGE MODELS: A SURVEY
qq_40206371的博客
05-10 1039
Carlini等人[2023a]、Kandpal等人[2022]和Lee等人[2022]都发现，即使在训练集中几乎没有重复时，记忆化仍然会发生。这些影子模型用于估计目标数据集的分布，从而更好地推断目标模型的训练数据。在LLMs的情况下，这些模型可能使用数十亿的参数和数据点构建，这通常是非常昂贵的。：在去重后，攻击者选择概率最高的前k个候选目标，这些目标可能包含敏感的训练数据。然而，训练影子模型可能非常昂贵，特别是对于具有数十亿参数和数据点的大型语言模型。减轻记忆化的最直接和即时的方法是去重训练数据集。
PRIVACY ISSUES IN LARGE LANGUAGE MODELS: A SURVEY
c_cpp_csharp的专栏
01-17 560
这是对人工智能研究活跃领域的首次调查，重点关注大型语言模型（LLM）中的隐私问题。具体而言，我们专注于红队建模的工作，以突出隐私风险，试图将隐私纳入训练或推理过程，使经过训练的模型能够有效删除数据，以符合现有的隐私法规，并试图缓解版权问题。我们的重点是总结开发算法、证明定理和进行实证评估的技术研究。虽然有大量的法律和政策工作从不同的角度应对这些挑战，但这并不是我们调查的重点。尽管如此，这些工作以及最近的法律发展确实为这些技术问题的形式化提供了信息，因此我们在第1节中简要讨论了这些问题。
A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly
c_cpp_csharp的专栏
01-12 626
大型语言模型（LLM），如ChatGPT和Bard，已经彻底改变了自然语言的理解和生成。他们拥有深入的语言理解能力、类人的文本生成能力、上下文意识和强大的解决问题的技能，这使他们在各个领域（如搜索引擎、客户支持、翻译）都非常宝贵。与此同时，LLM也在安全界获得了关注，揭示了安全漏洞，并展示了其在安全相关任务中的潜力。本文探讨了LLM与安全和隐私的交叉点。具体而言，我们调查LLM如何对安全和隐私产生积极影响，与使用LLM相关的潜在风险和威胁，以及LLM中的固有漏洞。
论文翻译：2024 High-Confidence Computing A survey on large language model (LLM) security and privacy: The
CSPhD-winston的博客
08-05 1286
大型语言模型（LLMs），如ChatGPT和Bard，已经彻底改变了自然语言理解和生成。它们具有深度语言理解能力、类似人类的文本生成能力、上下文意识和强大的问题解决技能，使它们在各个领域（例如搜索引擎、客户支持、翻译）中变得不可或缺。同时，LLMs也在安全领域获得了关注，揭示了安全漏洞并展示了它们在安全相关任务中的潜力。本文探讨了LLMs与安全性和隐私的交集。具体来说，我们研究了LLMs如何积极影响安全性和隐私，与它们使用相关的潜在风险和威胁，以及LLMs内部的固有漏洞。
A Survey on Large Language Model (LLM) Security and Privacy : The Good, the Bad, and the Ugly
m0_64764193的博客
10-22 681
后门攻击：在模型训练过程中植入一个或多个特定的触发器（Trigger），使得模型在遇到带有这些触发器的输入时，会产生攻击者预设的输出，即使这些输入与正常数据看起来非常相似。数据中毒： 数据中毒是指在训练数据中故意注入错误的、有害的或者误导性的数据，目的是在模型训练过程中影响模型的学习效果，导致模型在实际应用中表现不佳或者产生错误的预测。成员资格推断：成员推断攻击是数据安全和隐私领域中的一种特定类型的推断攻击，其确定数据记录是否是模型的训练数据集的一部分，给定对模型和特定数据记录的白色盒/黑盒访问。
【安全】大模型安全综述
qq_43543209的博客
02-22 1968
主要关注点在于安全应用程序领域，深入研究利用 LLM 发起网络攻击。
论文阅读-《A Survey of Large Language Models》
Yogurtboyyy的博客
06-08 2026
LLM综述论文
《计算机网络》实验报告六 电子邮件
qq_62992596的博客
07-23 759
本实验通过多种方式实现QQ邮件的收发操作，包括邮件代理、本地客户端、Web邮箱和Telnet命令，并利用Wireshark抓包分析SMTP、POP3等通信协议。实验过程中解决了tcpdump命令错误、Wireshark过滤语法等常见问题，验证了电子邮件的发送流程和协议交互过程。通过实验深入理解了SMTP、POP3协议的工作机制，掌握了邮件服务器配置、Base64编码解码等实用技能，认识到电子邮件在现代通信中的重要性。实验不仅提升了网络协议分析能力，也培养了解决实际问题的操作技巧。
世博会无法在Android上启动项目:无法连接到TCP端口5554:连接被拒绝
小妖666个人笔记
07-23 375
世博会无法在Android上启动项目:无法连接到TCP端口5554:连接被拒绝
ospf路由协议单区域
最新发布
2201_75767965的博客
07-26 576
1.路由器 OSPF 进程刚启动、物理链路未连通或邻居设备未启动 OSPF 进程为Down状态2.当路由器（如 RTB）接收到邻居（如 RTA）发送的 Hello 报文，且在该报文的邻居列表中未检测到自身 Router ID 时，该路由器会将对应邻居的状态标记为 Init。
网络安全入门第一课：信息收集实战手册（3）
2402_84408069的博客
07-25 939
摘要： 本文探讨了企业信息收集的实战技术，重点介绍了Hunter、爱企查等工具在资产测绘中的应用，包括备案域名收集、Logo哈希追踪等技巧。同时阐述了教育行业（Edusrc）和公益SRC的专项信息收集方法，并介绍了ARL自动化扫描工具的使用流程。文章强调所有操作需在合法授权下进行，严格遵守信息安全法律法规，禁止用于非法用途。通过资产测绘、人员定位、漏洞抓取和自动化整合四步法则，可系统化识别企业安全风险，但必须遵循最小影响原则和道德规范。
JavaWeb-Servlet
m0_72900498的博客
07-23 629
本文摘要： 介绍了软件系统两大架构（C/S和B/S）的优缺点，B/S架构因其无需安装客户端、便于升级维护而成为主流。重点阐述了JavaWeb开发的优势，包括Java语言特性、面向对象特点和庞大的类库支持。讲解了HTTP/TCP协议层级关系，以及JavaWeb核心组件Servlet和JSP的原理。最后说明了Maven的项目管理和依赖配置功能，包括修改本地仓库路径等设置要点。文章从架构选择到具体实现，为JavaWeb开发提供了系统性的技术概述。
交换机的六种常见连接方式配置（基于华为eNSP）
-曾牛的博客
07-23 1161
本文介绍了华为eNSP中交换机的六种常见连接方式配置方法。重点包括：1）基础直连配置，要求同网段主机IP；2）交换机接口配置，涉及链路类型（access/trunk/hybrid）和VLAN划分；3）主机通过交换机通信的配置流程，包括创建VLAN、配置vlanif网关和接口设置；4）不同交换机互联方案。同时详细讲解了二层/三层交换机区别、VLAN作用、子网划分、网关概念等网络基础知识，并涉及堆叠、层级结构等扩展内容。
通过 Web3 区块链安全评估，领先应对网络威胁
dd8989089的博客
07-25 204
Web3 区块链安全评估是确保 Web3 应用安全性的重要手段。通过全面的安全评估，可以发现潜在的安全漏洞和风险，采取相应的措施进行修复和防范，从而提高 Web3 应用的安全性，保护用户的数据和隐私。随着 Web3 技术的不断发展，安全评估将成为 Web3 应用开发和运营的重要环节。让我们携手共进，为构建一个更安全、更可靠的数字世界而努力。
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
03-09
### Chain-of-Thought Prompting Mechanism in Large Language Models In large language models, chain-of-thought prompting serves as a method to enhance reasoning capabilities by guiding the model through structured thought processes. This approach involves breaking down complex problems into simpler components and providing step-by-step guidance that mirrors human cognitive processing. The creation of these prompts typically includes selecting examples from training datasets where each example represents part of an overall problem-solving process[^2]. By decomposing tasks into multiple steps, this technique encourages deeper understanding and more accurate predictions compared to traditional methods. For instance, when faced with multi-hop question answering or logical deduction challenges, using such chains allows models not only to generate correct answers but also articulate intermediate thoughts leading up to those conclusions. Such transparency facilitates better interpretability while improving performance on various NLP benchmarks. ```python def create_chain_of_thought_prompt(task_description, examples): """ Creates a chain-of-thought prompt based on given task description and examples. Args: task_description (str): Description of the task at hand. examples (list): List containing tuples of input-output pairs used for demonstration purposes. Returns: str: Formatted string representing the final prompt including both instructions and sample cases. """ formatted_examples = "\n".join([f"Input: {ex[0]}, Output: {ex[1]}" for ex in examples]) return f""" Task: {task_description} Examples: {formatted_examples} Now try solving similar questions following above pattern. """ # Example usage examples = [ ("What color do you get mixing red and blue?", "Purple"), ("If it rains tomorrow, will we have our picnic?", "No") ] print(create_chain_of_thought_prompt("Solve logic puzzles", examples)) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值