ChatGPT数据泄露,技术细节披露公布

AI安全实战:从漏洞赏金计划看Claude Code攻击面与挖掘技巧 漏洞赏金计划是企业安全体系中重要的众测模式,通过激励白帽黑客发现并报告漏洞,以可控成本实现持续性安全审计。其核心原理在于利用全球研究员的集体智慧,弥补内部测试盲区,覆盖更广泛的攻击路径。在AI时代,这一模式的价值尤为凸显,因为大语言模型引入了提示词注入、训练数据泄露、模型越狱等全新的攻击维度。AI编程助手如Claude Code,因其直接生成并影响生产代码,其安全性直接关系到软件供应链安全。本文以Anthropic在HackerOne上启动的Claude漏洞赏金计划为切入点,系统剖析了针对AI系统的攻击面, 阅读详情

点击“开发者技术前线”,选择“星标”

让一部分开发者看到未

3011e9204d02bddbbe98321ee0478f68.jpeg

来自 | OSC开源社区(ID:oschina2013)

近期,ChatGPT 遭遇了一次用户数据泄漏事件,许多 ChatGPT 的用户都在自己的历史对话中看到了其他人的对话记录。不光是对话的历史记录,不少 ChatGPT Plus 用户还在 Reddit 和 Twitter

等平台发出了截图,表示在他们的订阅页面上看到了其他人的电子邮件地址。

ba72089dcd4477898ac47766d6305410.jpeg

事件发生后,OpenAI 临时关闭了 ChatGPT 服务以调查问题,后续 Open AI 的首席执行官 Sam Altman 也亲自发了推文,承认他们确实遭遇了重大问题,不过当时并没有公布问题的细节,只表示是一个开源库的错误导致的。

dcce5054e238e033f726299cf366991e.png

由于一个开源库的错误,我们在 ChatGPT 中出现了一个重大问题,现在已经发布了一个修复程序,我们刚刚完成了验证。

一小部分用户能够看到其他用户的对话历史的标题。

经过多日的调查,OpenAI 日前发布了一份包含技术细节的事件报告,该事件是 Redis 客户端开源库中的一个错误所引发的,导致 ChatGPT 服务暴露了其他用户的聊天查询历史和大约 1.2% 的 ChatGPT Plus 用户的个人信息。

技术细节

这个错误是在 Redis 客户端开源库 redis-py 中发现的。发现这个 bug 后,OpenAI 就立即联系了 Redis 的维护者,提供了一个补丁来解决这个问题。以下是这个错误的具体细节:

  • OpenAI 使用 Redis 在他们的服务器中缓存用户信息,所以 ChatGPT 不需要为每个请求检查数据库。

  • OpenAI 使用 Redis Cluster 将这一负载分布到多个 Redis 实例上。

  • OpenAI 使用 redis-py 库,以便让用了 Asyncio 的 Python 服务器与 Redis 对接。

  • 该库在服务器和集群之间维护一个共享的连接池,并在完成后回收连接以用于另一个请求。

  • 当使用 Asyncio 时,redis-py 的请求和响应表现为两个队列:调用者将请求推送到传入队列,并从传出队列中弹出响应,然后将连接返回到池中。

  • 如果在请求被推送到传入队列之后,但在响应从传出队列中弹出之前,请求被取消,我们就会看到错误:连接因此被破坏,下一个为不相关的请求出列的响应可以接收连接中留下的数据。

  • 在大多数情况下,这会导致一个无法恢复的服务器错误,而用户将不得不重新尝试他们的请求。

  • 但在某些情况下,损坏的数据恰好与请求者所期望的数据类型相匹配,因此从缓存中返回的数据看起来是有效的,即使这些数据属于另一个用户。

  • 在太平洋时间 3 月 20 日星期一凌晨 1 点,OpenAI 无意中给他们的服务器引入了一个变化,导致 Redis 请求取消的情况激增。这在一定程度上引发了每个连接返回错误数据的可能性。

  • 这个错误只出现在 Redis Cluster 的 Asyncio redis-py 客户端,现在已经被修复。

经过深入调查,OpenAI 发现一些用户有可能看到其他活跃用户的姓名、电子邮件地址、账单地址、信用卡号码的最后四位数和信用卡到期日,OpenAI 特别强调道,完整的信用卡号码并没有暴露。

这部分受影响的用户占 ChatGPT Plus 用户总数的 1.2%,目前他们正在联系了所有受影响的 ChatGPT 用户。

— 完 —
点这里👇关注我,记得收藏订阅哦~

历史推荐

原腾讯副总裁,Google资深研究员吴军:ChatGPT不算新技术革命,带不来什么新机会

中科院学术科研专用版 ChatGPT开源,斩获24.5K star

阿里版ChatGPT突发官宣问世!紧追百度文心一言

好文点个在看吧

【社会科学】【管理科学】 第二十六章 评价管理——企业中通过评价实现人的管理方法和策略及行为01 编号类型领域评价人被评价人评价方法和策略评价控制的逐步推理思考的方程式及语言/话术/表情/姿态/动作/脸色/眼色关联知识法律法规和底线要求1绩效结果导向型评价绩效管理直接上级全体员工关键绩效指标法(KPI)与季度/年度复盘会推理方程式:核对期初目标(量化)→ 分析实际数据与目标差距 → 归因(外部/内部、能力/意愿)→ 共识下阶段改进点。 话术:“来看下我们Q2的业绩面板。你负责的A指标超额完成,值得肯定。但B指标有10%的缺口,你分析主要是什么原因?” 表情/姿态:坐在会议桌同侧,电脑屏幕或文 阅读详情

相关推荐

【多元统计分析】均值向量和协方差阵的检验——spss上机实验

均值向量和协方差阵的检验——spss上机实验 #参考书目为《多元统计分析》(第五版)——何晓群.中国人民大学出版社 #如有错误,请指正!谢谢~ #关注公众号搜索同名文章获取数据~ 习题2.3 现选取内蒙古、广西、贵州、云南、西藏、宁夏、新疆、甘肃和青海等9个内陆边远省区。选取人均GDP、第三产业比重、人均消费支出、人口自然增长率及文盲半文盲人口占15岁以上人口的比例等5项能较好的说明各地区社会经济发展水平的指标,验证边远及少数民族聚居区的社会经济发展水平与全国平均水平间有无显著差异。 将输入导入spss

suansuannainaizi的博客 3万+

直接攻击,越狱攻击,道德攻击……这样做,ChatGPT 就会泄漏你的隐私

夕小瑶科技说 原创作者 | 小戏大模型的出现让我们的隐私比以往任何时候都危险。一个很直观的例子,在大模型向黑洞一样不断吞噬现有网络中的文本数据之时,伴随着模型训练的文本数量从 GPT-2 的 40GB 文本到 GPT-3 的 45TB 文本,我们可以非常直观的得出结论,这些大模型很有可能已经把我们的隐私数据在大洋彼岸的某台服务器里迭代学习了无数次。诚然,不管是 OpenAI 还是谷歌都反复强调了把...

夕小瑶科技说 3380

保姆级教程如何进行本地局域网布署openclaw小龙虾

全网唯一一篇一步步实战教程,图文并茂方式的方式教你如何本地部署安装小龙虾openclaw

zzw17wei的专栏 1470

ChatGPT 爆出超级漏洞,能看别人支付记录和聊天内容,OpenAI 公布技术细节

公众号关注「奇妙的 Linux 世界」设为「星标」,每天带你玩转 Linux !​原来,是缓存问题导致了 ChatGPT 的宕机。本周早些时候,ChatGPT 宕机数小时。现在,OpenAI 声明 ChatGPT 的暂时下线是因为开源库中的一个错误,该错误让一些用户能够看到另一个活跃用户聊天记录中的标题。如果两个用户大约同时在线,那么新创建的对话的第一条消息也可能在其他人的聊天记录中可见。Ope...

easylife206的专栏 1963

TCP报文 Flood攻击原理与防御方式

TCP交互过程中包含SYN、SYN-ACK、ACK、FIN和RST报文,这几类报文也可能会被攻击者利用,海量的攻击报文会导致被攻击目标系统资源耗尽、网络拥塞,无法正常提供服务。接下来我们介绍几种常见的Flood攻击的原理和防御方式。

qq_32044265的博客 4223

Innovus Flexible H-tree and Multi-tap Clock Flow Lab实操系列教程(Day1)

Innovus Flexible H-tree and Multi-tap Clock Flow Lab实操系列教程(Day1)

weixin_37584728的博客 2651

用于 Google Sheets 的 ChatGPT 存数据泄露风险,多次披露未获有效回应!

OpenAI 推出可在 Google Sheets 中使用 ChatGPT 的 AI 扩展程序,发布不到一个月下载量超 18.5 万次。用户可与侧边栏 AI 聊天机器人交互操作电子表格,借助 ChatGPT 连接器获取数据。普通用户查询触发的间接提示注入攻击会引发多种后果,如泄露多个工作簿、显示钓鱼弹出窗口等。当不可信数据源操纵 ChatGPT 运行外部脚本时会发生攻击,脚本利用用户授予扩展程序的权限操作。

safetybug的博客 34

【接口自动化测试】cookie绕过验证码自动登录?(保持登录状态)

在编写接口自动化测试用例或其他脚本的过程中,经常会遇到需要绕过用户名/密码或验证码登录,去请求接口的情况,一是因为有时验证码会比较复杂,比如有些图形验证码,难以通过接口的方式去处理;再者,每次请求接口前如果都需要先去登录一次,这样不仅效率低,还耗费资源。 有些网站是使用cookie辨别用户身份的,此时我们便可以先登录一次,拿到登录成功后的cookie,后续请求时在请求头中加入该cookie,便可保持登录状态直接请求。

weixin_67553250的博客 2072

ChatGPT记忆功能数据泄露风险解析与GDPR/等保2.0合规指南

在人工智能与数据安全领域,大语言模型的记忆功能通过向量化存储和关联用户标识实现个性化交互,其核心原理涉及信息提取、向量化及云端存储。这一技术虽提升了用户体验,但也带来了显著的数据安全与隐私挑战,尤其是在企业级应用场景中。从技术价值看,记忆功能实现了跨会话的持续上下文理解,但其潜在风险包括数据泄露和合规违规。具体应用时,若未加管控,可能导致敏感信息在对话间意外共享,或遭遇恶意提示词诱导泄露。本文聚焦ChatGPT记忆功能,深入剖析其已验证的三大数据泄露漏洞,并为个人用户与企业管理员提供兼顾GDPR和等保2.0

362

ABAP - Function ALV 11 - 单元格下拉框

【代码】ABAP - Function ALV 11 - 单元格下拉框。

HeathlX的博客 1820

opencv+nvcodec实现视频硬解码

最近遇到一个新项目,AI推理在上,为了方便和节省成本的考虑决定研究下模块。根据官网的说法显卡具有独立的和模块,所以理论上和是独立互不干涉的。以前的项目都只是把显卡当成推理工具,没有将它的功能利用起来,本身也是一种浪费。事实真的有这么丝滑吗?看到这里,如果你真的觉得是白叫的那就真的是了,事实究竟如何,请听我娓娓道来。NVCODEC全称是 NVIDIA VIDEO CODEC,是NVIDIA为绝大多数显卡配置的硬件编解码单元。不一定是所有显卡都有,一般来讲越新的显卡硬件编解码就越强,支持的格式也就越新。

jiexijihe945的博客 1万+

OpenAI反复修补未果的ChatGPT数据泄露漏洞是什么?

来源:安全内参编译:安全内参通过定制恶意GPT或者提供恶意提示词给用户使用,攻击者可以窃取用户使用ChatGPT的对话详情等信息。安全内参12月22日消息,OpenAI已经采取缓解措施,修补了ChatGPT可将对话详情泄漏到外部URL的数据泄露漏洞。但发现该漏洞的研究人员认为,目前的缓解措施并不完美,在特定条件下攻击者仍然可以利用漏洞。此外,ChatGPT尚未对iOS端应用进行安全检查,因此该平台...

人工智能学家 282

【Windows Server 2019】活动目录 (Active Directory) ——将计算机加入域和脱离域

博文介绍了如何将计算机加入AD域和脱离AD域,包括加入域,验证客户机加入到域后的信息,使用域账户用户在客户机上登录,使用本地账户用户在计算机上登录,脱离域。

VMware, Windows, Linux, Cisco, Container, Kubernetes, Kali 6170

数影周报:现代汽车发生数据泄露事件;淘宝天猫集团完成组织调整

此外,近场零售方面,下一步淘菜菜将并入天猫,与天猫超市、淘鲜达现有业务整合,统一由天猫超市现任总经理刘一曼(花名:一漫)负责。据了解,阿里巴巴“中国数字商业板块”成立于2022年1月1日,包括大淘宝(包括淘宝、天猫、阿里妈妈)、B2C零售事业群、淘菜菜、淘特和1688等业务。4月12日消息,京麦商家中心公告称,为便捷商家京挑客入驻和计划操作,京挑客商家端启动移动版的功能升级,支持商家在移动版入驻、计划推广设置、数据查询、券佣推荐、计划状态变更等能力,降低商家操作成本、提升商家推广规模。(来源:IT之家 )

Dsphere_shuying的博客 506

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

揭秘:ChatGPT秘密数据疯狂泄露!

公开与私有数据:攻击可能会让ChatGPT透露出在训练大型语言模型时使用的公开数据和私有数据,包括那些可能涉及机密的企业信息收集过程、用户特定数据或未授权的信息。这一发现意味着,通过巧妙的查询,我们或许能挖掘出它所学习的精准信息。观察模型的反常响应:在重复的命令下,ChatGPT倾向于抛弃它被微调的指令,转而依赖于它的原始训练数据,因此更有可能披露与这些数据直接关联的信息。训练数据的详细内容:通过特定的令牌序列重复,攻击揭露了训练数据集中的详细信息,提供了一种手段来提取模型训练数据集中的特定文本片段。

ooope的博客 866

贝叶斯统计 [韦来生编]

贝叶斯(Bayes)统计是近几十年来迅速发展起来的数理统计的一个重要分支。贝叶斯方法与经典统计方法的主要不同之处是进行统计推断时除了利用样本信息外,还要利用参数的先验信息,因此可以提高统计推断或统计决策的效果。它在经济、金融、生物、医学、自然科学和社会科学等许多领域具有广泛的应用。贝叶斯方法的研究已渗透到了统计学的几乎所有领域。作者在给中国科学技术大学概率论与数理统计专业本科生开设的“数理统计”课程中有一章专门讲授“贝叶斯方法和统计决策理论”,近十年来也给中国科学技术大学概率统计专业研究生开设过几次“贝叶斯分析”课。本书是在对过去讲稿的内容作了适当的增减和调整的基础上完成的。  本书共分六章。第1章是绪论,介绍了贝叶斯统计的若干基本概念,同时对必要的数理统计的基础知识有重点地作了回顾。第二章介绍了确定先验分布的若干可供选择的方法。第三章介绍了几类常见统计模型参数的后验分布的主要结果和计算方法。第四章和第五章分别介绍了“贝叶斯统计推断”和“贝叶斯统计决策”的内容。第六章介绍了贝叶斯统计计算的若干方法,包括蒙特卡洛方法和马尔可夫链蒙特卡洛(MCMC)方法以及相关统计软件的简介。本书的每一章附右大量的例题和习题,书末附有常用的几个表格和部分习题解答供读者查用。  大约可在54学时内讲授本书的第1章至第六章的主要内容,教师可根据学时需要选讲本书第1章至第六章的部分内容。书中标“*”号的章节可略去不讲,留给读者作为阅读材料。第六章例题中的R代码和部分例题的数据文件等可从作者个人主页下载。  作者在编写本书的过程中参考了J.O.Berger教授的《统计决策论及贝叶斯分析》和茆诗松教授编写的《贝叶斯统计》等书中的一些内容,以及《贝叶斯分析》一书中由张伟平博士编写的有关贝叶斯统计计算的一些内容。在此表示衷心感谢。  本书编写准备过程中,中国科学技术大学统计与金融系的几个研究生帮助完成了本书部分中文的录入和排版,作者对他们的辛勤工作表示真诚的感谢。高等教育出版社为本书的出版给予了大力支持。在此一并致谢。

科技云报道:一路狂飙的ChatGPT,是时候被监管了

为更好促进生成式人工智能技术健康发展和规范应用,国家网信办日前也公布了《生成式人工智能服务管理办法(征求意见稿)》明确提出,在提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,并应符合五项要求,包括要防止生成虚假信息,防止伤害他人身心健康,防止损害肖像权、名誉权和个人隐私,防止侵犯知识产权,禁止非法获取、披露、利用个人信息和隐私、商业秘密等。ChatGPT企业负责人表示,ChatGPT近日被发现存在漏洞,用户可以看到其他用户与ChatGPT对话的标题,这让不少人感到忧虑。

科技云报道 3789

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

每日新闻掌握【2024年12月18日 星期三】

2024年12月18日 星期三 农历十一月十八 大公司/大事件 我国成功发射卫星互联网低轨卫星,行业已进入加速落地阶段 据媒体报道,我国在文昌航天发射场使用长征五号乙运载火箭/远征二号上面级,成功将卫星互联网低轨01组卫星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。 卫星互联网加速落地,北斗、低轨系统继续推进,“三位一体”空间网络覆盖或将成为现实,我国或将通过三种卫星网络系统实现空间网络覆盖。民生证券认为,低轨通信星座的申请与部署将为国内卫星及商业火箭行业带来较大市场

1126

网络安全日报 2023年12月25日

网络安全行业产业以来,随即新增加了几十个网络安全行业岗位︰网络安全专家、网络安全分析师、安全咨询师、网络安全工程师、安全架构师、安全运维工程师、渗透工程师、信息安全管理员、数据安全工程师、网络安全运营工程师、网络安全应急响应工程师、数据鉴定师、网络安全产品经理、网络安全服务工程师、网络安全培训师、网络安全审计员、威胁情报分析工程师、灾难恢复专业人员、实战攻防专业人员…网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己录的网安视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

Galaxy_0的博客 1084

亚马逊加入大模型竞赛/ 滴滴可打自动驾驶车/ 百度副总裁回应王小川…今日更多新鲜事在此...

日报君 发自 凹非寺量子位 | 公众号 QbitAI大家好,今天是4月14日星期五,马上又要到周末啦~今天科技圈有哪些新鲜事儿,和日报君一起来看看~百度副总裁回应王小川:确实不在一个宇宙无论国内还是国外,人工智能的竞争可谓是如火如荼。此前,百度CEO李彦宏曾对36kr表示,文心一言和OpenAI的差距是2个月。王小川则评价称,“采访的可能是平行世界的他(李彦宏),不是我们这个世界里的”。对此,百度...

量子位 253

互联网晚报 | 三星超过苹果成手机市场份额第一;特斯拉回应中国内地市场降价传闻;ChatGPT或会暴露企业机密信息...

苹果手机失去市场份额第一,2023年第一季度被三星反超调研机构Canalys发布了2023年第一季度的全球智能手机市场报告,该季度同比继续下跌12%,是连续第五个季度出现下跌。三星是头部厂商中唯一实现环比增长的厂商,以22%的市场份额重回第一。不过,三星目前与苹果的差距还非常小,苹果21%的市场份额暂居第二,这主要是因为iPhone 14 Pro需求依然强劲,与去年同期和三星的差距明显缩小。(财经...

liudada8265的博客 1445

首破 10 万亿,国内开源开发者高达 800 多万

点击“开发者技术前线”,选择“星标”让一部分开发者看到未来来自:非著名程序员4 月 15 号的时候,工信部在中国软件创新发展大会上介绍了我们软件行业的一些数据,我总结了一下,分享给大家。1、全国软件和信息技术服务业规模以上企业在 2022 年已超 3.5 万家;2、软件业务收入首次跃上 10 万亿元台阶,全年累计完成软件业务收入达到 108126 亿元,同比增长 11.2%。3、中国源代码贡献量已...

开发者技术前线-DevolperFront 742

科技周报(2026-09-01期):版权战与机器人潮

科技周报(2026-09-01期):版权战与机器人潮

程序员码小跳 3296

Perplexity AI内容授权争议:爬虫、训练数据与引用透明的三重困境

AI原生搜索工具如Perplexity AI,正面临日益严峻的内容版权合规挑战。其技术架构依赖实时网络检索与离线大模型训练双重机制,但后者所用的海量公开网页语料,往往未经明确授权,游走在‘合理使用’与‘未经授权使用’的法律模糊地带。这种‘爬虫即采集、训练即内化、输出即重构’的技术范式,使传统引用机制失效,暴露出AI时代版权法在规制非复制性知识吸收方面的结构性滞后。当前行业正从技术封堵(robots.txt/WAF)、商业授权(AI Ready认证)到法律诉讼(数据库权/不正当竞争)多路径探索治理方案,而‘授

weixin_30915275的博客 452

Anthropic提示加固技术解析:如何防御大语言模型提示注入攻击

提示注入攻击是大语言模型应用开发中面临的核心安全挑战之一,它利用精心构造的输入绕过系统预设指令,诱导模型执行非授权操作。其原理源于LLM对自然语言指令的优先级处理机制,使得用户输入可能覆盖系统安全规则。从技术价值看,有效的防御体系需要建立清晰的指令权限边界,这直接关系到AI应用的可靠性与安全性。在实际应用场景中,客服系统、内容生成工具和自动化流程都面临此类威胁。Anthropic公司近期提出的“提示加固”技术,通过指令层次结构化、对抗性训练和运行时检测三层防御体系,为解决这一难题提供了新的工程实践方案。该技

weixin_34268169的博客 652

企业在哪里可以使用 ChatGPT 和 OpenAI 模型?

客户可以联系账户团队咨询零数据留存方案。Daybreak 的设计思路,是依靠身份核验、场景校验、访问管控、持续监控,给拿到授权的安全研究提供针对性模型能力,而不是单纯取消内容限制。亚马逊云科技在 Daybreak 专题技术文档中,分享了一则 OpenAI 安全研究案例:研究人员借助 GPT-5.6 Cyber,通过 Daybreak Red 在 V8 JavaScript 引擎中找到两个此前未公开的关联漏洞,该漏洞危害等级较高,其中一个初始漏洞已经分配 CVE-2026-15903 并完成修复发布。

JINGdigital_的博客 256

企业在哪里可使用 ChatGPT 和 OpenAI 模型?

依托托管 Amazon EC2 实例支持最长 14 天会话,搭配共享文件系统、适配 GPU、持久化存储,支撑复杂 Agent 工作负载。配置 VPC、子网、安全组、存储卷、服务角色,授权 AgentCore 管理账户内 Amazon EC2 资源。存储、网络、日志、其他云服务额外计费。企业想要把生成式人工智能落地到内部知识管理、软件开发、业务自动化、AI Agent 场景时,可以根据业务诉求,选择 ChatGPT 产品、OpenAI 官方 API,或是搭载 OpenAI 模型的云平台搭建应用。

JINGdigital_的博客 140
上一篇: 原腾讯副总裁,Google资深研究员吴军:ChatGPT不算新技术革命,带不来什么新机会...
下一篇: 商汤版 ChatGPT 正式发布
DevolperFront
博客等级 码龄8年 465粉丝 81原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值