ChatGPT 代码解释器被发现存在漏洞，黑客利用可窃取你的数据

最新推荐文章于 2025-11-28 15:37:34 发布
原创 最新推荐文章于 2025-11-28 15:37:34 发布 · 222 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#chatgpt #人工智能 #网络协议 #数据库 #http #大数据 #服务器

OpenAI的CodeInterpreter工具通过AI协助编程，但被发现可执行第三方URL指令，存在安全漏洞。黑客能利用虚假环境变量欺骗ChatGPT，可能导致敏感数据泄露。需注意保护措施。

OpenAI 近日为 ChatGPT 推出了全新的代码解释器（Code Interpreter）工具，可以帮助程序员调试、完善代码编程工作。

该工具可以利用 AI 来编写 Python 代码，所编写的代码甚至可以在沙盒中运行。

不过根据 Johann Rehberger 网络安全专家、Tom's Hardware 等多家国外媒体报道，由于该代码解释器工具可以处理任何电子表格文件，并能以图表的形式分析和呈现数据，黑客可以欺骗 ChatGPT 聊天机器人，让其执行来自第三方 URL 的指令。

目前主要订阅 ChatGPT Plus，才能访问该代码解释工具，但这个漏洞引发了网络安全专家的担忧。

Tom's Hardware 媒体复现了相关漏洞，创建虚假的环境变量文件，利用 ChatGPT 的功能处理此数据，然后将其发送到外部恶意站点。

ChatGPT 可以响应 Linux 命令，可以访问相关信息和文件，黑客通过这种方式，可以在用户没有防备的情况下，访问相关的敏感数据。

【网络安全 | ChatGPT】浅谈攻击防御进行时之传统的网络安全
等风来
05-24 4111
防范措施：建立健全的安全策略和规则，包括网络访问控制、数据备份、应急响应等方面。同时，也需要加强对员工的培训和意识教育，提高他们的安全意识和能力，减少人为因素对系统安全性的影响。防范措施：采用更加安全的加密算法和密钥管理机制，同时也需要对加密协议进行随机性、不可预测性和完整性验证。防范措施：采用更加安全和复杂的密码策略和认证机制，如多因素身份验证等。防范措施：建立和实施完善的漏洞管理制度，及时发现和修补系统中的漏洞。同时，也需要定期进行漏洞扫描和评估，确保系统的安全性和稳定性。威胁：密码破解、伪造身份等。
从0到1搭建企业AI安全合规体系：AI应用架构师拆解阿里_腾讯的6个核心实践
AI天才研究院
07-31 913
AI的核心是数据，数据安全是AI安全的基石。这些实践不是空泛的理论，而是经过亿级用户场景验证、能直接落地的方法论——从合规基线构建到数据安全治理，从算法风险管控到全生命周期安全运营，带你一步步搭建“能落地、可执行、防风险”的AI安全合规体系。但现实是，多数企业对“AI安全合规”仍停留在“头痛医头、脚痛医脚”的阶段：要么照搬互联网大厂的“高大上”框架，落地时发现“水土不服”；阿里/腾讯的算法安全管控核心是**“可解释性+公平性+鲁棒性”三位一体**：让算法“透明可解释”“公平无偏见”“抗攻击鲁棒”。
我使用 ChatGPT 审计代码发现了 200 多个安全漏洞( GPT-4 与 GPT-3 对比报告)
优快云资讯
04-07 1万+
作者|安全女巫责编 |王子彧前面使用 GPT-4 对部分代码进行漏洞审计，后面使用 GPT-3 对 git 存储库进行对比。最终结果仅供大家在 chatgpt 在对各类代码分析能力参考，其中存在误报问题，不排除因本人训练模型存在问题导致，欢迎大家对误报结果进行留言，我会第一时间跟进处理~大家若想看更全面的内容，请先关注我并发送私信，我会根据大家反馈写一篇 GPT-4 对某代码更全面的分析报...
刚刚，ChatGPT再爆安全漏洞！大量私密对话被泄露
夕小瑶科技说
01-31 1230
ChatGPT 又一次陷入了安全漏洞风波。如下图泄露了一名陌生用户正在利用ChatGPT排除故障的应用程序的名称以及发生问题的具体的商店编号。
ChatGPT-Next-Web漏洞利用分析（CVE-2023-49785）
蚁景网安学院
05-07 1242
日常网上冲浪，突然粗看以为是有关Chat-GPT的CVE披露出来了，但是仔细一看原来是ChatGPT-Next-Web的漏洞。NextChat，也称为 ChatGPT-Next-Web，是与 ChatGPT 一起使用的跨平台聊天用户界面。 2.11.2 及之前的版本容易受到服务器端请求伪造和跨站点脚本攻击的影响。2024年3月，互联网上披露CVE-2023-49785,攻击者可在无需登陆的情况下构造恶意请求造成SSRF，造成敏感信息泄漏等。
ChatGPT生成的程序漏洞百出，程序员的饭碗算是保住了
java_cjkl的博客
05-04 788
其实，人们对于ChatGPT的担忧还远不止“代码生成”一点。ChatGPT在回复时有可能存在大量的常识性错误。如果仅仅是常识性错误，还比较容易鉴别，可一旦涉及到比较专业的问题，非相关专业人士就很可能被ChatGPT带入歧途。ChatGPT的一系列事件同样可以作为一种警示：“人工智能技术的先进性不能与网络安全性成正比，反倒是技术应用越广泛，带来的不可控风险就越高。因此，我们在追捧Chat GPT的同时也要时刻提醒自己要谨慎使用。
ChatGPT写POC，拿下漏洞！
m0_46699477的博客
03-27 4500
训练ChatGPT编写PoC。
ChatGPT：你真的了解网络安全吗？浅谈攻击防御进行时之传统的网络安全
Z4400840的博客
05-23 1013
ChatGPT（全名：Chat Generative Pre-trained Transformer），美国OpenAI 研发的聊天机器人程序，是人工智能技术驱动的自然语言处理工具。基于其语言模型庞大、可控制、具有高度扩展性的特点，本文通过对话ChatGPT，浅谈网络安全攻击防御进行时。①网络安全学习路线②20份渗透测试电子书③安全攻防357页笔记④50份安全攻防面试指南⑤安全红队渗透工具包⑥网络安全必备书籍⑦100个漏洞实战案例⑧安全大厂内部视频资源⑨历年CTF夺旗赛题解析。
架构思考：如何设计可解释的AI数据安全智能体？
AI 领航者的博客
08-09 1021
它凭什么拦我？这个警告到底准不准？传统AI安全工具像“神秘保安”——只做决策，不说原因，导致用户不信任、合规难满足、故障排查慢。用“因果推理”替代“关联分析”，让智能体学会说“为什么”；用“分层解释”适配不同用户，让技术人员看细节、非技术人员懂结论；用“安全知识图谱”连接AI决策与人类规则，让解释更合规；用“透明决策引擎”从源头构建可追溯性，而非事后“贴标签”。最终，我们要把AI从“黑盒守护者”变成“能说清楚的安全伙伴”——既守得住安全，又听得懂人心。核心逻辑。
在window平台大模型LoRA微调实战（完整代码带数据）
qyhua的专栏
07-24 4446
本次微调最开始是打算使用Qwen/Qwen-1_8B-Chat的模型作为微调对象，调试过程中不断报GPU显存不够，该模型需要的显存超过12G，因此后面改用 Qwen/Qwen1.5-0.5B-Chat 模型。这里的注意力投影与多层感知的层作是："c_attn", "c_proj", "w1", "w2"从上面对比图可以看出，微调后的回答的答案与模型合并的模型都差不多效果，比较准确。微调前回复答案明显多了一些不像关键字的没有微调后的好，说明确实有效果。方法保存微调后的模型到指定目录。我们调整大模型哪些层，
【愚公系列】《AIGC辅助软件开发》041-如何使用 AI技术提升工作效率：AI辅助软件架构师实践
热门推荐
时光隧道
08-15 8万+
在数字化转型的浪潮中，软件架构师作为技术团队的核心，承载着系统设计与架构优化的重要责任。然而，随着项目复杂度的增加和技术环境的变化，架构师面临着前所未有的挑战。幸运的是，人工智能（AI）技术的迅猛发展为这一行业带来了新的机遇，帮助架构师提升工作效率、优化决策过程，并改善团队协作。本文将深入探讨AI如何辅助软件架构师的实际工作，具体分析AI在需求分析、架构设计、代码生成、测试和优化等环节的应用。
网络切片在AI算力网络中的安全挑战与解决方案
AI天才研究院
07-09 850
网络切片作为5G/6G的核心技术，通过逻辑资源隔离+定制化服务为AI算力网络提供了按需分配的算力资源池，支撑了实时推理、离线训练等多样化AI任务。然而，两者的融合也带来了隔离边界模糊、智能调度风险、分布式节点攻击等新型安全挑战。本文从第一性原理出发，拆解网络切片与AI算力网络的本质冲突，构建“物理-逻辑-智能”三层安全防御体系，结合硬件辅助隔离、零信任认证、AI驱动监控等技术，提出覆盖“切片生命周期+算力调度全流程”的系统性解决方案。
DeepSeek在文本生成中的ChatGPT
2509_93947344的博客
11-25 448
其对专业性文本的处理能力值得称道，当遇到技术文档、学术论文等需要精确术语和严谨表达的场景时，系统能够自动激活对应的专业词库和句式库。在这场没有硝烟的技术竞争中，不同的架构哲学催生了各具特色的产品形态。DeepSeek在这方面进行的探索值得关注，其正在研发的交互式生成模式允许用户在文本创建过程中实时调整生成方向，这种协同创作体验更贴近人类团队的合作方式。其内置的多层次语言模型对中文的语法特点、文化语境有着更深层次的理解，特别是在处理古诗词生成、对联创作等富含文化底蕴的内容时，能够准确把握平仄韵律和意境表达。
（116页PPT）关于5G和新基建赋能智慧工地整体解决方案（附下载方式）
2501_92808811的博客
11-25 1137
在整体架构方面，方案以“5G智慧工地平台”为核心，依托多类感知设备（如传感器、摄像头、AI眼镜、智能安全帽等）采集数据，通过5G网络实时回传至云平台，再借助大数据、云计算、人工智能等技术进行分析处理，最终在PC、手机、监控大屏等多终端进行可视化展示。此外，文件还详细列举了传统智慧工地子系统（如深基坑监测、升降机监控、扬尘噪音监测、智能水电计量等）的功能与部署方式，并补充了如5G企业专网、实测机器人、智慧科技体验中心等延伸应用，体现出方案的系统性与前瞻性。详细资料请看本解读文章的最后内容。
【推荐系统】深度学习训练框架（五）：pyspark分布式TorchDistributor主从读取OSS文件认证机制
最新发布
人工智能领域博客
11-28 886
摘要： 本文详细解释了Spark Driver端与Worker端在OSS认证上的核心区别。Driver端通过Spark配置自动认证，而Worker端（独立Python进程）需显式提供认证信息。认证来源优先级为：1)Driver传递参数，2)环境变量，3)IAM角色。文章分析了架构差异导致的不同认证方式，并推荐从Driver传递认证信息的解决方案。当前实现已采用该方案，通过Spark配置或环境变量获取认证后传递给Worker进程，确保PyArrow能正确访问OSS数据。
信息检索13
2301_80828873的博客
11-26 1685
最近邻检索的方法，PQ，IVF,HNSW
【LoRA（低秩适应）技术详解：原理、公式与实践】
m0_46882548的博客
11-26 1228
参数高效：可训练参数量通常仅为全量微调的0.01% - 3%，极大降低了计算和存储成本。内存友好：由于大部分原始权重被冻结，无需存储其优化器状态，显著减少了训练时的显存占用。无推理延迟：训练后可将LoRA权重合并回原模型，推理速度与原始模型一致。模块化与灵活性：一个基础模型可以搭配多个针对不同任务的、体积很小（几兆字节）的LoRA适配器，轻松切换任务。减轻灾难性遗忘：因为原始权重基本不动，模型在适应新任务时更不容易遗忘预训练时获得的通用知识。
RAG信息检索全解析：从Embedding到Reranker的超详细教程1
Trb201013的博客
11-27 1042
文章介绍了RAG系统中信息检索环节的核心技术，包括文档段落嵌入和用户查询嵌入，将文本转换为向量表示；详细解释了相似度检索的多种方法，如Top-K检索、MMR策略和Reranker二次排序技术；强调了合理切分策略对嵌入效果的重要性，以及查询扩展技术对提高检索准确度的作用。指出RAG的本质是"开卷考试"，检索质量直接影响最终生成效果。
卫星遥感落地林草监测：多源数据融合+AI算法
okk202586的博客
11-27 434
全面完善昌吉州林草资源网络感知体系，建立全州林草资源一体化综合管理平台，全面加强林草安全防火监测预警、有害生物防治信息化、林草资源监管能力，实现林草资源、安全防火、有害生物防控、林长制监督管理等。在不同区域、不同场景下的落地能力，案例可以充分说明，智慧林草并非单纯的技术堆砌，而是真正贴合林草业务流程、解决实际问题的“实战型”方案，太空守护林海正在变成可能~根据林草业务需要，建设林长制、资源监管、生态保护、生态修复、灾害防护、科技创新等六类业务系统，构建智慧林草综合监管业务系统体系，全面支撑林草业务。
Metasploit实验报告与漏洞代码利用深度解析
- **漏洞利用代码说明**：报告中应包括漏洞利用代码的说明，解释代码的功能和潜在的使用风险。 在实际使用Metasploit进行安全测试时，安全专家和研究人员必须对相关的法律法规有深刻理解，确保测试行为合法、合规，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值