xAI Grok被诉制作儿童色情材料

Grok Bot全面开放:从API接入到微信部署的踩坑实践 大模型API的普及让智能机器人接入门槛大幅降低,OpenAI兼容接口已成为许多模型服务商的标准。其核心原理是统一的消息结构,开发者只需替换base_url和api_key即可复用现有代码,实现快速对接。这一技术价值在于能够将对话能力嵌入到现有工具链中,无论是命令行脚本、服务端API,还是消息平台机器人,都能以较低成本完成集成。在实际工程场景中,部署一个7x24小时稳定的Grok Bot,需要关注密钥管理、并发控制、限流重试等关键环节。本文基于Grok Bot实际部署经验,梳理了从API凭证获取、连通性验证、 阅读详情

周一,三名少女及其监护人对埃隆·马斯克旗下的xAI公司提起集体诉讼,指控其Grok AI技术被用于制作并传播儿童性虐待材料。此前Grok曾引发大量深度伪造色情内容,已在全球引发公愤。

序号1

诉讼指控核心

诉状指出,xAI利用Grok AI制作并传播以少女面部和形象为特征的儿童性虐待材料,严重侵犯了少女们的隐私、尊严和人身安全。xAI通过图像和视频制作产品获利,却牺牲了女孩们的权益。

序号2

事件前情回顾

去年12月至今年1月初,Grok允许用户未经同意制作AI生成的私密图像。报道估计,九天内Grok用户制作了440万张“裸露”或“色情化”图像,占总数41%,引发全球公愤。

序号3

各方反应举措

欧盟委员会展开调查,马来西亚和印度尼西亚封禁X。美国部分政府代表呼吁苹果和谷歌将应用下架,但尚未展开联邦调查。今年1月底,已有类似集体诉讼。

序号4

技术危害凸显

新诉状将Grok“辛辣AI”生成能力比作“黑暗魔法”,它能让儿童摆出病态姿势,生成视频看似真实,孩子面部会与性虐待视频永远关联。

序号5

案件具体情况

三名化名为“简·多伊”的少女提起诉讼。简·多伊1去年12月初得知网上流传以她为原型的材料,执法部门逮捕施虐者,调查又发现简·多伊2和简·多伊3的图像也被利用。

编辑观点:AI技术发展带来便利的同时,也引发了严重的伦理问题。xAI若不能加强防护,类似事件恐会频发,监管和企业自律都刻不容缓。

Grok-4迁移决策指南:基座模型切换的三阶漏斗法 基座模型切换不是简单的模型替换,而是涉及分词器兼容性、输出格式稳定性、长上下文性能、微调适配性与安全合规性的系统性重构。其核心原理在于模型能力跃迁与业务场景需求之间的精准匹配——例如256K上下文能力需结合实际文档长度与硬件吞吐做压力验证,结构化输出需配套确定性解析兜底。技术价值体现在降低幻觉率、提升任务准确率与增强推理可控性,典型应用场景包括合同审查、金融研报摘要与客服对话系统。本文聚焦Grok-4迁移实战,提供可量化的三阶漏斗决策框架(业务价值→技术可行性→成本效益)及Tokenizer兼容性、输出格式 阅读详情

相关推荐

Grok Image 2.0技术评估:API集成、测试方案与最佳实践

多模态图像生成模型通过深度学习技术,将文本或图像输入转化为高质量视觉内容,其核心原理基于扩散模型或Transformer架构。这类技术极大地降低了专业图像创作的门槛,为内容生成、设计原型和创意产业带来了变革。在实际应用中,开发者通常通过API集成方式调用模型服务,这涉及环境配置、身份认证和健壮的错误处理机制。针对Grok Image 2.0这类新兴服务,建立完整的测试验证框架至关重要,包括对提示词遵循度、生成质量稳定性和批量处理能力的评估。合理利用缓存策略和成本监控,能够确保在内容创作、营销素材生成等场景中

weixin_30291791的博客 366

xAI 起诉男子用 Grok 生成儿童性虐待材料,此前曾引发大量色情化 AI 伪造图风波

去年,xAI 为 Grok 推出了“辣趣”模式后,又增加了用该聊天机器人编辑图片的功能,这导致大量色情化的 AI 深度伪造图片涌现,其中不乏涉及未成年人的图片。诉讼显示,哈伍德“明知故犯地利用 Grok 绕过安全防护机制,篡改未经同意的图片,并生成和传播 CSAM”,违反了公司政策。诉讼称,与哈伍德刑事指控相关的“至少部分”图片是用 Grok“生成或篡改”的,他绕过了 Grok 的安全防护机制,“滥用该工具在未经当事人同意的情况下将非色情照片转化为色情图片”。哈伍德案:绕过防护与重罪指控。

IT界那些事儿 14

基于FFmpeg与Nginx的大华摄像头实时视频Web接入方案

本文详细介绍了一种基于FFmpeg与Nginx的大华摄像头实时视频Web接入方案。该方案通过FFmpeg将摄像头RTSP协议流转换为浏览器友好的HLS格式,并利用Nginx进行高效分发,最终结合Video.js构建前端播放页面,实现无需插件的跨平台实时监控。方案具有免费、轻量、稳定、易于部署的特点,适合中小企业、个人开发者快速搭建内部监控或展示系统。

weixin_28040125的博客 348

X 因 Grok 生成色情深度伪造内容面临欧盟调查

X 因 Grok 生成色情深度伪造内容面临欧盟调查

至顶AI实验室 451

VFIO框架源码分析(一)- 从初始化到设备访问

本文深入剖析了Linux内核中的VFIO(Virtual Function I/O)框架,详细解读了其从初始化到设备访问的全过程。VFIO通过Container->Group->Device的层次化设计,利用IOMMU提供安全隔离,允许用户空间直接访问物理设备。文章基于Linux v5.15版本,重点分析了vfio_init模块入口、Container创建与配置、Group关联以及最终设备访问等关键环节,揭示了VFIO如何通过逐层授权机制构建安全可靠的设备直通模型,为虚拟化技术提供核心支持。

qq_36071928的博客 380

PADS VX 蛇形走线的设置方法与绕制

在PCB设计过程中,在等长的设置中是必须用到蛇形走线的,并且DDR模块也会经常使用到。因此掌握蛇形走线的设置方法对我们PCB高速板设计中有很大的帮助。下面介绍蛇形走线的设置方法与绕制。1.单根网络线的蛇形走线的设置:打开PADS router界面,点击“工具”→“选项”(快捷方式“Ctrl+Enter”),弹出“选项”窗口,选择“布线”界面下的“调整”,在“调整”界面,设置蛇形走线,倒角比例可以灵活设置。操作如下图所示:完成蛇形走线的配置后,快捷方式“F3”进行交互式布线时,单击右键选择“添加蛇形走线”,便

tianpu2320959696的博客 3395

Grok 生成 7000 张儿童色情图片,xAI 仅在“轮奸”提示后才介入!

年轻女孩们不仅指控 X 和 xAI 开发了有害的 AI “裸化” 工具,还指责它们妨碍警方对 Grok 生成的儿童性虐待材料(CSAM)的调查,为儿童捕食者提供庇护。根据修订后的起诉书,今年 3 月,一名女孩的继父在警方发现他利用 Grok 用继女 11 岁时的一张照片生成了 7000 张色情图片后自杀。似乎 xAI 的儿童安全系统仅在该男子输入 “轮奸” 提示后才介入。这一请求触发了向国家失踪与受剥削儿童中心(NCMEC)发送的网络举报信息,该中心随后向执法部门通报了这一 AI 生成的儿童色情材料。

IT界那些事儿 115

Windows 11下Dify安装部署实战指南

本文详细介绍在Windows 11环境下部署开源LLM应用开发平台Dify的完整流程。涵盖环境准备(WSL 2启用、Docker Desktop安装配置)、源码获取、Docker容器化部署、数据库初始化、服务启动验证等核心步骤。包括环境变量配置、性能优化、安全加固、端口冲突解决、数据库连接故障排查等关键技术要点。为开发者提供从零到一的Dify本地化部署实战指南

weixin_44269410的博客 853

Telegram 因 CSAM 短暂下架,X 含儿童色情化图片仍在线,苹果审核差异引质疑

英国前首相谴责,欧盟调查,倡导组织呼吁下架但未实现,还引发法律纠纷。苹果联系 X 和 Grok 团队,要求制定改善审核计划,后称 X 基本解决问题,但要求 Grok 团队更多改变,否则下架。乔治城大学教授阿努帕姆·钱德表示,执行内容审核政策要承受反弹,X 在美国政治支持基础比 Telegram 强大得多,下架 X 可能引发针对苹果的政治风暴。本周,Telegram 在苹果 App Store 上消失约一小时,即便短暂下架,对这款超 10 亿用户使用、在受审查国家用作安全通信平台的应用而言,也令人震惊。

web3times的博客 25

SAP 银企直连实战:从零构建 DMEEX 格式树的配置与调试指南

本文详细介绍了SAP银企直连中DMEEX格式树的配置与调试方法,涵盖从基础认知到实战技巧的全流程。通过具体案例解析,帮助财务顾问快速掌握建设银行付款报文的格式树搭建、字段映射及调试优化,提升企业支付效率与准确性。

weixin_42526015的博客 568

C#调用企业微信JS-Sdk实现扫描二维码

企业微信JS-SDK是企业微信面向网页开发者提供的基于企业微信内的网页开发工具包。通过使用企业微信JS-SDK,网页开发者可借助企业微信高效地使用拍照、选图、语音、位置等手机系统的能力,同时可以直接使用企业微信分享、扫一扫等企业微信特有的能力,为企业微信用户提供更优质的网页体验提示:生成签名之前必须先了解一下jsapi_ticket,jsapi_ticket是H5应用调用企业微信JS接口的临时票据。正常情况下,jsapi_ticket的有效期为7200秒,通过access_token来获取。

清浅 939

xAI 要求公开涉深度伪造色情图像原告身份,SpaceX 预留超 5 亿美元应对诉讼

原告的深度伪造图像未包含在任何公开的法律文件中。5 月 29 日,一起联邦集体诉讼中的四名主要原告——目前分别以 "南卡罗来纳州 Doe" "南卡罗来纳州 Roe" "新泽西州 Doe" 和 "俄亥俄州 Doe" 代称——在宣誓书中描述了他们在今年早些时候这些所谓的深度伪造图像出现后所遭受的精神痛苦。代表这些人的伯杰·蒙塔古律师事务所律师索菲亚·里奥斯在最近的一份文件中写道:"xAI 已经剥去了他们的衣物,现在又试图剥夺原告的化名,这显然是想通过加剧他们试图弥补的伤害来恐吓原告撤诉。

IT界那些事儿 30

自适应控制 (Adaptive Control) 算法详解及案例分析

自适应控制是一种能够在线调整控制器参数以适应系统动态变化的控制方法。其核心思想是通过实时估计系统参数或调整控制器参数,使系统在不确定性或动态变化的环境中仍能保持稳定性和性能。

闲人编程的博客 4086

你的 App 正在死去?马斯克的 Grok 陷入“色情围剿”,以及一台重达 37 公斤的“笔记本

2026年被视为**AI 设备操作系统**的爆发元年。Amazon、Meta 和 OpenAI 都在竞相构建一种新的交互模式:**AI Agent(智能体)**。用户不再需要点击一个个 App,看广告、被杀熟,而是直接命令 AI 订餐、打车或购物。这让 Uber、DoorDash 等靠“流量围墙”生存的公司瑟瑟发抖——如果 AI 成了唯一的入口,谁还去 App 里看广告?

kcarly的专栏 1083

LVGL 磁罗盘效果

环境:LVGL 9.x + SDL2,窗口 1280×800。界面文案用英文(默认 Montserrat,无 CJK)。本文按实现顺序讲:先建立两个耦合转动体,再把磁倾角误差从卡面倾斜里推出来,最后用同一套投影把刻度、数字和目标画到卡上。画面上的迟滞、涡流、摆动和读数偏差都来自方程,没有补间动画。

摸鱼专家 123

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

马斯克:xAI将于8月推出Grok-2,年底的Grok-3会非常特别;Character.AI模型突变引发用户出走 | AI头条...

整理 | 王轶群出品 | AI 科技大本营(ID:rgznai100)一分钟速览新闻点!马斯克:xAI 将于8月推出 Grok-2 大语言模型,或极大克服“人体蜈蚣”效应;年底的 Grok-3 应该会非常特别Suno AI 表示 Suno iOS 版本在美国上线微软文本转语音虚拟数字人上线,支持 GPT-4o 的集成Character.AI 与 Google、Meta 和 xAI 就合作进行谈判C...

AI科技大本营 1045

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

苹果威胁下架 Grok:AI 应用色情深度伪造内容监管难题待解

苹果在收到相关投诉并看到新闻报道后,联系了 X 和 Grok 背后的团队,要求开发者制定改进内容审核的计划。苹果对 X 和 Grok 应用提出的改进方案进行审查后认为,X 已“基本解决了违规问题”,但 Grok 仍“不符合规定”。用户能轻松生成并分享色情深度伪造内容,还能对真人尤其是女性(部分明显是未成年人)的照片进行“脱衣”处理,公然违反了苹果 App Store 规则。苹果虽对 Grok 进行监管施压,但效果有限,AI 应用的内容审核和监管仍是行业难题,需进一步探索有效解决方案。

IT界那些事儿 176

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

Grok Imagine与可解释AI:多模态生成模型的技术原理与实践指南

可解释人工智能(XAI)是人工智能领域的重要分支,旨在解决深度学习模型的黑箱问题。其核心原理是通过注意力机制、概念归因等技术手段,使模型的决策过程对人类透明可理解。在技术价值层面,XAI不仅能够建立用户信任,还能帮助开发者调试模型、检测偏见,满足合规要求。特别是在多模态大语言模型和扩散模型的应用场景中,XAI技术能够为文生图等生成任务提供生成逻辑的解释,这正是xAI公司Grok Imagine功能的技术亮点。本文基于多模态生成和模型可解释性两个热词,深入探讨了如何在实际开发中集成XAI模块,为开发者提供从原

weixin_33704591的博客 413

马斯克 Grok AI 女友上线!会撒娇、能跳舞,30 美元让全球网友“上头”!

马斯克 Grok AI 女友上线!会撒娇、能跳舞,30 美元让全球网友“上头”!

hunteritself的博客 3172

马斯克xAI再失联合创始人,十二人创始团队已有六人离场

吴宇怀在 X 上深夜发文写道:「是时候开启我的下一段旅程了,这是一个充满无限可能的时代:一支由 AI 加持的小团队,足以移山填海,重新定义什么是可能的。单看这两条消息,它不过是一则再常见不过的科技公司高管离职公告 —— 但放在 xAI 的背景下,却成为一个令人担忧趋势的一部分。从各方说法来看,这些分手大多是和平分手,而且在公司成立近三年的时间点上,一些创始成员选择向前迈一步,也并不难理解。如今,这家公司的 12 人创始团队中,已有 6 人离开,其中 5 人的离职发生在过去一年内。

2502_93987700的博客 498

xAI公布星际扩张计划并进行内部重组

xAI公布星际扩张计划并进行内部重组

zhidingkeji的博客 256

AI图像生成技术滥用案例剖析:从Grok事件看数字安全与伦理挑战

扩散模型和生成对抗网络等AI图像生成技术,通过文生图与图生图的核心原理,能够将文本描述或参考图像转化为高度逼真的视觉内容。这项技术的价值在于推动创意设计、艺术创作和内容生产的革新,广泛应用于娱乐、广告和教育等领域。然而,当技术缺乏有效约束时,便可能被滥用于制作深度伪造和侵犯个人肖像权等非法活动,对数字安全构成严重威胁。近期涉及AI工具Grok的诉讼事件,正是技术滥用风险的典型案例,它凸显了在AI模型开源生态下,结合人脸识别与特征融合技术进行恶意内容生成所带来的社会危害。这警示开发者与用户必须共同关注技术伦理

weixin_33842304的博客 301

xAI把马斯克身价推向8000亿美元

这不是“AI估值泡沫”,而是一台更凶的资本飞轮。

2601_95066946的博客 688

Grok 4.6:追平 GPT-5.6 Sol 的半价旗舰,但别只看跑分

Grok 4.6 在智能指数上追平了 GPT-5.6 Sol(都 61 分),token 价格只有一半——但真正让人意外的是它的回合效率(完成 Agent 任务只要 Claude Opus 5 一半的步骤),而真正让人犹豫的是 200K+ 翻倍定价规则和 Grok 品牌一长串治理黑历史。

liferecords的博客 485

从Grok诉讼案看生成式AI滥用风险与防御实践

生成式AI,特别是基于扩散模型的图像生成技术,通过学习海量数据实现了从文本描述到逼真图像的合成能力。其核心原理在于将文本语义与图像特征在潜空间中进行关联与融合,从而创造出符合指令的新内容。这项技术的巨大价值在于赋能创意与生产效率,但也因其强大的内容生成能力,在缺乏有效约束时可能被恶意利用。当前,随着Grok等低门槛工具的出现,AI技术滥用风险已从专业领域蔓延至普通用户,使得深度伪造、肖像权侵犯等问题的防范变得尤为紧迫。在应用场景中,开发者需重点关注用户生成内容平台、社交应用等涉及图像上传与分发的场景,通过集

weixin_34006468的博客 367

前 OpenAI 员工与非营利组织警告:xAI 或给 SpaceX 750 亿美元 IPO 计划添风险

在周二发布给投资者的一封信中,这些前员工强调了他们所描述的与 xAI 相关的“未定价风险”,这些风险可能会使 SpaceX 拟通过 IPO 筹集高达 750 亿美元的计划变得复杂。马斯克曾宣称,他的火箭公司可以为其 AI 实验室将数据中心送入太空,但这封信的作者认为,xAI 在安全问题上的糟糕记录,可能会影响投资者对合并后公司的看法,尤其是在该公司准备提交 IPO 招股说明书之际。如果他们不这样做,后果会怎样?因此,他认为,与其他 AI 实验室相比,SpaceX 可能面临更大的监管和诉讼风险。

IT界那些事儿 26
上一篇: Poco X8 系列手机:高性价比与特色设计的新冲击
下一篇: OpenAI新模型发力编码领域,AI市场竞争再升级
IT界那些事儿
博客等级 码龄6年 2万+粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值