OpenAI进军内容审核行业,学校图书馆已经用ChatGPT筛选色情描述了

Bright Data ChatGPT 搜索抓取器(Python) 使用 GitHub 登录,然后 fork 该仓库开始进行更改。本项目提供一个使用 Bright Data Web Scraper API 抓取结果的简易 Python 样板代码。 阅读详情

学校的图书管理员,已经开始用ChatGPT来筛选带色情内容的书籍了。

根据一项新规定,美国爱荷华州的学校需要下架图书馆中包含性行为描述的书籍,但“阅读每本书并按新要求筛选根本不可行”。

在ChatGPT的帮助下,一个学区终于赶在开学前筛选出19本符合条件的书籍。

32bcf43e653ce7da570b76dfda3cd555.png

隔天,OpenAI也正式宣布将GPT-4引入内容审核系统。

e2df06846ecc3edb8ce1258f22948387.png

在OpenAI看来,GPT-4这项审查功能可将审查更新周期从数月缩短至数个小时,且具有更强的灵活性。

71805c5128fe350e81a8d5a0ab499fb7.png

高效自动化内容审核

这项新的功能不仅在于提高效率和减轻人类工作量,还解决了人工审核中尺度不一致问题。

最重要的是,它能够避免有害内容对审核人员造成的身心伤害。

一家科技媒体的编辑Reed Albergotti做出了这样的表示:

使用大型语言模型来进行内容审查是向前迈出的一步。

这并不是因为它有多完美,而是因为它的尺度会更加一致,并且不易受到人类情感和文化差异的影响。

576547ac1a9db2ef64c22660f837de25.gif

工作流程上,重点的环节是用户政策的设计,这部分是由人工主导的。

之后GPT-4会使用一些示例进行准确性检验和优化。

根据GPT-4的预测微调出小型筛选器,就可以对内容进行批量审查了。

3c7dceeba5be30d81786f7f1cd1cae35.png

OpenAI发言人也透露,已经有客户在用GPT-4进行内容审查,但并未给出具体名单。

此外,OpenAI正在研究将这项功能从文本审核扩展到图像、视频的鉴别 。

那么,这个功能究竟好不好用呢?

OpenAI:有信心做得很好

OpenAI总裁兼联合创始人Greg Brockman表示,这项功能「非常可靠」。

403b9f166f296e029f4edab6ea6e27e3.png

同时,Brockman还展示出了测试结果作为依据。

在色情、暴力等多个类型的有害内容判别上,GPT-4的表现超过了经少量训练的人类。

23245fd648eaac2d8305868244ceb03d.png

不过和经验丰富的审核人员相比,的确还有一些差距。

但OpenAI安全和信任部门原主管Dave Willner对著名科技媒体人Casey Newton表示,「这种情况不会持续太久」。

32a2eee414a01a33d4449dad3383de90.png

也有负面观点认为,总会有人想方设法钻AI规则的漏洞。

毕竟,大模型越狱事件出现了已经不只是一次两次了。

美联社的Frank Bajak更是表示,ChatGPT这样的大型语言模型「非常难以控制」。

对此,Weng也坦言,的确没办法做到100%没有漏洞,但有信心会很好。

我们无法从一开始就构建一个100%「防弹」的系统。

人们正在帮我们揪出模型中的错误,但我非常有信心它能做得很好。

One More Thing

GPT-4内容审核功能的实用性暂且按下不表,OpenAI的安全工作本身也存在很多争议。

据Time杂志消息,OpenAI此前在肯尼亚聘请数据标注人员标注有害内容的过程中,有参与者表示其中的暴力、酷刑等有害内容给他们造成了心理阴影。

新方法出台后,人类仍需要参与到内容审查工作当中,但这样的情况可能会大大减少。

参考链接:
[1]https://openai.com/blog/using-gpt-4-for-content-moderation
[2]https://www.popsci.com/technology/iowa-chatgpt-book-ban/
[3]https://www.semafor.com/article/08/15/2023/can-chatgpt-become-a-content-moderator
[4]https://twitter.com/gdb/status/1691500101187805185
[5]https://twitter.com/caseynewton/status/1691602324366786575

Claude Desktop Cowork国内实操指南:本地文件自动化办公 大语言模型正从‘问答式AI’迈向‘执行型协作者’,其核心能力在于直接操作本地文件、调用系统工具并嵌入真实工作流。Claude Desktop的Cowork模式正是这一范式的代表,它通过轻量沙箱VM实现对Excel、PPT、PDF、音视频等办公资产的读写与处理,无需手动编码即可完成数据清洗、会议纪要生成、自动化报告输出等任务。技术价值体现在权限可控、环境隔离、结果可交付;典型场景覆盖行政文秘的文档流转、销售运营的数据分析、开发者的脚本调试与环境验证。本文聚焦国内用户高频卡点——网络链路、系统权限与工作流断层, 阅读详情

相关推荐

CentOS 7下rsyslog日志服务器搭建全攻略:从安装到避坑

本文详细介绍了在CentOS 7系统上搭建rsyslog日志服务器的完整流程,从基础安装到高级配置,包括协议设置、日志模板设计、安全加固和性能优化。特别分享了生产环境中的实战技巧和常见问题解决方案,帮助用户高效构建可靠的日志管理系统。

happy2的博客 689

企业可以通过哪些渠道使用 ChatGPT 和 OpenAI 模型?

正式选型阶段,查阅 GPT-6 Sol、GPT-6 Luna、Claude Opus 5.5 的模型卡,确认 API、Region、功能特性与生命周期状态。在 Amazon Bedrock 体系里,GPT-6 Sol 主打高复杂度开发场景,支持功能开发、故障调试、代码重构、代码审查,也能够联动多款工具、应用完成多步骤业务流程。优先挑选 2-3 个典型场景,例如代码开发、文档处理、高频分类,使用同一套测试集分别跑测 GPT-6 Sol、GPT-6 Luna 和 Claude Opus 5.5。

JINGdigital_的博客 295

详解Nacos集群搭建

在我们日常的开发当中,用的都是单点Nacos,这种模式,我们自己开发测试玩一玩还可以,但是到了企业的生产环境之下,你还这么玩的话,那肯定是要出大问题了。因为在企业当中,我们更加强调的是高可用,所以在企业的生产环境下,Nacos一定要做成个集群。

博客 1万+

ChatGPT能把手机录音转成文字吗?入口、时长和纪要核对一次讲清

录音能上传,为什么却无法转成文字?转写稿看起来完整,为什么纪要又改错了金额、期限和负责人?本文结合当前官方说明,讲清手机音频准备、转写入口、长录音分段及纪要核对,附两段可复制提示词与虚构校对样例,帮助保留原话、区分提议和决定

海波的专栏 205

STM32F103VET6实战:用W25Q64外部Flash实现Bootloader+Application双备份(含完整代码解析)

本文详细介绍了基于STM32F103VET6微控制器和W25Q64外部Flash实现Bootloader+Application双备份固件升级的完整方案。通过精心设计的Flash分区策略、可靠的Bootloader程序以及包含双重校验和自动回滚机制的升级流程,有效解决了远程升级过程中断电导致设备变砖的风险,确保了工业嵌入式系统的高可靠性与稳定性。

linux的博客 823

别再为电路自激发愁了:手把手教你用吸波材料搞定微波腔体谐振(附HFSS仿真设置)

本文详细解析了微波腔体谐振问题的工程解决方案,重点介绍了吸波材料的选型、安装工艺及HFSS仿真设置。通过实际案例和计算工具,帮助射频工程师有效抑制腔体自激,提升系统稳定性。特别适用于35GHz毫米波雷达等高频电路设计场景。

weixin_42662293的博客 384

AI与大模型新闻日报 | 2026-11-11

今日 AI 圈动态速览:OpenAI 扩展 ChatGPT 商业功能:企业可认领资料并创建 AI 智能体,为 Business Agent 投放广告、谷歌最强 VLA 机器人模型:Gemini Robotics 2.5 登场,会系蝴蝶结、已在奔驰生产线上岗、挑战微软 Win11:原生 AI 系统 KORA 登场,将率先适配高通骁龙 X2 Elite 芯片、Meta的人工智能代理Muse登陆Apple Watch和Android Wear OS 等共 24 条新闻。

dozenyaoyida的博客 397

电磁场可视化

电磁场可视化 如题,做了电磁场可视化这么久了,也是颇有些心得了,简单描述一下怎么做这个项目的。 开始时是从最基本的OpenGL开始做的,必不可少的翻了许多的文献,后来是直接在unity中做,发现效果挺好,而且可控性强好多。反复琢磨后,发现可视化的渲染,有几种思路,第一就是用linerender,画线的方法,另一种就是用shader。 第一种我通过unity自带的linewave插件可以做到 详细的就是,linewave插件可以轻松画出曲线等,并且可以添加碰撞,控制频率幅度长度等一切的条件数值,而且令人惊喜

weixin_43979140的博客 1673

ChatGPT、Perplexity、Gemini 与 AI Overviews 引用对比:谁的引用更可信

AI 引擎的引用机制差异很大:ChatGPT 以行内引用加 Sources 列表呈现来源,Perplexity 几乎逐句可溯源,Gemini 在回答中内嵌相关来源链接,AI Overviews 则把多源聚合答案与来源列表一起放在搜索结果顶部。本文从引用透明度、来源偏好、可干预性 3 个维度对比这 4 个引擎,并给出 GEO 的 3 点启示,帮企业在多引擎环境下提升被引用的概率。

淡然一笑 的专栏 266

【数据集】中国陆地生态系统通量观测网 ChinaFLUX

【数据集】中国陆地生态系统通量观测网 ChinaFLUX

WW、forever的博客 194

基于Simulink的风电系统背靠背变流器解耦控制仿真

本文完成了基于 Simulink 的风电背靠背变流器解耦控制仿真,实现了:✅掌握 dq 解耦控制的数学本质✅构建 MSC + GSC 完整控制链✅验证其在动态、扰动下的卓越性能✅达成高解耦度、低 THD、稳母线三大目标。

xiaoheshang_123的博客 79

ChatGPT批量导出没有PDF模式?“AI导出鸭”正在重新定义AI内容归档的底层逻辑

摘要(149字) AI导出鸭插件突破性解决了ChatGPT等平台内容无损导出PDF的难题,尤其针对批量处理LaTeX公式、Mermaid流程图等复杂元素。其技术核心通过虚拟DOM比对生成矢量PDF,实现文本可复制、公式不失真、流程图高清渲染,并支持多对话合并导出。相比传统截图式工具,它构建了从AI对话到可交付文件的生产力管道,满足开发、教育等场景的归档需求。工具采用本地处理保障隐私,以“格式网关”架构重新定义AI内容落地的优雅方式。

rteertreerte的博客 360

8.26华为OD机试真题 新系统 - 字符串回文判 (Java/Py/C/C++/Js/Go)

8.26华为OD机试真题 新系统 - 字符串回文判 (Java/Py/C/C++/Js/Go)

算法大师! 1248

ChatGPT Businesses 与 Business Agents 实战:商家确权、商品 Feed、GEO 洞察和隐私治理

OpenAI 推出 Businesses in ChatGPT Beta。本文不止复述功能,而是从商家资料确权、商品 Feed、聚合洞察、Business Agent 对话边界与隐私治理出发,给出企业可执行的接入架构、数据质量规则、灰度上线流程和核对清单。

jerry764的博客 384

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

ChatGPT 已占 Google 搜索量 20%:搜索的“第二次战争“,买家从人变成模型摘要

OpenAI 官方确认 ChatGPT 搜索量已达 Google 总量的 20%,搜索市场的"买家"正从人转向模型。本文梳理搜索入口迁移、搜索 API 开放带来的价值链重排,以及企业应如何从"优化网页排名"转向"让模型采信"。

2601_96888293的博客 70

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

ChatGPT Images 2.6 更新备忘:GIF、参考图与 API 提速(官方 X 帖截图)

生成、参考图能力,以及 API 提速。我根据官方 X 帖和相关截图,把要点整理成了一篇备忘,方便对照查阅。这次更新,主要提到了更好的。

Maynor的博客 93

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

ChatGPT Codex 安装问题汇总

Windows 安装 ChatGPT Codex(MSIX 包)后无桌面图标,可使用快捷方法解决:按下 Win + R,输入 shell:AppsFolder 回车,打开应用列表,找到 OpenAI.Codex(显示为 ChatGPT),直接拖拽至桌面,即可生成永久可用的快捷方式,支持自动升级不失效。

hello:code I am captain 255

ChatGPT、Codex并发排查:Spring Boot接口没有报错,为什么线程池队列越来越长,最后整批请求超时?

Spring Boot接口没有报错,CPU和数据库连接池也正常,为什么线程池队列却越来越长?本文从订单服务任务积压故障切入,分析无界队列、最大线程数、CallerRunsPolicy、下游阻塞和任务背压机制,并介绍通过Codex辅助定位线程池瓶颈的方法。

2601_96380027的博客 192

ChatGPT收录优化怎么做:荷里购科技拆解认领与监测

第二,把企业信息填准确,尤其是网站、业务描述、产品类别、退换政策,这些是ChatGPT回答问题时可能引用的素材。抖店后台的“豆包运营”专区按“看数据、找商机、优化商品”三步走,经营数据看曝光、点击、成交、退款等指标,商机词用于选品上新,购前核心决策信息用于完善商品属性与卖点。ChatGPT的提及不是提交出来的,是被引用出来的。据企业介绍,GEO特工队AI覆盖豆包、DeepSeek、Kimi、通义千问、ChatGPT、Gemini、Perplexity等国内外主流AI平台,适合需要双生态布局的出海品牌。

2601_96569777的博客 208

【科研快讯】OpenAI推出ChatGPT Wallet:AI Agent不再只会推荐商品,还能替用户完成支付

AI Agent正在从信息处理走向真实交易。11月13日,OpenAI公布ChatGPT Wallet,允许旗下智能体在用户授权后,使用支付令牌完成购物付款。用户可以提前绑定银行卡,在每笔交易前核对商品、金额和商户,并通过Face ID或指纹等安全验证完成授权。这意味着AI智能体开始进入支付环节,也让交易授权、资金安全、责任划分和商业系统适配成为新的技术议题。

欢迎来wx_17607684379的博客交流 390

企业在哪里使用 ChatGPT 和 OpenAI 模型?

以 GPT-6 Astra 为例,企业既可以直接调用 Amazon Bedrock API 使用该模型,也可以设置 ChatGPT Work、Codex,后端依托 Amazon Bedrock 上的 GPT-6 Astra 完成推理计算。这样 OpenAI 模型不再是独立外部服务,能够和 Amazon Bedrock 上其他厂商基础模型归入同一企业模型池,企业可以结合业务指标持续对比各模型的能力、延迟与成本。ChatGPT、Codex、OpenAI 模型彼此关联,但在企业架构内承担不同职能。

JINGdigital_的博客 216

ChatGPT、Codex工程实战:Kubernetes滚动发布时,Spring Boot正在处理的请求为什么还是会被中断?

本文从Java订单系统生产故障切入,分析Readiness Probe、EndpointSlice、preStop、SIGTERM、Tomcat优雅停机和terminationGracePeriodSeconds之间的关系,并介绍通过Codex还原Pod终止时间线、排查502和Connection reset的方法。

2601_96380027的博客 518

用ChatGPT把截图表格转成Excel:编号、日期和合并单元格怎么保留?

截图转成Excel后,编号丢零、日期被自动改写、合并区域漏填,往往比识别错一个字更难发现。本文用6条虚构订单演示转录、整理和导出流程,附三段可复制提示词、截图样例与Excel参考表,说明长编号、空值和合计行如何核对

海波的专栏 287

2026年 ChatGPT Plus 国内开通完整教程:Account ID 免密操作

对于国内用户来说,开通 ChatGPT Plus 的难点往往不在选择套餐,而在支付条件和后续交付流程。如果所在地区和支付方式符合要求,建议优先从 OpenAI 官网完成订阅。如果需要了解其他服务方式,可以重点比较账号信息要求、付款流程、订单查询和退款机制。使用 Account ID 时,只应提供必要的标识信息,不要交出账号密码、验证码或完整会话数据。无论通过哪种方式开通,最后都应该回到自己的 ChatGPT 账号,确认套餐确实已经生效。

shennv888的博客 385

AI 问数真的能替代 BI 报表吗?

AI问数赋能自然语言查询,提升临时分析效率,但无法替代传统报表。报表适用于稳定输出与持续监控,AI则擅长探索性提问。企业用好AI问数,关键在于夯实数据模型、统一指标口径、健全权限体系与结果校验机制。合理组合报表、仪表板与AI,才能实现高效、准确的业务洞察。

葡萄城技术团队博客 333

【从零理解 Spring AI · 12】MCP 的两种角色:做客户端还是做服务端

上一篇讲了 MCP 的概念:标准协议、三大角色、M+N 替代 M×N。

nice_lcj520的博客 612
上一篇: UC伯克利教授惊人预测:2030年GPT可执行人类180万年工作,一天学2500年知识
下一篇: 最赚钱编程语言Zig登顶,开发者爱ChatGPT远超必应|Stack Overflow报告
公众号:【GitHub爱好者社区】
博客等级 码龄6年 357粉丝 48原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值