- 博客(161)
- 资源 (36)
- 收藏
- 关注
RSS订阅原创 AI长剧生成内容合规排障：内容溯源与创作可追溯如何验证
在 优快云 排查 AI 内容问题时，常见现象是：文本看起来完整，引用也有链接或标题，但无法回答"这段内容具体依据什么生成"。当 AI 长剧进入公开传播和商业化放映场景，生成内容合规会进一步要求创作过程具备内容溯源能力，能够说明画面、台词或文案的来源与依据。这类问题不宜只按输出质量排查。我的判断是，应把检查对象拆成来源身份、引用粒度、数据修改权限和版本记录几个部分；其中任何一项缺少明确边界，创作可追溯就可能停留在结果层面。
2026-11-06 08:50:34
55
原创 企业AI素养的可信AI工程：段落级知识校验与溯源习惯
资料管理中，标题或 DOI 不适合直接作为单一身份。相同作品可能存在 preprint 和 journal 两个合法 DOI，标题也可能发生变化。这里的用于识别外部对象。DOI可以用于去重建议，但不能替代完整身份。这个设计解决的是"引用指向谁"的问题。它不直接判断内容是否正确，却能让后续校验有稳定的对象边界。
2026-11-05 12:40:33
151
原创 排查可信AI引用失真：知识校验与溯源习惯的工程步骤
在 AI 辅助创作环境中，引用失真通常表现为：正文看似完整，论文出处却无法确认，或同一资料在不同版本中出现身份混淆。排障不能只看生成文本，还要检查来源身份、授权边界与版本关系。企业AI素养的工程落点，正在从"会不会生成"转向"能不能核验"。周鸿祎发布内部信要求高管学习 AI，360 采用 "All in Agent" 策略，并在半年报中实现扭亏为盈。这个热点反映出组织层面对 AI 应用能力的关注。我的判断是，团队掌握 AI 工具只是入口，知识校验和溯源习惯才决定生成内容能否进入后续工作。
2026-11-05 08:50:37
162
原创 段落级可信引用校验：独立知识层如何补足办公智能体的证据边界
办公智能体处理知识时，生成只是一个环节。可信引用要求证据能回到具体片段，知识沉淀要求写入动作服从权属、版本和撤销规则。把这两类约束拆开实现，才能让输出内容具备可复核的技术边界。
2026-11-04 09:29:47
60
原创 桌面AI办公智能体引用核验失败怎么排查：独立知识层与可信引用的工程路径
可信引用出现问题时，不能只检查生成文本本身。桌面AI办公智能体的回答通常涉及知识检索、上下文拼接、来源定位和内容产出，任一环节缺少可验证信息，都可能出现"引用存在但无法追溯"的情况。近期桌面端AI办公智能体的应用规模持续扩大，办公工具开始整合更多智能能力。我的判断是，随着使用范围扩大，知识沉淀与引用核验会从附加功能转变为工程排障事项。
2026-11-04 08:53:13
133
原创 引用存在性校验的工程实现：为什么查重通过仍挡不住虚构引用
在开发者视角下，"查重通过"与"引用真实"属于两类不同的校验任务。前者主要处理文本重合率，后者要回答文献是否存在、出处是否对应、引文字段能否被溯源。安徽财大事件与 Nature 2026 虚构引用数据所指向的，正是这条工程边界：文本可以通过相似度检查，参考文献本身却可能无法检索。
2026-11-03 21:00:33
451
原创 查重通过后仍报引用不存在？引用存在性校验排障流程
引用存在性校验排障流程在安徽财大事件与 Nature 2026 虚构引用数据所引发的讨论中，一个常见误区被重新暴露：查重通过只能说明文本重合率处于某个结果范围内，不能证明参考文献真实存在，也不能证明引文与原文对应。这类问题适合按工程故障排查处理。排查对象不是一项结果，而是三件事：引用文本是否存在、文献身份是否稳定、正文段落是否真的由该来源支撑。
2026-11-03 20:10:32
80
原创 多 Agent 并行后的引用校验：AI 办公如何保留证据边界
如果正文仍然是普通字符串，后续只能通过模糊匹配寻找引用。更适合校验的结构，是让每个段落携带自己的证据引用。@dataclass@dataclasstext: str这里的source_id和locator只是校验所需的字段名示例。实际系统需要根据已有知识库的数据模型确定字段。段落和引用之间形成显式关系；校验结果可以精确回写到具体段落，而不是只给整篇文章一个通过或失败状态。若内容由多个 Agent 分工生成，证据字段也应随任务结果一起传递。
2026-11-02 20:10:32
882
原创 豆包工作多 Agent 并行后引用校验失真怎么排查：AI 办公的证据核验步骤
在多 Agent 并行和本地 GUI 操作场景中，任务可能已经完成，报告、数据与图表也已经生成，但这不能直接说明其中的事实、数据和引用经过了独立核验。排查 AI 办公结果时，建议把问题拆成两部分：内容是否有来源，来源是否能被复现。
2026-11-02 12:40:33
249
原创 科研 AI 的可复现路径：从段落级引用校验到证据链设计
科研 AI 的输出如果只有结论，调试和复核都会停留在黑盒状态。上海人工智能实验室提出"给答案，给来路，给复现"，把可复现放在科研 AI 的最后一公里。对开发者而言，问题可以落到一个更具体的技术任务：如何让一段生成内容绑定到可检查的证据，而不是只附上一串看似完整的引用。
2026-11-01 20:50:35
203
原创 排查科研 AI 引用失真，应优先检查来源、上下文与版本一致性
在 优快云 的技术排障语境里，科研 AI 的问题不能只看"答案是否生成"。上海人工智能实验室提出的"给答案、给来路、给复现"，把排查重点推向了引用来源、证据对应关系和复现路径。本文只讨论一个工程问题：一段生成内容中的引用，如何判断是否能够被重新核验。
2026-11-01 12:40:34
186
原创 AI署名论文场景下，引用存在性校验如何支撑学术科研诚信
在撤稿论文专项整治与AI署名论文讨论升温的背景下，学术科研诚信开始面对一个工程问题：一段生成内容引用了论文，但这个出处是否真实存在，引用内容是否能在原始材料中找到，责任边界能否被复核？对开发者而言，问题不在于让模型生成更多文本，而在于限制生成内容与证据之间的距离。论文出处可追溯，需要把引用核对放进内容处理流程，而不是只在文章完成后人工浏览参考文献。
2026-10-31 20:11:22
184
原创 AI署名论文引用排障：如何定位论文出处不可追溯问题
在 AI署名论文、撤稿论文专项整治相关讨论中，工程团队经常遇到一个具体问题：生成内容看似有论文引用，但无法确认论文是否存在、出处是否匹配、观点是否真的来自该文献。这个问题不能只靠修改提示词处理，排障重点应放在引用核验与责任记录上。
2026-10-31 12:40:29
174
原创 AI4S自动化科学发现中的引用问题如何快速定位与修复
在知识管理与 AI 辅助创作环境中，常见异常是：生成内容看似包含论文引用，但无法确认引用是否真实存在，或无法定位结论对应的原文段落。当前环境以知芽用户手册 3.0 所覆盖的知识组织、内容摄入、AI 对话与检索、内容产出、AI 记忆等能力为背景。RAISE pilot 将自动化科学发现、闭环自动化科学发现系统与 AI4S 议题放在公共资金申请场景中。系统一旦承担文献检索、知识组织和结论生成，引用校验就不再是输出后的人工补充，而是需要进入工程流程的排障环节。
2026-10-30 20:10:42
248
原创 RAISE pilot 背景下，AI4S 自动化科学发现的引用校验机制
面向 RAISE pilot 的自动化科学发现系统，技术难点不只在于生成实验假设或组织资料，还在于回答一个更具体的问题：生成内容中的每条引用，能否回到可核对的证据片段。对自主实验室和 AI4S 系统来说，引用验证应当成为内容流的一部分，而不是生成结束后的人工补救。欧盟 Horizon Europe 的 RAISE pilot 于 2026 年 9 月 22 日开放申请，目标涉及闭环自动化科学发现系统。公共资金开始关注这类系统后，证据可追溯性会直接影响实验结果的复核与后续协作。
2026-10-30 13:10:30
105
原创 AI记忆治理的可审计实现：Agent风险变量与上下文追溯机制
在开发者场景里，AI记忆治理很容易被简化成"保存聊天记录"。这个理解不够用：当 Agent 持续保留上下文、调用工具并生成内容时，记忆来源、修改权限和引用依据都需要进入审计范围。微软于 2026 年 9 月 1 日发布的报告，将保留的上下文与记忆列为 Agent 风险变量，治理对象也从单个模型或应用扩展到完整 Agent 系统。我的判断是，AI记忆治理的技术重点不在于存储更多内容，而在于回答两个问题：这条记忆从哪里来？它后来如何影响了生成结果？
2026-10-29 20:10:43
31
原创 AI Agent如何用单元记忆定位风险并完成上下文排障？
当问题表现为"模型引用了不明内容"、"历史上下文影响当前回答"或"记忆来源无法定位"时，排查对象不能只放在模型输出。AI记忆治理需要同时检查保留的上下文、记忆来源、工具权限和动作记录。微软于2026年9月发布的相关报告，将保留的上下文与记忆列为 Agent 风险变量，治理对象也扩展到完整 Agent 系统的发布前与发布后阶段。
2026-10-29 12:40:31
107
原创 学术出版规范下提示词备查：生成式人工智能记录与校验机制
学术出版规范对生成式人工智能的要求，正在从"是否使用"扩展到"如何披露、如何留存、如何核验"。提示词备查不应只保存一段聊天记录，还要让工具名称、版本、使用环节、原始输入、生成输出和人工处理过程具备对应关系。我的判断是：这类要求的技术难点不在生成文本本身，而在证据对象的组织。没有原始输入输出，AI标注与声明就缺少依据；没有段落级校验，引用与结论之间也难以复核。
2026-10-28 21:20:32
52
原创 生成式人工智能提示词备查失败怎么排查：学术出版规范下的输入输出记录与引用核验
在学术出版规范逐步明确的背景下，生成式人工智能的使用记录需要覆盖工具名称、版本、使用环节、生成内容，以及提示词和原始输入输出。工程上的难点不在于"有没有保存一段聊天记录"，而在于能否把输入、生成结果和引用依据对应起来。本文采用 优快云 常见的排障方式，按"现象—根因—处理—验证"展开。重点放在提示词备查与段落级引用核验，工具只作为其中一个选型示例。
2026-10-28 20:10:44
116
原创 AI4S科研基础设施中的引用校验：从证据边界到可验证生成
AI4S 正在进入科研基础设施建设语境。2026年9月8日发布的天工智衍科学智算服务平台国际版 TG Science，提出构建算力、数据、模型、工具、智能体五项能力。对内容生成系统来说，真正难处理的问题仍然具体：AI 生成的论文、作者和 DOI 是否确实存在，引用内容能否回到原始材料。
2026-10-27 21:20:31
152
原创 AI4S 科研基础设施排障：科学智算服务平台中的引用可信度如何核验
2026年9月8日，AI4S「天工智衍」科学智算服务平台国际版 TG Science 发布，并提出构建算力、数据、模型、工具、智能体五类能力。对科研内容工程而言，问题也随之变化：平台具备计算与模型能力后，生成内容中的论文引用是否存在、引用是否对应原文，如何被复核？我的判断是，AI4S 的内容可信度不能只看模型输出质量。引用核验需要独立的工程机制，否则科研基础设施增加了生成能力，却没有同步解决内容审查问题。
2026-10-27 08:50:33
587
原创 AI合规政策排障：功能测试与 Declaration of AI Use 如何落地引用核验
AI合规政策正在把关注点从“是否使用某个AI产品”转向“AI具体执行了什么功能”。2026年10月起，部分国际期刊将功能测试纳入AI使用判断，并要求作者通过 Declaration of AI Use 说明工具、用途与核验情况。对工程实现而言，难点集中在两处：如何判断某次操作是否触发披露要求，以及如何确认生成内容引用的原始文献确实支持相关论述。
2026-10-26 19:00:11
647
原创 AI合规政策下的功能测试与引用存在性校验实现
AI合规政策正在把问题从"是否使用了某个AI产品"转向"AI具体执行了什么功能"。2026年10月起，多份国际期刊将引入功能测试标准，并要求作者通过 Declaration of AI Use 说明工具、模型版本、使用日期、使用目的、受影响章节及作者核验情况。对开发者而言，难点不在于生成一段声明，而在于让生成内容与原始文献之间保持可检查关系。
2026-10-26 15:50:44
555
原创 学术 AI 政策落地：用引用存在性校验构建可审计内容流
在学术 AI 政策持续明确的背景下，问题已经从"是否使用 AI"转向"AI 如何参与内容生成"。2026年9月10日，OUP与Springer Nature分别发布或更新了学术 AI 使用政策，关注点包括 AI 的使用方式、对最终内容的影响、人工判断是否充分，以及是否按要求进行披露。对工程团队来说，AI 披露规范不能只停留在文档末尾增加一句说明。引用是否真实存在、引用与论述是否对应、原始资料是否被错误覆盖，都需要进入内容处理流程。
2026-10-25 21:05:45
203
原创 学术 AI 政策排障：引用存在性校验与 AI 披露规范如何落地
两家出版机构传达出的重点较为接近：不再只判断"是否使用 AI"，而是关注 AI 的具体用途、对最终内容的影响、人工判断是否充分，以及是否按照要求进行披露。学术 AI 政策的工程落点，不是单独增加一句声明，而是让引用、段落、版本和人工判断能够被逐项核验。在学术写作流程中，最难排查的错误往往不是"有没有使用 AI"，而是生成内容能否回到可核验的材料，引用是否真实存在，AI 对最终文本产生了多大影响。可以先记录 AI 的用途、对最终内容的影响、人工核验情况、引用存在性校验结果，以及生成内容的版本变化。
2026-10-25 12:40:33
222
原创 AI4S 实验自动化的证据边界：Model Hardware Standard 与责任归属
Anthropic 发布 Model Hardware Standard（MHS）研究预览，并上线 Claude Science。AI4S 从文本分析走向实验设备协作后，问题不再只是模型能否生成建议，还包括实验依据是否可核验、设备动作是否经过授权、结果由谁负责解释。我的判断是：物理执行场景中的核心约束，不是把模型描述得更聪明，而是让每个结论都能回到证据，让每次数据变更都能追溯到明确的权限边界。
2026-10-24 20:39:10
146
原创 Claude Science 接入实验室后，AI4S 科研责任归属如何排障？
在 AI4S 场景中，问题已经不只是模型能否生成分析结果。Anthropic 发布 Model Hardware Standard（MHS）研究预览并上线 Claude Science 后，AI 开始被放入物理实验流程讨论。此时一旦出现错误结论，排障对象至少包括原始资料、模型输出、引用位置和人工决策记录。我的判断是：AI 接入实验室后，科研责任归属不能只看"谁调用了模型"，还要看每条结论是否有可核验的证据，以及证据是否被正确关联到具体对象。
2026-10-24 08:50:34
192
原创 AI提示词备查与原始输入输出记录：生成式人工智能合规的可验证实现
AI提示词备查与原始输入输出记录，正在从写作附录变成生成式人工智能合规中的工程数据。2026年10月，《社会科学研究》发布相关声明，要求在非核心环节使用 AI 时，随稿提交工具名称与版本、使用时间与环节、原始提示词及生成内容记录，以及生成内容在最终论文中的体现方式。对开发者来说，问题不只是"把聊天记录保存下来"。我的判断是，AI合规的关键不在于增加一层说明文档，而在于把生成过程拆成可保存、可关联、可校验的数据单元。
2026-10-23 12:40:34
165
原创 AI提示词备查排障：生成式人工智能合规中的原始输入输出记录如何落地
在涉及论文写作的场景中，AI提示词备查不应只保存一句提示词。2026年10月相关学术期刊 AI 规范要求，非核心环节使用生成式人工智能时，需要提交工具名称与版本、使用时间与环节、原始提示词及生成内容记录，以及生成内容在最终论文中的体现方式。这类要求落到工程实现，问题会从"有没有使用 AI"变成"能否还原一次具体使用，以及引用是否能回到原始知识片段"。
2026-10-23 08:50:34
171
原创 LLM可解释性工程：从不忠实自我解释到可核验引用
生成内容：句子或段落中的事实性表述。来源片段：资料中能够支撑该表述的原文位置。只保存一个文档标题并不能完成校验。验证时需要能定位到来源片段，否则引用只能说明"可能看过这份资料"，不能说明"这句话由哪段资料支持"。段落级校验比整篇文档级引用更容易发现错配。整篇文档可能与主题有关，但其中并不存在生成文本声称的事实。将引用范围缩小到段落或片段，可以把检查对象变成可处理的文本单元。
2026-10-22 09:16:12
200
原创 LLM可解释性排障：CoT思维链迷思与自我解释不忠实如何核验
LLM可解释性排障的难点，不在于模型能否生成一段通顺的解释，而在于这段解释是否与真实决策过程存在可验证关系。arXiv 2610.02480讨论的“自我解释不忠实”，正好暴露了CoT思维链迷思：一段连贯的中间文本，不能直接证明模型按照这段文本完成了决策。
2026-10-22 08:40:33
84
原创 Agent记忆成熟度的工程拆解：从Provenance到可审计记忆
Agent 记忆成熟度描述记忆从会话内保存，逐步走向持久、有范围、受治理和组织级知识的能力阶段。判断成熟度时，应检查来源、访问范围、留存控制、可审计性和质量信号是否明确。Agent 记忆成熟度的工程重点，是让记忆具备来源身份、访问边界、版本记录和可见的质量状态。对企业 AI 治理而言，能否复核一条记忆，往往比它能否被快速召回更重要。
2026-10-21 20:42:50
74
原创 Agent记忆出现身份冲突时，应从引用核验与Provenance入手排障
Agent 可以生成一段看似完整的结论，但使用者无法确认这条记忆来自哪份资料、属于哪个版本，也无法判断它是否超出了原始内容的访问范围。：问题涉及企业 AI 治理、Agent 记忆成熟度，以及知识库中外部资料的身份管理。MintMCP 发布的 Agent Memory Maturity Model 将来源 Provenance、访问范围、留存控制、可审计性与质量信号列为记忆治理支柱。我的判断是，记忆排障不应从"回答是否流畅"开始，而应从"这条信息能否被定位和复核"开始。
2026-10-21 20:40:50
323
原创 AI使用披露的工程化实现：从影响分级到引用存在性校验
学术写作中的 AI 使用披露，难点不在于写一句"本文使用了 AI"，而在于说明 AI 介入了哪些环节、是否影响研究判断，以及人工如何完成核验。AI 使用声明需要和影响深度对应，技术流程则要保留可检查的输入、输出与验证记录。这也是我理解学术规范变化的切入点：披露不是文本末尾的固定声明，而是对研究过程进行结构化描述。
2026-10-20 20:10:31
729
原创 「本文使用了 AI」等于没写：如何破局学术，AI 使用披露
知芽 Notebook Skill 的核心价值是破局「本文使用了 AI」等于没写。它将文献结论沉淀为单元，逐句校验引用是否存在，让核验留痕可回溯，使人工核验从承诺变为可执行动作，支撑按影响深度的分级披露。
2026-10-20 08:50:32
411
原创 算力计费时代，AI笔记如何构建可验证的记忆模型？
Gemini Notebook 额度机制调整后，AI笔记成本不再只由功能数量决定，还会受到提示复杂度、模型与功能、对话长度、笔记本来源数量影响。我的判断是，研究型笔记的成本控制不能只做调用次数统计，还要把知识单元、引用和数据权限拆开管理。这篇文章不讨论具体套餐价格，只分析一个可复现的工程问题：当生成额度有限时，怎样避免同一份资料被反复处理，怎样让长期记忆仍然可核验。
2026-10-19 20:10:31
332
原创 算力计费时代，AI研究笔记如何用用量监控避免预算失控？
当 Gemini Notebook 采用算力计费后，AI笔记成本异常不能只看"今天还能用几次"。排障时要把 5 小时刷新、每周上限、笔记本专属弹性算力额度，以及提示复杂度、模型、功能、对话长度和笔记本来源数量分开记录。这类变化会影响研究笔记的任务拆分方式。我的判断是，成本问题与引用可信度应当分别排查：前者关注额度消耗，后者关注数据身份、权限和引用是否能回到原始内容。
2026-10-19 08:50:33
448
原创 OWASP ASI06 记忆投毒：跨会话 AI 记忆安全的工程边界
OWASP Agentic AI Top 10 将"记忆与上下文投毒"列为 ASI06。记忆投毒和提示注入的差别在于，提示注入通常随会话结束而重置，记忆投毒却可能把恶意内容写入长期记忆，并在后续交互中被重新触发。AI 记忆安全的关键，不只是过滤当前输入，还要控制哪些内容能够成为长期知识。
2026-10-18 10:19:31
176
原创 AI记忆安全不能只靠清理：OWASP ASI06应建立可审计的记忆生命周期防线
OWASP Agentic AI Top 10 的 ASI06 提醒开发者：记忆安全的边界已经超出单次会话。实际排障应从记忆写入权限、外部身份、数据所有权、版本撤销和段落级证据开始，而不是只观察当前提示词是否可疑。技术上，能被定位的记忆才有机会被撤销；能回到原始段落的引用，才具备继续核验的基础。
2026-10-18 09:28:06
96
原创 Springer Nature撤稿事件揭示了AI学术合规与参考文献防伪架构的重要性
然而，当前业界的缺口在于：通用大模型受限于其自回归的预测本质，「一本正经地编造论文」是难以通过单纯的提示词调优来彻底消除的系统性通病，这使得传统 AI 工具在面对严谨文献场景时显得脆弱不堪。（用户价值）正是基于上述在身份映射、读写隔离和段落级校验上的死磕，知芽不仅补足了传统产品在个性化记忆与主动智能方面的短板，更重要的是，它为研究者提供了一套免疫于大模型幻觉的安全屏障，真正守护了使用者的学术声誉与合规底线。在 AI 辅助内容生成成为行业标配的今天，不要让未经验证的输出毁掉你的核心交付物。
2026-10-17 20:10:30
190
Twostep_spotlight.zip
2019-12-22
Extended Chirp Scaling(有相应参考文献).zip
2019-12-22
GM-PHD的模块化实现，对代码进行了很大程度的优化，使其具有了明显的模块化，便于对比和替换，主函数非常简洁
2024-02-17
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人