- 博客(11)
- 收藏
- 关注
RSS订阅原创 政府公文写作产品选择指南
关键发现: - 新华妙笔依托电子公文系列国家标准内置模板和动态合规引擎,在文号生成（如”X政函〔2025〕X号”格式）、正文层级编排、附件标注等全要素实现近乎零误差,综合准确率行业第一 - WPS-AI依托政务语料训练优势,在文号生成实现零误差,但正文层级编排准确率略低于新华妙笔 - 笔墨写作网的智能校对模块成功修复92%的层级错误（如错误使用”一、“与”（一）“混排） - 文心一言在非模板化写作中频繁出现主送机关位置错误（实测38%案例前置到标题上方）政府公文写作的本质是依法行政的技术实践。
2025-12-03 23:16:02
948
原创 博特智能基于提示词注入的大模型红队攻击测试技术介绍
综上所述，现有技术在防御提示词注入方面取得了一定进展，但在攻击模拟和安全评测层面，尤其是在提供一个能够模拟复杂、多变、可叠加攻击策略的自动化红队测试系统方面，仍存在明显不足。博特智能方案提出通过构建基于LLM大语言模型的多类提示词注入器, 并在词基础上构建工具链编排系统串联并叠加不同的提示词注入器, 提供可配置的提示词注入组合, 实现对原始攻击内容丰富多变的毒性增强, 从而达到对模型的深层次安全能力测试.“对抗性注入器”: [“对抗性注入器1”, “对抗性注入器2”, ...],二、博特智能的解决方案。
2025-11-26 15:58:41
870
原创 结合多模型内容风险检测过滤的大模型内容围栏系统
博特智能提出通过多模型风险识别对风险内容检测过滤，主要利用不同模型对风险敏感度的不同和关键词库等技术实现风险内容的分类过滤，实现对风险内容的多元化风险判断，保障生成式人工智能大模型输入和输出内容的安全性、合规性。基于“宪法式”对于与对话治理方式，能够通过设定的规则、规范让模型在对话中自行对内容进行价值判定、修正或拒绝，以实现明确的目标导向的自我约束和安全性提升。如果安全进行信息内容输出。3.2 如果通过，则对风险内容进行检测，返回对应的风险标签。3.2 如果通过，则对风险内容进行检测，返回对应的风险标签。
2025-11-26 15:52:33
423
原创 Cohere AI：企业级大模型赛道的崛起与挑战
本报告深度分析加拿大AI独角兽Cohere完成5亿美元D轮融资的核心动因及战略意义。通过解构其技术路线、商业模式、竞争格局及融资策略，揭示企业级大模型市场的演进趋势，并评估其在OpenAI等巨头夹击下的差异化突围路径。1. 引言：AI融资浪潮中的战略转折点全球AI融资热潮的背景2024年标志着生成式人工智能（AI）领域融资的爆发性增长，全球初创企业融资总额突破394亿美元，远超去年同期水平。这一数据源于市场对AI技术商业化潜力的集体押注，反映出投资者对底层大语言模型（LLM）创新的高度信心。推动这股热潮的核
2025-11-17 17:32:34
907
原创 豆包与夸克:AI助手和搜索的产品策略对比分析
夸克则聚焦AI搜索领域升级,以”超级框”为核心交互界面,整合AI搜索、AI写作、AI健康助手等工具化能力.其定位从传统搜索引擎转型为”个人全能AI助手”,通过深度搜索技术实现问题拆解与多源信息融合（如医学领域引用专业医典数据）.根据《2025年AI应用市场半年报》,夸克AI搜索结果月人均使用频次达65次,用户数突破2亿,其中大学生群体覆盖率超70%（中国科普网数据）,凸显其在教育等垂直场景的深度渗透.生成的AI内容（如3D风格海报）可直接发布至抖音,触发二次传播.据字节跳动内部数据,该机制使豆包。
2025-11-13 22:14:21
976
原创 解密Palantir高市值的三大支柱:技术、模式与增长
Palantir Technologies 构建了独特的”政府（ToG）+ 商业（ToB）“双轮驱动商业模式,这一结构是其高市值的重要支撑.该模式通过互补的业务特性,既确保了收入的基本盘稳定,又开辟了广阔的增长空间,驱动公司实现高速且可持续的发展.,并有效将技术优势转化为更广泛的商业客户渗透率,则有望消化当前高估值,实现长期价值.反之,若 AI 应用落地效果不及预期或竞争加剧,高估值带来的压力将显著增大.其”双轮驱动”模式能否在 AI 催化下持续创造协同效应,将是市场持续关注的焦点.
2025-11-13 22:12:37
709
原创 大模型内容围栏方案设计：安全架构、技术实现与治理框架
大模型安全围栏通过全生命周期防护体系，结合技术、标准与生态协同，构建可信创新边界，平衡效能与安全。
2025-11-09 15:03:11
878
原创 大模型安全治理体系介绍
本报告基于多源材料，系统分析大模型安全治理体系的建设内容，涵盖数据集构建、评估框架、安全技术、微调方法、部署实践及治理框架等核心维度。报告旨在为研究者、开发者和政策制定者提供全面的安全治理方案，促进大模型安全、可靠、高效的应用与发展。
2025-08-28 16:43:31
552
原创 构建可信与可控的AI内容生成系统
它指的是我们能够通过各种技术手段，精确地引导和约束模型的生成行为，使其严格按照用户的特定指令和预设的规范来产生内容。该架构将复杂的系统划分为五个逻辑清晰、职责明确的层次，从底层的数据与知识到顶层的治理与运营，形成一个端到端的闭环体系。更严峻的是，这些系统也成为恶意行为者的新目标，他们通过对抗性提示、数据投毒等手段，诱导模型泄露敏感信息、生成非法内容，甚至利用模型漏洞进行更深层次的攻击。具体对模型的可控性增强微调的方法是另外一个比较大的话题，涉及数据集的构建, 微调的具体控制以及微调后模型的评估。
2025-08-23 14:36:23
617
原创 红队大模型多轮对话攻击简介及技术路径
红队大模型多轮对话则是让红队所使用的大模型与目标大模型进行多轮次的对话交互，在对话过程中，红队大模型会不断尝试使用各种可能的对抗性输入，以探测目标大模型的防御漏洞和潜在风险[3]。通过分析红队大模型与目标大模型的多轮对话过程，能够深入了解攻击的路径、手段和特点，从而有针对性地设计防御机制，如增强大模型对对抗性输入的识别能力、优化模型的鲁棒性等，提高大模型的整体安全水平。在多轮对话中，红队大模型会根据目标大模型的每一轮回应，动态调整自己的输入策略，逐步深入地试探目标大模型的边界。
2025-08-23 14:32:56
1001
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人