基于大模型的需求分析技术及应用

大模型在需求分析中的应用与DTCoder R1技术解析 需求分析是软件工程中的核心环节,传统方法常面临效率低下和准确性不足的问题。通过引入大模型技术,如多模态理解和知识图谱,可以显著提升需求变更识别的准确性和效率。DTCoder R1结合语义理解层、变更检测层和影响评估层,实现了需求文档的深度解析和变更影响的拓扑分析。该技术特别适用于金融和互联网行业,能够大幅缩短需求变更处理时间并提升测试用例覆盖率。热词包括多模态大模型和需求知识图谱,展现了AI在软件工程中的实际应用价值。 阅读详情

一、项目背景与职责

该医保智能监管平台的目标是打通省级医保结算数据与定点机构诊疗数据,实现事前提醒、事中审核、事后追溯的闭环监管。项目启动时面临的核心业务痛点是:需求来源高度碎片化——医保局的政策文件以规范性语言表述,医疗机构的业务流程以操作惯例呈现,第三方审核服务商的接口约束又以技术契约形式存在,三者之间缺乏统一的语义基准。上一期类似项目中,需求评审阶段发现的术语冲突和逻辑矛盾约有四成是在开发中后期才暴露的,修复成本极高。

我在项目中担任需求分析负责人,职责包括:制定需求获取与分析的总体技术方案,主导大模型辅助需求分析流程的设计与工具选型,组织冲突仲裁与人工确认环节,并对最终需求规格说明的质量负总责。项目组另有4名需求分析师和2名领域专家,领域专家不直接操作大模型,而是承担“语义裁决者”的角色。

二、基于大模型开展需求分析的主流技术路线

从2023年以来的研究和工业实践看,大模型进入需求分析领域并非单一方法的替代,而是形成了若干条在“控制力—知识注入—推理深度”之间做不同权衡的技术路线。以下四种路线在当前的工程实践中具有代表性。

第一条是提示工程路线,以任务分解和推理引导为核心。 其基本原理是将需求分析任务拆解为抽取、归类、改写、检查等子任务,通过零样本、少样本、思维链、角色扮演、提示链等策略引导模型在每一步聚焦于一个受控的输出目标。零样本适用于边界清晰的简单抽取;少样本在领域术语密集时能显著提升格式遵循度;思维链适合需要显式推理的需求冲突初筛;提示链则将多步任务串联,使前一步的输出成为后一步的约束条件。这条路线的主要优势是部署成本低、迭代快,分析师可以直接调整提示来响应需求变化。局限在于,提示对输出质量的影响极为敏感,措辞的细微变化可能导致抽取结果的粒度或口径发生偏移,且模型缺乏项目专属知识的持久记忆,复杂领域中的鲁棒性不足。

第二条是检索增强生成路线,将外部知识注入生成过程。 原理是在模型生成之前,从需求模板库、领域术语表、历史项目规格说明或政策文件中检索相关片段,拼接为上下文后再执行分析任务。在需求工程场景中,RAG特别适用于需要遵循组织既定规范(如EARS模板、功能设计规格书格式)或需要引用领域约束条件的任务。其优势在于以较低成本缓解了模型对项目专有知识“不知道”的问题,并降低了凭空编造术语的风险。局限在于检索质量直接决定生成质量:如果检索到的上下文与当前需求片段语义不匹配,模型会基于错误的知识锚点进行推理,反而放大偏差;此外,分块策略和嵌入模型的选择也需要针对需求文本的特性进行调优。

第三条是有监督微调路线,在领域数据上调整模型参数。 当项目积累了一定数量的高质量“需求输入—分析输出”配对数据后,可以在开源基座模型上进行指令微调,使模型内化特定组织的需求表述习惯和领域推理模式。这条路线在需要高格式一致性和领域术语稳定性的场景中效果突出,例如从会议纪要或工单文本中批量抽取符合特定模板的用户故事。但其门槛显著高于前两条路线:需要足量且标注质量可靠的训练数据,微调后的模型更新成本较高,且在需求边界快速变化时灵活性下降。

第四条是多智能体协作路线,通过角色分工和协商机制提升分析深度。 其基本思路是为模型赋予不同的专业角色(如业务分析师、系统架构师、安全评审员),各自独立生成或评审需求片段,再通过结构化协商(提议—批评—综合)暴露单一视角难以发现的跨质量属性冲突。QUARE框架在这一方向上提供了较为完整的参考:它将需求质量分析建模为五个质量专精智能体之间的辩证协商,使“效率”与“安全”、“可操作性”与“合规性”之间的张力在协商过程中被显式地暴露出来。多智能体路线在冲突检测和权衡分析上具有明显优势,但计算开销大,协商过程可能陷入循环或收敛到表面折衷,需要精心设计终止条件和仲裁规则。

这四条路线并非互斥。在工程实践中,更务实的做法是以提示工程为基线,在需要项目知识注入的环节嵌入RAG,在格式一致性要求最高的子任务上考虑微调,在冲突密度高的分析阶段引入受限的多智能体评审。

三、项目实践:流程落地、校验与冲突处理

3.1 落地流程设计

我们采用的流程以“人在环路中”为基本约束,大模型承担初筛和草稿生成,领域专家和需求分析师保留最终裁决权。流程分为四个阶段。

第一阶段:多源输入的结构化抽取。 医保政策文件、机构业务流程说明和接口约束文档分别进入三条并行的抽取管线。我们为每一类输入设计了独立的少样本提示模板,以EARS句式结构作为输出格式的统一约束。例如,对政策文件中“应在X个工作日内完成Y”类条款,提示要求模型输出为“当[触发条件]时,系统应[响应行为],以满足[约束条件]”的EARS格式。这一阶段使用RAG将领域术语表检索注入,以压低术语漂移。抽取结果不直接作为需求条目,而是作为“候选需求片段”进入下一阶段。

第二阶段:一致性聚类与初筛。 将候选片段按照业务域(参保管理、待遇结算、审核监控、基金监管)和需求类型进行聚类,聚类采用传统相似度计算与模型语义判断相结合的方式。这一步的目的不是让模型直接判定冲突,而是将可能相关的片段聚合到同一局部上下文中,降低后续冲突检测的搜索空间。相关研究也表明,将传统聚类技术与LLM检测相结合,可以同时提升冲突识别的精确率和召回率。

第三阶段:多智能体评审与冲突标注。 对每个聚类簇,启动三个受限角色进行评审:业务规则评审员、数据一致性评审员和接口可行性评审员。每个角色基于同一簇的需求片段独立输出“冲突假设”,格式为(冲突类型、涉及片段、理由)。我们刻意限制了协商轮次为两轮,第一轮各自标注,第二轮仅对相互矛盾的标注进行交叉质询。质询记录作为冲突工单的附件保存,供领域专家裁决时参考。这一设计借鉴了多智能体辩证协商的思路,但将输出限定为“标注冲突”而非“解决冲突”,把解决权留给人工流程。

第四阶段:仲裁协商与需求基线化。 冲突工单进入领域专家主持的仲裁会。专家依据医保政策优先级和业务影响做出裁决,需求分析师据此修改或拆分需求条目。裁决结果和理由被结构化记录,作为下一轮RAG检索的知识源。基线化后的需求条目进入正式规格说明。

3.2 需求校验机制

校验不是单一检查点,而是贯穿上述流程的三层机制。第一层是格式校验,由确定性规则完成,检查抽取输出是否满足EARS句式模板和必填字段完整性,不通过者直接退回重抽,不消耗人工评审资源。第二层是语义一致性校验,由RAG增强下的模型对同一聚类簇内的片段做两两或成组比对,输出“一致/潜在冲突/信息不足”三分类,并附推理依据。这一层不追求高精确率,而是以较高召回率为目标,将疑似问题送入下一层。第三层是约束可满足性校验,针对涉及时间窗口、数值阈值和权限矩阵的需求,将自然语言条件转化为结构化约束,检查是否存在逻辑上的不可满足组合。对于字符串约束的可满足性,已有研究探索了LLM生成检查器数据与形式化方法结合的方式,我们在项目中采用了类似的思路,将模型生成的约束表达式交由规则引擎执行最终判定,避免模型在逻辑判定上产生幻觉。

3.3 需求冲突处理

冲突处理的核心原则是“暴露优先于消解,消解必须可追溯”。项目中的冲突被划分为三类,对应不同的处理策略。术语型冲突(同一业务概念在不同来源中的名称或口径不一致)由模型在抽取阶段标注,经领域专家确认后统一写入术语映射表,后续RAG检索强制引用该映射表。逻辑型冲突(两条需求在触发条件或响应行为上互斥)通过多智能体评审和第二层校验发现,进入仲裁流程,由专家依据政策依据和业务优先级裁决,裁决结果形成“冲突—裁决”对存入知识库。约束型冲突(数值阈值、时间窗口或权限范围不可同时满足)主要由第三层可满足性校验捕获,由需求分析师与干系人协商调整约束边界。仲裁协商中有争议的条目不被强行“多数决”,而是保留备选方案并在规格说明中标注决策依据,供后续设计阶段追溯。

3.4 实际效果

项目需求规格说明的初稿产出周期从立项时预计的14周缩短至8周。在需求评审阶段,冲突的早期发现率(在开发启动前被识别并处理的比例)从上一期项目的约62%提升至89%。因需求歧义或遗漏导致的开发阶段返工减少了约35%。这些改善的主要来源并非模型替代了分析师,而是模型将分析师从跨文档的逐条比对中释放出来,使其时间集中在裁决和协商上。需要指出的是,工时节约的度量受到项目范围和干系人配合节奏的干扰,上述数字应视为项目情境下的观测值,而非可泛化的效应量。

四、存在不足与改进思路

项目落地后暴露出的不足集中在三个方面。第一,幻觉残留并未消除,只是转移了形态。 模型在抽取阶段较少凭空编造整条需求,但在语义一致性校验中会“合理化”不存在的因果关系,即生成看似合理的冲突解释,而实际片段之间并无逻辑关联。当前的应对是要求每条冲突假设必须指向具体的片段标识和原文定位,无法定位的假设自动降权。更根本的改进方向是引入可追溯性约束:让模型在生成任何判定时强制引用检索到的知识片段或原文行号,并将引用有效性纳入校验规则。

第二,上下文漂移在长文档场景中仍然明显。 当同一业务域的需求片段超过一定数量后,模型对早期片段的注意力衰减导致漏检跨簇冲突。我们尝试了分段加摘要回注的方式,但摘要本身可能丢失关键的约束条件。后续计划将需求片段与业务实体之间的关系图作为检索结构,用图结构引导模型在相关实体邻域内做局部推理,而非依赖扁平的长上下文。

第三,多智能体评审的成本与收益在低冲突密度场景中不划算。 对于术语统一、来源单一的模块,三角色评审的额外计算开销和协调成本超过了其带来的冲突发现增量。改进思路是根据聚类簇的“异质性分数”(来源多样性、术语分歧度、约束密度)动态决定是否启动多智能体评审,将资源集中在真正需要多视角交锋的片段上。

结语

基于大模型的需求分析,其工程价值不在于让模型“写出”需求,而在于将需求分析中可分解的比对、标注和初筛工作前置,使人的判断力集中在冲突裁决和语义协商上。技术路线的选择应服务于这一分工逻辑:提示工程提供基础控制力,RAG注入项目知识,多智能体在需要多视角张力时补充推理深度,而形式化校验守住逻辑底线。项目的经验也表明,校验和冲突处理机制的设计质量,比模型本身的能力更能决定大模型在需求工程中的实际效用。

AI开发教程(十二):大模型应用开发 摘要:大语言模型(LLM)正在重塑AI应用开发范式,通过预训练模型复用显著提升开发效率。本文系统讲解大模型应用开发全流程:1)与传统AI对比,突出其自然语言交互、多任务泛化等优势;2)构建技术栈分层架构(基础层/中间层/应用层);3)开发关键模块(动态提示词、对话记忆、工具调用);4)以企业知识库问答系统为例,详解RAG架构实现,包括文档分块、向量检索、多轮对话等核心代码。实践表明,大模型应用可缩短70%开发周期,适用于智能客服、内容生成等场景,需结合工程化手段解决幻觉、时效性等局限。 阅读详情

相关推荐

需求与技术可行性评估:大模型应用开发的平衡之道

需求评估(Requirement Analysis)是对软件或系统项目的目标、功能、性能、界面和约束等需求进行系统化和结构化的分析。它确保项目团队理解客户的实际需求,并据此设计出可行的解决方案。技术可行性评估(Technical Feasibility Analysis)则是对实现需求的实际技术条件进行评估,包括技术难度、开发时间、成本、资源等。它旨在确定所选技术方案是否能够满足需求,同时确保项目能够在预期时间内顺利完成。在探讨大模型应用开发的背景之前,有必要先明确几个核心概念术语。

AGI×大数据,开启智能时代的认知跃迁;解码AGI,赋能数据驱动的智能革命。 1234

2025年主流大模型技术特点与应用场景分析

国内外模型在技术架构上呈现收敛趋势,但在具体实现和应用侧重点上存在明显差异。本文将从技术架构、核心能力、应用场景和未来发展趋势四个维度,系统分析当前主流大模型的技术特点与应用价值,为开发者和企业选型提供参考依据。

u014419174的博客 1275

大模型应用开发中的需求与测试用例生成

本文旨在深入探讨大模型应用开发中的需求与测试用例生成问题。通过系统化的分析和实践,我们将揭示大模型应用开发中的核心需求和面临的挑战,详细讲解需求分析的方法与原则,以及测试用例生成的基本概念和技术。本文还将分享自动化需求分析与测试用例生成的实际案例,总结实践经验,展望前沿技术,为读者提供全面而深入的指导。近年来,人工智能领域取得了突破性进展,特别是在大模型(Large Models)的研究与应用方面。

AI天才研究院 1039

浅谈大模型生成类应用的需求分析设计与实践

本文将探讨生成类应用的机遇与挑战,以及在实际落地过程中的探索和实践经验。

whalecloud的博客 2906

大模型驱动的需求分析与提示词转换

大模型驱动的需求分析与提示词转换 关键词:大模型、需求分析、提示词转换、AI、深度学习 摘要:本文将探讨大模型驱动的需求分析与提示词转换技术,深入分析大模型在需求分析中的应用以及提示词转换的关键技术,旨在为读者提供一种新的视

AI天才研究院 1014

大模型应用开发中的需求与文档自动生成技术

摘要 本文将深入探讨大模型应用开发中的需求与文档自动生成技术。随着人工智能和大数据技术的迅猛发展,大模型在各个领域的应用日益广泛,其开发过程也日益复杂。本文首先介绍了大模型应用开发的背景,包括人工智能、大模型技术以及需求分析与文档自动生成技术的概念和发展。接着,本文详细阐述了需求分析与文档自动生成技术的核心概念和原理,包括其算法模型、流程设计以及数学公式。此

AI天才研究院 1284

AI大模型应用开发工程师:技术与产业的“翻译官“,月薪可达60k的热门职业

AI大模型应用开发工程师是连接技术与产业的关键桥梁,负责将复杂AI大模型转化为实用产品。其核心职责包括需求分析、技术选型、应用开发、测试优化及部署运维。随着AI技术加速落地,这种"技术+业务"的复合型人才备受市场青睐,月薪最高可达60k,成为极具吸引力的职业选择。随着AI场景化应用的深化,这一职业的重要性将更加凸显。

2401_84204207的博客 907

从零搭建企业级AI网关:基于LiteLLM的安全防护体系设计

本文详细介绍了如何从零搭建企业级AI网关,基于LiteLLM构建全面的安全防护体系。内容涵盖分层防御架构、敏感数据处理、合规性配置与审计追踪,以及生产环境部署策略,助力企业安全高效地集成LLM技术,确保数据安全和合规性。

qq_27496129的博客 1291

大模型驱动的智能需求分析:从自然语言到技术规格的跨越

GPT-3的1750亿参数规模(Brown et al., 2020)验证了参数规模与语义理解能力的正相关关系,其掩码语言模型(MLM)训练机制显著提升了需求语义的捕捉精度。大模型驱动的智能需求分析已从实验室走向产业实践,其核心价值体现在效率提升(平均处理速度提升15-20倍)、精度突破(准确率提升30%+)和成本优化(运维成本降低40%)。通过对抗训练(Goodfellow et al., 2015)和公平约束优化(Hardt et al., 2016),某招聘平台将性别歧视投诉减少76%。

2501_92430730的博客 1345

低电压高效率能源管理芯片BQ25570的基本用法及应用电路实例

BQ25570是一款低电压、高效率、集成了可编程功率追踪(MPPT)功能、BOOST升压功能和BUCK降压功能的综合型能源管理电路。冷启动工作电压为330mV,热启动工作电压为100mV。主要应用于温差发电片TEG、压电、摩擦发电和太阳能板的能量收集,也可以用于人体可穿戴自取能传感设备的能量管理。本文主要介绍了BQ25570相关参数计算、MPPT功能验证、工作逻辑和应用场景,并设计了一版测试电路,给出了不同应用需求的电路配置建议。

weixin_49213602的博客 3450

从零到一:在Ubuntu 20.04上搭建ROS1与PX4无人机开发环境

本文详细指导如何在Ubuntu 20.04系统上搭建完整的ROS1与PX4无人机开发环境。内容涵盖ROS Noetic安装、PX4固件源码编译、MAVROS通信桥接以及QGroundControl地面站的配置,并通过Gazebo仿真完成全链路联调测试,为无人机算法开发与验证提供稳定可靠的基础平台。

weixin_29292431的博客 165

AI大模型应用开发工程师全解析:月薪60k+的桥梁职业指南

AI大模型应用开发工程师是连接技术与业务的关键角色,负责将复杂AI技术转化为实用产品。其核心职责包括需求分析、技术选型、应用开发、测试优化和部署运维。这一复合型职位月薪可达60k+,随着AI技术落地场景的深化,其职业价值将不断提升,成为推动AI技术产业化的核心力量。

2301_80239908的博客 1011

工业自动化中气动夹爪选型、调试与维护全流程实战解析

在工业自动化领域,气动执行元件是实现精准抓取与搬运的基础。其工作原理是通过压缩空气驱动气缸,转化为直线或旋转运动,从而控制夹爪的开合。这类技术因其结构简单、响应快速、成本低廉及维护方便,在自动化产线中具有极高的技术价值,是实现高效、可靠物料搬运的核心单元。其典型应用场景涵盖电子装配、汽车制造、食品包装等行业的上下料、分拣与定位工序。本文以工业自动化中常见的二指平行气动夹爪(常被工程师代号化为“Gripper-A”)为例,深入剖析其从硬件选型、气动系统集成到程序逻辑联锁的完整工程实践。内容聚焦于夹持力计算中惯

weixin_42629671的博客 364

从需求到落地!AI 大模型全流程实施路径深度解析

在全球数字化转型的宏观背景下,人工智能大模型依托其卓越的数据分析与处理效能,已然成为驱动企业创新发展与竞争力提升的核心要素。值得注意的是,构建科学、系统且具有可操作性的实施路径,是充分释放人工智能大模型技术潜力的关键所在。本文将从需求分析、技术选型、模型训练优化、到最终应用集成等维度,系统探讨人工智能大模型落地实施的完整技术路径与方法论体系。

Free2AI DBMove 1574

走马观碑组智能车竞赛:目标板识别算法优化与实战技巧(基于OpenCV)

本文针对智能车竞赛走马观碑组别的核心挑战,深入探讨了基于OpenCV的目标板识别算法优化与实战技巧。文章系统分析了PVC赛道环境下的光照、运动模糊等干扰因素,详细拆解了从红色矩形定位、透视校正到特征提取与分类的完整流程,并提供了工程优化、速度提升及现场调试的实用策略,旨在帮助参赛队伍构建一套在高速运动中既准又快的鲁棒识别系统。

life6的博客 732

高级技能-高可用和容灾-两地三中心、异地多活架构

两地三中心和异地多活是当前主流的跨地域高可用架构方案。两地三中心通过生产中心、同城灾备和异地灾备的组合,提供多级容灾能力,适合对数据安全要求高的行业。异地多活则采用单元化设计,多个站点同时服务,提升资源利用率,但需解决网络延迟、数据冲突等挑战。两种架构在RTO/RPO、一致性、改造成本等方面各具特点,企业应根据业务规模、一致性要求和预算进行选择,可考虑从同城双活起步,逐步向异地多活演进。混合架构可能是平衡容灾与多活的务实方案。

zhongjianfeng100的博客 168

大模型行业应用新模式和关键实现路径【大模型落地企业应用】

智源研究院大模型行业应用总监周华在AICon全球人工智能开发与应用大会上发表了题为“智源技术分享:大模型行业应用新模式和关键实现路径”的演讲。他深入分析了当前大模型在行业落地过程中遇到的技术障碍,并分享了智源研究院的实践经验,提出了以大模型为核心的新型技术路径,包括数据、模型评测、模型训练和应用集成等方面。周华还针对行业落地中的数据问题,提供了构建数据生产流程的技术建议,并介绍了智源研究院在大模型行业应用方向上的最新

2401_84204207的博客 1191

YOLOv11改进策略【卷积层】| ICCV-2023 引入Dynamic Snake Convolution动态蛇形卷积,改进C3k2

基于拓扑几何约束的动态蛇卷积用于管状结构分割DSConv(Dynamic Snake Convolution,动态蛇形卷积)模块的设计主要是为了更好地处理管状结构的分割任务,解决传统卷积在处理细管状结构时的不足。

Limiiiing的博客 1627

AI辅助需求分析:AI大模型将自然语言需求转化为技术规格

AI大模型通过深度学习和自然语言处理技术,能够理解和解析复杂的自然语言文本,识别其中的关键信息,并将其映射为相应的技术规格,大大提高了需求分析的效率和准确性。

rengang66的博客 864

10、边缘智能学习技术解析

本文深入解析了边缘智能学习技术的四大核心方法:联邦学习、DNN拆分、迁移学习和八卦学习。文章从人类大脑的学习机制出发,引出边缘级智能的重要性,并详细阐述各类技术的架构、优势、挑战及适用场景。通过对比分析,展示了不同技术在隐私性、效率、可扩展性等方面的特性,并探讨了未来融合多种技术、软硬件协同优化及应用领域拓展的发展趋势,为边缘智能在物联网与人工智能领域的应用提供了系统性参考。

ppp33的博客 117

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

小白程序员必看!收藏这份AI大模型应用开发工程师入门指南,低门槛开启高薪新赛道!

若把AI大模型比作一座蕴藏着无限能量的“技术宝库”,那AI大模型应用开发工程师,就是解锁宝库能量、将其转化为实用工具的核心执行者。简单来说,这类工程师核心依托现有AI大模型,结合具体业务场景设计开发可落地的应用程序,是技术落地环节的核心角色。该职业的核心价值,在于搭建起技术与用户之间的“桥梁”——把普通人难以理解的算法逻辑、模型参数、向量计算等专业内容,转化为人人都能上手操作的产品形态,让大模型能力触手可及。

2601_95396324的博客 305

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

大模型相关技术、应用及反思

本文探讨了大模型相关技术及其应用反思。首先介绍了Transformer架构及其自注意力机制的核心创新,作为大模型的基础框架。重点分析了蒙特卡洛搜索树(MCTS)技术,包括其选择、扩展、模拟和反向传播四个关键步骤,以及与大语言模型(LLM)的互补关系,指出MCTS能提升LLM的决策质量并降低优化成本。最后讨论了提示词工程(Prompt Engineering)作为人机对话优化技术的重要性。文章通过技术原理剖析和应用场景分析,展现了大模型技术发展的关键路径和未来潜力。

Passionruler 664

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

金三银四,转行去做大模型开发了!非常详细收藏我这一篇就够了

如果说AI大模型是蕴藏着巨大能量的“后台超级能力”,那么AI大模型应用开发工程师就是将这种能量转化为实用工具的执行者。AI大模型应用开发工程师是基于AI大模型,设计开发落地业务的应用工程师。这个职业的核心价值,在于打破技术与用户之间的壁垒,把普通人难以理解的算法逻辑、模型参数,转化为人人都能轻松操作的产品形态。

2301_80239908的博客 707

大模型工程师进阶指南:清华方案助你抢占AI时代C位!

人工智能浪潮重塑世界格局,大模型技术成为生产力核心驱动力。国家将"人工智能+"上升为战略高度,推动与实体经济深度融合。清华大学推出"大模型工程师学习班",培养理论与实践兼备的高素质人才。AI大模型应用开发工程师作为技术落地的关键桥梁,负责需求分析、技术选型、应用开发等工作,将复杂算法转化为实用产品。该职业市场需求旺盛,最高月薪达60k,是当前极具吸引力的就业选择。随着AI技术加速落地,这类复合型人才的重要性将持续提升。

m0_74942241的博客 546

从头开始,八步实现大模型接入|如何用好大模型

要说2023年什么技术是最火的?大模型恐怕是绕不开的。相比前几年爆火的区块链、元宇宙等技术,大模型有着更明确的落地场景和应用价值,企业对大模型的关注度相比之前也更高。但是,大模型的门槛也是其他技术所未有的。脱胎于机器学习的大模型,具有巨大量级的参数和复杂结构。那么,我们该如何参与到大模型应用的行列中呢?火山引擎推出的一系列文章将帮助大家快速了解和应用大模型。文章将从企业需求、模型选型、模型评估、模型精调等一系列话题入手,以简单易懂的语言帮助大家学习和成长。

ytt0523_com的博客 2596

35岁零基础转行AI大模型?这泼天的富贵你还不接?35岁零基础转行成为AI大模型开发者怎么样呢?

35岁转行AI大模型开发完全可行,关键在于持续学习和实践。文章指出,AI大模型开发行业前景广阔,需求持续增长,为零基础学习者提供了系统性的免费学习资料包,包括路线图、实战案例和教程等。35岁仍具备学习新技能的能力,零基础通过在线资源和实践也能掌握AI开发技能。AI大模型应用开发工程师是连接技术与业务的关键角色,负责需求分析、技术适配、开发测试等全流程工作,薪资可达月薪60k,是当前极具吸引力的职业选择。

weixin_55154866的博客 736
上一篇: 在自动化脚本中使用Get网络请求
ai_coder_ai
博客等级 码龄1年 38粉丝 248原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值