- 博客(119)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 通用分类算法的建模过程
全部分类算法，都是在特征空间里，用一套自己的假设+一套优化目标，去逼近贝叶斯最优分类面。课本上那张高斯朴素贝叶斯图：用【参数法‑MLE】，假设每个类内特征服从一维高斯，算出px∣Cip(x|C_i)px∣Ci；如果把高斯朴素贝叶斯，替换成 KDE，就变成非参数版本朴素贝叶斯，不再强制高斯；多维高斯 + MLE；完全不去求解概率密度（判别式模型），直接建模PC∣xP(C|x)PC∣x；不需要关心数据本身是怎么分布生成出来的。
2026-08-21 10:32:58
552
原创 由机器学习入门关联深度学习
MAE1n∑i1n∣yi−yi∣MAEn1i1∑n∣yi−yi∣误差取绝对值，线性惩罚；对异常值鲁棒；单位和原始标签一致；导数在0点不连续，不可导。输入样本，模型输出一组原始未归一化分值（logits），用来衡量样本属于各类别的置信度。常见场景：分类任务aσzaσz引入非线性。没有激活函数，无论多少层网络等价于单层线性模型。针对单个样本LyyLyy回归：MSE、MAE。
2026-08-06 18:06:43
604
原创 大模型内部理论杂谈
l2l^2l2 平方可和序列空间l2={(x1,x2,… ) ∣∑n=1∞∣xn∣2<∞}l^2=\Big\{(x_1,x_2,\dots)\,\Big|\sum_{n=1}^\infty |x_n|^2<\infty\Big\}l2={(x1,x2,…)n=1∑∞∣xn∣2<∞}内积 ⟨x,y⟩=∑xnyn‾\langle x,y\rangle=\sum x_n\overline{y_n}⟨x,y⟩=∑xnyn，完备 → 典型无穷维Hilbert空间。L2(Ω)L^2(\Omega)L
2026-07-31 14:39:59
425
原创 确定建模与不确定建模
深度挖掘企业数据，实现自动化运维、自动化流程，一方面需要梳理工作sop转化为模型可调用的技能、工具、服务，实现灵活编排，安全、可靠、稳定、准确的工具，对于各个领域来说还需要深度挖掘企业数据，例如金融行业贷前、贷中、贷后等审核管理，数据驱动和流转在大数据时代通过实时分析、特征工程、实现监管和监控、沉淀为企业的数字资产。模型对于结构化分析，方法论是从底向上设计的隐空间建模和自上而下的知识梳理类似知识图谱，实现数据的预测、推理、生成，这一部分是稳定的来源。智能体应用实现节点可编排、工具可服用、能力可扩展。
2026-07-31 14:23:51
247
原创 深度学习中空间的理解
二维平面，直线可以靠交点互相“免费叠加”；三维空间直线大多异面，堆叠有几何代价。即便外在体积可以为零，内在分形维度必须锁死等于环境空间维数。这套定理，是波动方程、电磁波高频传播的底层几何约束。
2026-07-30 16:17:50
976
原创 transformers速查表
T5、T5-v1.1、Flan-T5、mT5（多语言T5）BART、MBART（多语言BART）Pegasus（摘要专用）ProphetNetpipeline= 开箱即用封装，20+任务覆盖NLP/CV/Audio/多模态，底层调用AutoModel+Tokenizer+Generation；utils= 环境判断、版本校验、硬件检测、日志、分布式、量化底层替换、缓存文件管理，工程化部署大量依赖。
2026-07-30 14:56:16
215
原创 偏微分方程 & 热力学视角 到动力学看具身模型
整体链路：原始输入 →特征提取 →映射到隐空间 →注意力结构变换 →非线性激活 →输出预测。没有拉普拉斯、Z变换；主力是线性代数、矩阵运算、概率统计、微分求导、三角/复数。hi=We⋅xi\boldsymbol h_i = \boldsymbol W_e \cdot x_ihi=We⋅xiWe∈Rdmodel×VW_e\in\mathbb R^{d_{model}\times V}We∈Rdmodel×V 嵌入矩阵；xix_ixi是one‑hot token索引。作用：离散token映
2026-07-29 09:45:09
381
原创 从复数讲到机器人控制
xtAcosωtϕxtAcosωtϕAAA：振幅（幅度，最大偏移）ω\omegaω：角频率ϕϕ初相位（相位常数）θtωtϕθtωtϕxtAejωtϕAcosωtϕjAsinωtϕxtAejωtϕAcosωtϕjAsinωtϕ复数模∣x∣A∣x∣A；辐角就是相位ωtϕωtϕ。振幅描述多大；相位描述“在周期里走到哪个位置”。
2026-07-28 13:02:50
358
原创 浅谈WAN模型架构的那些‘组件’设计
Block =神经网络的标准化功能积木代码复用、减少冗余；统一内部结构，保证深层训练梯度稳定；架构分层清晰，可读性拉满；支持模块插拔、消融实验、精细参数控制；行业统一术语，降低交流理解成本。不管CNN还是Transformer，只要网络要做深度堆叠，就一定会抽象出Block。Norm 负责让训练能跑稳、不炸梯度；FFN前馈负责给特征做非线性表达扩容；Head负责把最终特征映射到任务目标空间。
2026-07-27 15:12:24
250
原创 具身多模态对齐的意义
前置统一约定（固定基准，避免混乱）Fv∈RB,Nv,DvF_v \in \mathbb{R}^{B,N_v,D_v}Fv∈RB,Nv,DvH1=FvW1+b1,H1=GELU(H1)∈RB,Nv,DlFv,proj=H1W2+b2∈RB,Nv,Dl\begin{align}H_1 &= F_v W_1 + b_1,\quad H_1 = \text{GELU}(H_1) \quad &\in \mathbb{R}^{B,N_v,D_l} \\F_{v,\text{proj}} &= H_1 W_
2026-07-27 09:39:05
339
原创 跨模态对齐
显式向量空间对齐：对比学习、MMD、对抗域适应（检索首选）隐式模型内部对齐：统一大模型基座、跨注意力融合（多模态理解/生成首选）细粒度语义对齐：Token-Patch点对点匹配、实体与时序绑定（高精度理解首选）2层MLP + LN + L2归一化（替代单层nn.Linear）RMSNorm + MLP瓶颈层（LLaVA同款）CrossAttention 投影头。
2026-07-26 20:59:43
528
原创 随意学习-模型工程：因子、隐空间、采样策略
Factor（因子）描述它起什么作用，Vector（向量）描述它长什么结构。因子可以用向量装，也可以只是一个单独数字；向量可以存因子，也可以存坐标、特征、token表征。二者不属于同一套定义维度。只要公式里有一项用来加权、缩放、调节贡献大小，这个项就经常被命名为XX因子(factor)。向量只是一种存储形式，只有隐因子这类场景才会用向量表达。标量乘法系数，既可以叫系数，也可以叫因子y0.5xy=0.5xy0.5x0.5：缩放系数 / 缩放因子，两种叫法都正确强调公式参数 → 系数。
2026-07-24 14:29:48
340
原创 lingbot-world关键解析，项目架构分析
DiT模型结构清晰，通过patch embedding、时间步编码、文本和相机条件注入以及一系列transformer block，实现了高质量的文本到视频生成。Fast版本在标准版基础上引入因果注意力和KV缓存机制，显著提升了视频生成的效率和推理性能。attention模块提供了多种注意力变体，主要依赖Flash Attention实现高性能计算。
2026-07-24 10:43:38
480
原创 大模型常见问题整理
单条Rollout轨迹过长 → 调用LLM把整条动作序列压缩为高密摘要→ 只把摘要塞进上下文，原始长轨迹存入向量库RAG按需召回。# 长轨迹原始文本不直接入上下文long_rollout_text = "step1移动机械臂...step7碰撞...step10任务失败"# 压缩为关键Token摘要。
2026-07-24 10:20:35
316
原创 Diffusers 常用模块 + 使用场景 + 对应数学物理公式
整体分为五大块：Pipeline流水线、Scheduler采样器、UNet/DiT核心模型、VAE潜空间编解码、预处理后处理张量算子，全部绑定，适配SDXL、FLUX、DiT、Cosmos Flow Matching、视频生成、Inpaint修复场景。
2026-07-23 11:04:52
198
原创 torch具身常用算子
覆盖：扩散模型 / DiT / 图像视频 / 机器人动作序列，面试可直接口述、简历技术复盘可用。XY代表张量；NBCTHW= 批次、通道、时序、高、宽。
2026-07-23 10:47:56
294
原创 lingbot vla中的策略
策略设计是连接模型与算法的关键，直接影响机器人控制性能。文章介绍了LingbotVLAv2和PI0Policy两类策略系统的工作流程与架构：1）LingbotVLAv2通过动作集成机制（混合当前预测和历史动作）提升稳定性，支持多模态输入（图像、语言、状态）和复合损失优化；2）PI0Policy基于PaliGemma多模态模型（SigLIP+Gemma）构建，包含10个专家模块的动作解码器，通过投影层实现状态-动作的时空融合。两类策略均采用"观测-决策-执行"闭环控制模式，其中策略服务器负责动作预处理、采样和
2026-07-17 14:04:26
277
原创 lingbotvla优化器
这段代码实现了分层优化器构建策略Muon 路径：针对大规模模型，将 2D/3D 参数路由到（正交优化），1D/embedding 参数路由到AdamW（传统优化）AdamW 路径：传统优化器，支持adamw和参数智能路由：根据维度和名称自动分类参数MoE 学习率缩放：自适应调整专家参数学习率分布式优化支持 FSDP2，mega-batch 策略减少通信开销学习率自适应：根据参数形状动态调整学习率。
2026-07-14 20:34:27
187
原创 WAM模型dit4dit核心代码分析
核心问题：在中，= 0模型无法学习视频预测能力解决方案：需要遍历的所有时间帧，而不是只取[0]。让我深入分析视频预测功能的实现。首先搜索相关代码。输入准备将多帧图像转换为条件帧 + 未来帧编码：VAE 将图像编码为 latent生成：Transformer 通过 Flow Matching 预测 velocity，逐步去噪解码：VAE 将 latent 解码回像素损失计算：Flow Matching 损失在 latent 空间计算核心问题只取了第 0 帧，导致没有未来帧可以监督，恒为 0。
2026-07-13 21:10:01
209
原创 详解rlinf强化学习RECAP 算法四步曲
这个四步流程是RECAP 算法标注回报→ 为离线数据添加 reward/return 标签训练价值模型→ 学会评估状态好坏计算优势→ 区分好/坏的数据点优化策略→ 基于优势信号提升策略让我深入分析训练价值模型的逻辑。首先查看核心代码文件。设计点实现方式优势价值表示分类分布（201 bins）支持多模态价值分布，提供不确定性损失函数Dirac delta 投影 + 交叉熵平滑处理连续价值的离散化视觉编码SigLIP 预训练模型强大的视觉特征提取语言编码Gemma3 预训练模型理解任务描述。
2026-07-10 17:19:34
491
原创 模型训练常用的o p
#。einops vs NumPy 维度操作：核心区别先一句话总结：NumPy 是完整数值计算库，自带基础维度变换 API；einops 是轻量化语法糖库，只做张量维度重塑/聚合/复制，语法统一、可读性碾压原生 numpy。以 通道换位举例缺点：数字索引抽象，维度多了很难看懂 代表什么。直接写维度名称，输入输出维度流向一目了然。目标：，patch=4einops一行搞定，逻辑和数学表达式一致。目标：压缩 H、W，得到 简单场景还行；多维度同时聚合、多段维度压缩时， 很难读。3. 复制扩维（
2026-07-08 17:32:41
360
原创 简单聊一下JAX
JAX在具身智能与模仿学习领域具有显著优势，其核心特性包括：1）原生XLA编译（JIT）和自动向量化（vmap）大幅提升VQ-VAE、扩散策略等模型的训练速度；2）函数式编程范式确保实验可复现性，特别适合电力巡检等需要严格验证的场景；3）自动微分系统高效处理复合损失函数；4）与Google/DeepMind生态深度整合，提供现成的时序加权loss等组件。Flax.NNX作为新一代神经网络库，采用类PyTorch的面向对象设计，同时保留JAX的编译优化能力，显著简化了VQ码本管理等复杂逻辑的开发。该技术栈特别
2026-06-30 09:45:26
414
原创 dit4dit世界模型推理过程问题
问题 ：如果真机被放在了一个比训练时高 10cm 的台子上，杯子的绝对坐标在真机坐标系下变成了 [0.5, 0.3, 0.3]，但模型依然预测 [0.5, 0.3, 0.2]，结果机器人抓到了空气。- 训练数据： action = [杯子位置 - 机器人当前位置] (即向量 [dx, dy, dz] ，例如 [-0.1, 0.0, -0.3]，表示向前移动10cm，向下移动30cm)。移动到这个姿态后再运行 --control ，若右臂动作突然"正常"，就确认了 OOD 根因。
2026-06-21 18:23:37
340
原创 OPENPi模型源码AI解读
层 AdaLN 条件作用 L0-L3 调制底层特征提取："当前状态是双臂张开 → 视觉注意力集中在桌面中央" L4-L8 调制语义融合："当前状态是已定位 → 文本 prompt 和图像更紧密对齐" L9-L14 调制动作规划："当前位置在 (x,y,z) → 规划路径从这里开始" L15-L17 调制最终输出："当前力传感器读数为 0 → 输出抓握前的动作"
2026-06-15 19:57:01
397
原创 智能体技术架构的深度解析：从模型层到应用层的金融实践
金融智能体技术正经历从工具化到体系化的转型，通过分层架构（模型层、中层编排、上层应用）实现金融业务智能化。模型层提供专业化API接口，中层Workflow引擎提升流程效率，上层应用聚焦智能投顾、风控等场景。多智能体协作系统实现跨领域协同，AIGC、强化学习等技术推动业务创新。未来金融智能体将向MaaS模式、低代码开发和全生命周期管理演进，在合规前提下持续提升金融服务的智能化水平。
2026-01-16 09:58:22
869
原创 智能体技术在金融行业的深度应用：架构设计与实践探索
在金融行业数字化转型的浪潮中，智能体技术正从概念验证阶段迈向生产级应用。本文从架构设计视角，深入分析通用型框架（LangChain、LangGraph、MetaGPT、RASA）与应用型框架（AgentScope、Qwen-Agent、CodeFuse-muAgent）在金融场景的适配性，探讨如何通过多智能体系统（MAS）构建符合金融行业合规性、实时性和安全性的智能应用体系。金融行业的智能体应用需要平衡技术创新与合规要求，通过合理的架构设计和多智能体协同，可以构建既智能又可靠的金融解决方案。
2026-01-16 09:30:16
184
原创 智能体技术调研：框架、范式与多智能体协同的深度探索
本文将深入探讨智能体框架的设计模式、多智能体系统（MAS）的核心特征，并通过"三国狼人杀"案例揭示多智能体协同的实践价值。例如，在RASA框架的NLU模块中，精心设计的提示词将自然语言转换为结构化数据，使智能体能够准确理解用户意图，广泛应用于客服、医疗和保险领域。在智能体开发中，设计模式决定了系统的灵活性和可扩展性。例如，在夜晚阶段，狼人智能体通过私下通知交换信息，而在白天讨论阶段，所有智能体参与公开咨询。通过角色分工，每个智能体专注于特定任务（如推理、欺骗或防御），系统整体表现出超越单智能体的能力。
2026-01-16 09:22:01
603
原创 浅析java编程优势略举一二
如果要执行的任务是计算密集型的并且没有IO操作，推荐使用并行流parallelStream，因为实现简单效率也高，其使用的线程池ForkJoinPool.commonPool()设置的线程数默认为CPU数量-1，可最大化利用CPU，CPU密集型任务各个线程都很忙碌(运行状态)，没有必要创建比核数更多的线程。对于问题3，由于在并行环境中任务的执行顺序是不确定的，因此对于依赖于顺序的任务而言，并行化也许不能给出正确的结果。applyToEither()：两个任务哪个执行的快，就使用哪一个结果，有返回值。
2023-12-18 16:45:08
1047
原创 聊一聊后端语言的差异和特性差异
假如有一个需求要实现一个统计的需求，可能不同的人会有不同的实现方式，最为掌握一门编程语言和掌握多门编程语言，以及一年工作经验的编程人员和多年的编程人员的实现思路肯定是不一样的。总结：对于同一个需求可能需要考虑基于现有编程语言的特性，已有手脚架等，在对扩展和性能以及编程规范等等进行达到最优的实现。例子一：要实现A表中某个条件下，a字段、b字段、c字段对应不同数值的出现次数。java的compute函数能统计map中出现的次数。
2023-12-18 15:56:00
648
原创 java编程规范-异常处理\mysql（阿里手册）
【强制】捕获异常是为了处理它，不要捕获了却什么都不处理而抛弃之，如果不想处理它，请。随意复制和粘贴代码，必然会导致代码的重复，在以后需要修改时，需要修改所有的副。【强制】业务上具有唯一特性的字段，即使是多个字段的组合，也必须建成唯一索引。另外，即使在应用层做了非常完善的校验控制，只要没有唯一索引，根据墨菲定律，必。【强制】异常不要用来做流程控制，条件控制，因为异常的处理效率比条件分支低。【强制】捕获异常与抛异常，必须是完全匹配，或者捕获异常是抛异常的父类。必要时抽取共性方法，或者抽象公共类，甚至是组件化。
2023-11-26 15:25:35
1398
原创 JAVA编程规范-集合、并发（阿里手册）
【强制】对多个资源、数据库表、对象同时加锁时，需要保持一致的加锁顺序，否则可能会造。这个变量是针对一个线程内所有操作共享的，所以设置为静态变量，所有此类实例共享。此静态变量 ，也就是说在类第一次被使用时装载，只分配一块存储空间，所有此类的对象。使用线程池的好处是减少在创建和销毁线程上所花的时间以及系统资源的开销，解决资。【强制】创建线程或线程池时请指定有意义的线程名称，方便出错时回溯。的处理方式让写的同学更加明确线程池的运行规则，规避资源耗尽的风险。体现的是适配器模式，只是转换接口，后台的数据仍是数组。
2023-11-26 14:11:05
1383
原创 设计模式之装饰模式
该变量的类型应当被声明为通用部件接口，这样它就可以引用具体的部件和装饰。装饰基类会将所有操作委派给被封装的对象。具体装饰类会重写装饰基类的方法，并在调用父类方法之前或之后进行额外的行为。（Concrete Component）类是被封装对象所属的类。是一种结构型设计模式，允许你通过将对象放入包含行为的特殊封装对象中来为原对象绑定新的行为。（Client）可以使用多层装饰来封装部件，只要它能使用通用接口与所有对象互动即可。（Component）声明封装器和被封装对象的公用接口。
2023-11-05 21:12:11
406
原创 设计模式之门面模式
在我们日常编码中也在无意中大量的使用着门面模式，例如ServiceA中调用其他多个Service的方法，然后再将ServiceA的方法暴露给Controller调用，ServiceA就相当于一个门面使得Controller能够间接的调用其他Service子系统，这也就是门面模式的一种应用。每个SubSystem都不是一个单独的类，而是一个类的集合。Laravel 中的门面是为应用的服务容器提供一个【静态】接口，相当于是服务容器底层类中的一个【静态代表】，能够提供更加灵活、易于测试、优雅的语法。
2023-11-05 15:15:27
467
原创 基于Azure OpenAI Service 的知识库搭建实验⼿册
是浮点数的⼀个向量，向量空间中两个嵌⼊之间的距离与原始格式的两个输⼊之间的语义相似性相关。延，建议将资源组以及内含的资源也创建在这三个数据中⼼之中。按钮，在弹出的新建资源组窗⼝中输⼊相关信息，包括资源组名称、订阅、区域等，区域选择美国东部。按钮，根据提⽰填写相关信息，包括名称、订阅、资源组、地区、定价层等，地区选择。为了回答⽤户的问题，它检索最相关的⽂档，然后使⽤。按钮，根据提⽰填写相关信息，包括名称、订阅、资源组、地区等，地区选择。按钮，根据提⽰填写相关信息，包括名称、订阅、资源组、地区等，地区选择。
2023-08-06 13:49:28
1477
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人