歪瑞马奇-优快云博客

原创 Course18:智能编码革命---AI 编程

Q：决策树，如果是根据静态数据，一次性制图，用千问+提示词+数据，也可以无代码做出相似的决策树图。比如类似一个负责设计架构，一个执行编码，一个写测试，一个review。如果是深层应用，比如承保，继保，理赔等，是否需要做垂直领域的模型训练及微调？Q：逻辑回归和决策树分别对训练集进行建模这个是保单续保的经验输出吧？哎，AI coding好用到爆，一个简易web有手就能搞定。先让LLM 了解当前的数据情况，再plan，再执行。Q：同一个模型下，怎么省token您可以讲讲吗？，宣称自研模型，性能超越。

2026-04-14 17:53:11 390

原创一千零一问：AI图文识别 VS 人类学习|后Transformer时代

视觉编码器是为了看懂（生成语义特征），它的输出是给AI“思考”用的。YOLO是为了看见（定位物体位置），它的输出是给人类或系统“操作”用的（比如自动驾驶要避开障碍物）。我没有“人物库”和“景点库”，我只有一个庞大的“世界概念库”。在这个库里，所有事物都是平等的数字向量。识别的过程，本质上就是在这个高维空间里做“最近邻搜索”，看这张图的特征最像哪个概念。维度当前的大模型真正的世界模型核心逻辑经验引擎：基于统计规律，预测下一个字/像素。理念引擎：基于物理规律和因果逻辑，推演未来。知识来源。

2026-04-07 00:29:05 500

原创 Course17：SGLang 深度优化：Radix 缓存与复杂任务的极致吞吐

PagedAttention：核心是分页式显存管理，解决 KV Cache 内存碎片化、按需分配的问题 RadixAttention：核心是前缀 KV Cache 共享复用，解决重复计算、冗余存储的问题两者都是为了优化 LLM 推理中 KV Cache 的内存效率与推理性能，但侧重点完全不同。PD 分离（Prefill/Decode 解耦）是当前大语言模型（LLM）推理服务的主流高性能架构，核心是将推理中两个计算特性完全不同的阶段拆分到独立的硬件 / 进程中执行，解决资源错配、相互干扰、延迟抖动等问题。

2026-03-29 23:27:09 482

原创 Course16：AI服务核心：高并发原理与性能监控调优

核心机制• 调度粒度：以 ** 单次迭代（生成一个 token）** 为单位进行调度，而非等待整个 batch 请求全部完成（Request-level）。• 核心流程：处理新请求：对新到达的请求计算所需显存块数并分配，加入当前 batch。前向传播：对 batch 内所有请求执行一次前向传播，各生成一个 token。清理完成请求：检查请求是否生成结束（EOS），若结束则立即释放其占用的显存块（PagedAttention），并从 batch 中移除。

2026-03-28 18:44:14 523

原创悟空：这个猴头不止有七十二般变化

写到这，最近那个大厂高薪聘请文科生做。

2026-03-19 00:05:36 436

原创 Course15：视觉大模型与多模态理解

文本 Token 是 “语言的最小语义单元”，图片 Token 是 “视觉的最小特征单元”—— 两者最终都会被映射到同一维度的向量空间，让模型能 “读懂” 图文的关联语义。文本 Token 是 “语言积木”，图片 Token 是 “视觉积木”，向量是 “积木的特征描述”，Qwen-VL 就是用这些积木拼出图文关联的逻辑。

2026-03-15 10:25:35 469

原创 Course14：LLM模型蒸馏与微调实操

模型蒸馏这是一种。

2026-03-10 16:17:32 433

原创 Course13：微调数据工程和评估

格式合规(20分):是否符合Alpaca/chat格式规范字段完整(20分):instruction/input/output字段是否齐全语言一致(15分):是否全为中文 -数据唯一(15分):重复率长度合理(15分):问答长度是否在合理范围 -多样性(15分):科室分布是否均衡。训练集:用于更新模型权重的数据=>喂给LoRA微调的数据。验证集:用于在训练过程中监控模型表现，调整超参数(如学习率)，以及进行模型选择(比如选择训练得最好的那个checkpoint)=>它不能用于最终的性能报告。

2026-03-07 16:31:38 396

原创 Course12： LLM微调原理

模型微调的类型高效微调的方法·LoRA的数学原理LoRA算法的核心假设矩阵分解与猜你喜欢SVD矩阵分解·微调数据准备数据质量与数量要求不同模型尺寸与场景的数据需求硬件需求与显存计算。

2026-03-04 11:56:41 423

原创 Course11：RAG调优

局部搜索通过扩展到其邻居和相关概念来推理特定实体的情况。适合回答细节/具体场景事件时间等。

2026-02-25 16:22:13 814

原创 Course 10：Transformer 入门解析

计算的时候需要用到矩阵Q(查询),K(键值),V(值)---通过 Self-Attention 的输入进行线性变换得到。Self-Attention 接收的是输入(单词的表示向量x组成的矩阵X) 或者上一个 Encoder block 的输出。

2026-02-21 18:02:15 914

原创 Course 09：开源生态和OpenAI的差异详解

一般来讲，LLM输出下一个字的选择面是10-15万选1（10-15万个概率的总误差）

2026-02-17 22:49:02 612

原创 Course 08：PyTorch入门与视觉检测

CNN (卷积神经网络) 是技术组件。它的功能只有一个：看图。它负责从图片里提取特征（比如一只猫，CNN 负责找出横线、竖线、眼睛、耳朵）。YOLO (You Only Look Once) 是解决方案/架构。它是一个设计精妙的算法框架。把这一堆 CNN 按照特定的顺序组装起来，不仅要看懂图，还要算出物体在哪个位置（坐标）。=> CNN 是砖块，YOLO 是用砖块盖起来的摩天大楼。

2026-02-15 16:28:16 725

原创 Demo 01：天池二手车价格预测赛--数据清洗&EDA

数据完整性：训练集(148429行×29列)和测试集(50000行×27列)均无缺失值，数据质量良好目标变量特征：价格分布呈强烈右偏（偏度3.25），均值(5695元)远高于中位数(2999元)价格对数转换后偏度改善为-1.07，更接近正态分布，适合建模使用价格范围：0.01-99999元，35527辆车价格<1000元（低价车占比24%）车辆基本特征：车龄：主要集中在5-15年，呈现明显的右偏分布里程数：大部分车辆里程为12.5-15万公里，分布相对集中。

2026-02-13 12:08:20 552

原创 Course 07：AI核心名词解释

Application Programming Interface（应用程序编程接口），它就是软件系统之间的 “翻译官” 和 “桥梁”，让不同的程序、服务、设备能够互相通信、交换数据、调用功能，隐藏内部细节，只暴露标准化的 “交互方式”。Tensor 是 TensorFlow 中数据的基本载体，可以理解为「多维数组」，对标 Python 的列表、NumPy 的 ndarray，用来存储模型的输入、输出、参数。**Fine-Tuning**：微调的英文表述，与微调含义一致，是模型适配下游任务的核心手段。

2026-02-11 11:58:10 826

原创 Course 06：神经网络基础与Tensorflow实战

一个神经元就是一个决策小单元。它接收很多上游传来的信号，同时它需要做一个“决定”：我收到的这些信息足够重要吗？我需要把这个信息继续往下传递吗？激活函数就是这个决策的“开关”。它将所有输入信号的加权总和作为输入，然后输出一个值。最简单的激活函数（阶跃函数）就像一个纯粹的开关：输入总和超过阈值，就输出1（兴奋=>传递）；否则输出0（抑制=>不传递）。

2026-02-09 20:55:31 860

原创 Course 05: HuggingFace生态：从模型应用到高效微调

模型不认识汉字或英文单词，它只认识数字。Tokenizer是人类语言和机器数字之间的桥梁。'我,爱','Hugging','##Face'Convert to IDs(转数字):[2769,4263,12890,8921]Output:模型接收的就是这串数字向量。Token是大型语言模型处理文本的最小单位。由于模型本身无法直接理解文字，因此需要将文本切分成一个个Token，再将Token转换为数字(向量)进行运算。不同的模型使用不同的“分词器”(Tokenizer)来定义Token。

2026-02-06 19:54:04 684

原创 Course 04: LangChain：多任务应用开发

DeepLearning.ai两年前视频里使用的 openai 库版本 ≥1.0.0，而代码中调用的 openai.ChatCompletion 是旧版（0.28 及以下）接口，已被移除；合作伙伴包独立成库，例如langchain-openai、langchain-anthropic，体积更小、升级更灵活。如果要构建自己的知识库，就需要各种类型文档的加载，转换，长文本切割，文本向量计算，向量索引存储查询等；ReAct流程，LLM思考步骤--规划步骤--执行--反思结果，需要自主决策和调用tool。

2026-02-04 18:04:26 821

weixin_54773480的博客