破壁者-燕-优快云博客

原创 Fall 2026 @ Carnegie Mellon University 11-768: AI Agents

CMU AI Agents 学习笔记：从 Agent 基本闭环延伸到 Planning、任务分解、模型路由与动态任务图，结合 Coding Agent 场景讨论交接、验证、证据失效及反馈重规划，并给出待执行的对照实验设计。

2026-11-07 05:00:47 343

原创 MLE-VLM

Visual Instruction Tuning（视觉指令微调）是在图像或其他视觉输入与自然语言指令共同构成的数据上，对多模态模型进行指令遵循训练，使模型不仅能够识别图像内容，还能够根据用户的问题选择合适的信息、组织回答并进行多轮对话。它和最初的 Vision-Language Alignment 不同：Alignment 主要解决视觉表示能否被语言模型有效使用，而 Instruction Tuning 进一步学习“面对不同视觉任务应该如何回答”。

2026-10-24 03:03:20 188

原创 MLE-SHAP (SHapley Additive exPlanations)

SHAP 的解释模型是线性的，不意味着原始模型必须是线性的即使原始模型具有高度复杂的非线性关系，我们仍然可以使用加性形式分配某个预测的贡献。

2026-10-23 02:52:35 102

原创 LLM Quantization

量化通过降低模型权重和激活值的精度（如FP16→INT8/INT4）减少内存占用与带宽需求，提升推理效率，但可能引入误差。PTQ无需训练，部署快；QAT通过模拟量化误差提升质量。GPTQ利用二阶信息补偿误差，AWQ基于激活统计保护关键通道，SmoothQuant则通过权重-激活协同优化实现W8A8量化。敏感层多为注意力投影与前馈网络。INT4未必提速，因受硬件支持、解量化开销等影响。KV缓存量化需评估质量、数值稳定性与性能。层级敏感性分析可定位薄弱环节。即使困惑度相近，工具调用准确率下降仍需关注结构化输出可

2026-10-23 02:05:51 217

原创 MLE 基础学习手撕 ml dl

【代码】MLE 基础学习手撕 ml dl。

2026-10-12 05:15:10 31

原创 CS229 Linear regression

根据nodes复习知识点 chatgpt 大哥挖掘面试问题。

2026-10-10 06:28:10 206

原创 MLE 基础学习Linear Algebra

记住两个几何意义，面试常考：点积 = |a||b|cosθ（测相似/投影），叉积的模 = |a||b|sinθ（测垂直分量，方向按右手定则）。在 Transformer 的 Scaled Dot-Product Attention 中，核心使用的是，本质上是高维向量间的点积（Dot Product）批处理运算。经典信号处理：通过正交投影进行声源分离（Blind Source Separation / Beamforming）在麦克风阵列与前端信号增强中，正交性最直接的用途确实是正交性主要用于。

2026-10-09 02:39:27 144

原创 MLE 高级 Large-scale matrix operations GPU

本文结合真实AI Infra workload 与公开面试经验，系统梳理GPU性能优化核心议题：从稀疏矩阵乘慢于密集GEMM、COO/CSR/CSC存储格式选择，到GNN内存瓶颈、邻居聚合优化与负载不均；深入解析算术强度、Roofline模型、计算/内存瓶颈判定；涵盖CUDA优化关键点如分块提升GEMM、合并访问、共享内存冲突、线程发散与占用率；并探讨BF16/FP16、INT8量化、FlashAttention加速机制、KV缓存计算、注意力架构（MHA/GQA/MQA）差异；最后分析数据并行、张量并行、流

2026-10-09 02:38:58 161

原创 MLE 基础学习 Transformer

能解释算法原理、给出必要的数学推导、估算计算与显存成本、描述 GPU 上的执行方式，并讨论真实系统中的 Trade-off需要从四个层次建立知识体系：Mathematical Foundations：为什么设计成这样？能否严格推导？有什么假设与局限？Model Architecture：数据怎样流过 Transformer？不同架构的计算量、参数量和表达能力如何？Hardware and Systems：算子如何映射到 GPU？

2026-10-08 22:54:00 222

原创 Python coding sliding window

滑动窗口核心在于维护一个动态区间 [left, right]，通过 right 扩张、left 收缩，结合状态（state）与有效性判断（valid/invalid condition）实现高效求解。关键在于明确窗口所代表的含义、需维护的状态（如 set、freq map、sum、zero_count 等）、valid 条件、收缩时机及答案更新时机。分为变长（Variable-size）与定长（Fixed-size）两类，典型模板分别为：扩张 → 更新状态 → 收缩至合法 → 更新答案；或加入右端 → 超限

2026-10-01 23:23:26 176

原创 Agent错误分析

Muse-Agent最危险的失败源于不确定性未消除时的执行，而非推理能力不足。当生成多个相似artifacts（如时政与科技新闻视频）时，系统因metadata区分度低、记忆与状态混杂、引用指代模糊等问题，导致“播放科技新闻”误播时政内容。根本症结在于：自然语言指代（如“那个”“前一个”）未能精准绑定唯一artifact ID。解决需分离语义记忆与结构化资源库，引入多维度评分机制（语义+结构+状态一致性），实现不确定性降低后再执行，避免盲目依赖LLM推断。

2026-09-27 21:31:43 282

原创 Python 环境

LangGraph Agent Workflow LangGraph 负责“Agent 内部怎么思考、怎么调用工具、怎么流转状态”。普通 Web、API、脚本项目很适合 FastAPI Flask Django CLI automation。缺点是它只主要管理 Python 层，底层 C/C++ library、CUDA、系统库等不太管。FastAPI FastAPI 负责“别人怎么调用你的 Agent”。优点是简单、轻量、Python 官方自带。这样FastAPI 接收到用户请求 {

2026-09-27 01:21:42 223

原创 Python coding + ML + general coding ability

链表核心在于指针操作而非索引访问。解题关键为：移动与重连节点。高频模式可归纳为五大基础模板：遍历（curr=curr.next）、找中点（慢快指针）、找倒数第K个（快先走K步）、反转（prev/curr/nxt三指针）、合并/删除（dummy/tail或prev.next）。复杂题多为这些原语的组合，如重排链表 = 找中点 + 切分 + 反转后半 + 交替合并。牢记：链表问题本质是链路重构，核心是修改 next 指针。

2026-09-23 22:19:23 165 1

原创 python

map()函数对可迭代对象中每个元素应用指定函数，返回一个惰性求值的迭代器。结合lambda可实现简洁的匿名函数操作，如map(lambda x: x*2, nums)。注意map迭代器仅可消费一次，且其惰性特性节省内存，适合处理大数据。常用于字符串转数字、排序键定义等场景，与列表推导式功能相似但更高效。

2026-09-23 21:26:50 154

原创大模型基础知识-LoRA与QLoRA

QLoRA (Quantized Low-Rank Adaptation) 是一种结合了模型量化和低秩适配的技术，旨在减少大规模预训练模型微调和部署的计算和存储成本。参数高效：通过这种方式，只需微调少量参数（即低秩矩阵的参数），而非整个模型的参数，从而大大降低了存储和计算成本。低秩适配 (LoRA)：在量化后的模型上应用低秩适配技术，仅微调少量附加的低秩矩阵，从而保持微调的高效性。低秩适配：在量化后的模型基础上进行低秩适配，通过引入低秩矩阵来进行微调，从而节省参数数量和计算开销。

2024-07-15 22:03:23 2658 1

原创 cuda version 管理--cuda pytorch 版本不匹配

不同项目设置不同的cuda版本 YYDS。

2023-12-14 05:15:45 991

原创 LLM 面试总结

网站瞅一瞅。

2023-11-13 03:29:07 461

原创 cuda PyTorch

如未安装，下载对应的cuda版本安装不要安装驱动下载对应的cudacuda pytorchcuda 下载Pytorch深度学习实战3-1：最新Windows/Ubuntu双系统Pytorch图文安装教程-优快云博客

2023-10-20 05:51:55 1711

原创 deep generative model

https://towardsdatascience.com/understanding-variational-autoencoders-vaes-f70510919f73

2023-09-21 20:51:01 219 1

原创 depth estimation datasets

nyu v2$ cd ~/workspace/bts$ python utils/download_from_gdrive.py 1AysroWpfISmm-yRFGBgFTrLy6FjQwvwP ../dataset/nyu_depth_v2/sync.zip$ unzip sync.zip

2023-09-21 20:50:16 186

原创 mac远程连接ubuntu-vnc

打开VNC Viewer，输入Ubuntu的ip地址和上面设置的密码。Mac端下载安装VNC Viewer。在终端安装X11vnc。ubuntu有显示器。

2023-09-21 20:49:47 1309

原创 High-Dimensional Data Analysis-Mayi

introduction_哔哩哔哩_bilibiliResources - EECS 208

2023-08-05 00:42:38 355

原创 DEEP LEARNING INTERVIEWS

DEEP LEARNING INTERVIEWS

2023-07-13 20:36:24 1929

原创 LLM-学习笔记

based LLM （我是聪明宝宝）0and instruction-tuned LLM (让聪明的宝宝青出于蓝而胜于蓝)走马观花一下大佬的建议 -Make Every Day Count。拿到你的key 玩一把。两倍加速囫囵吞枣一番。

2023-07-12 23:53:44 477

原创 DDPM 知识点

Generative Modeling by Estimating Gradients of the Data Distribution | Yang Song Score Matching 系列 (一) Non-normalized 模型估計 | 棒棒生

2023-07-10 21:40:22 250

原创 V2X: Trajectory-Prediction in the BEV space

Vision-based Intention and Trajectory Prediction in Autonomous Vehicles: A SurveyFirstly for all different kinds of source data, extract the features(map the raw data to a DL based latent space). In the latent space objective detection tracking predicts

2023-05-30 21:32:00 297

原创 fintune

【代码】fintune。

2023-03-09 05:42:50 254 1

原创 linux anaconda pycharm

linux pycharm anaconda

2023-01-01 10:15:56 280

原创 Setup Machine Learning Environment/OpenCV/TF On M1 Mac (Apple Silicon)

https://trayansh.medium.com/setting-machine-learning-environment-on-m1-mac-apple-silicon-959836bf494dsudo xcode-select --install/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"So if you haven’t config the

2021-06-25 05:00:01 211

原创 MacBook Air M1搭建TensorFlow /pytorch

https://zhuanlan.zhihu.com/p/343769603

2021-02-02 12:43:52 4304

原创 The Economist 2018-01-06

Protesters

2020-05-12 08:14:47 278

原创边缘计算学习笔记（1）

什么是边缘计算边缘计算，是一种分散式运算的架构。在这种架构下，将应用程序、数据资料与服务的运算，由网络中心节点，移往网络逻辑上的边缘节点来处理。云计算、雾计算、边缘计算这三个概念的比较：云计算云计算是一种利用互联网实现随时随地、按需、便捷地使用共享计算设施、存储设备、应用程序资源的计算模式。（IT届的共享经济）云计算的系统组成包括了云平台、云存储、云终端、云安全四个基础部分。...

2020-04-23 09:46:45 2752

原创小白学习---SM2加密算法

1.椭圆曲线首先了解一下椭圆曲线是个什么东西，椭圆曲线怎么实现加法运算和乘法运算的，椭圆曲线上的一点，怎么找到这点在椭圆曲线上的倍数。https://www.jianshu.com/p/96bbe37ce14d椭圆曲线示例2.在椭圆曲线上找到密码对儿首先将连续的椭圆曲线进行离散化，也就是对椭圆曲线上的点进行取模运算，余数相同的点暂时认为他们都是同类的点。还得理解一下采用二进制的方法计...

2020-03-12 11:10:48 3942

原创立体各种形式

单叶双曲面

2019-12-17 09:33:54 311

原创 2019年计算机视觉综述论文汇总

http://bbs.cvmart.net/topics/1276?from=timeline

2019-12-16 16:51:24 1536

原创 A Wavelet Tour of Signal Processing —— The Sparse Way--Third Edition 学习笔记-第一章

信号处理的小波导引：稀疏方法原书第三版打算学习一下这本书，就是它，盘它，买它，学习它！内容简介《信号处理的小波导引：稀疏方法（原书第3版）》全面论述了稀疏表示的重要概念、技术和应用，反映了该主题在当今信号处理领域所起的关键作用。作者在解释了稀疏的主要概念后将其运用于信号压缩、噪声衰减和逆问题，同时给出了冗余字典、超分辨率和压缩感知中的稀疏表示。本书既可以让应用数学系的学生了解数学公式的工...

2019-12-10 13:37:23 2130 1

原创 MOT-Machine Learning Methods for Solving Assignment Problems in Multi-Target Tracking

https://arxiv.org/pdf/1802.06897.pdf数据关联和轨迹间关联是单传感器和多传感器多目标跟踪中的两个基本问题，是NP-hard组合优化问题的实例，也被称为多维分配问题（MDAP）。在最近几年里，用数据驱动的方法去解决跟踪中的多维分配问题原来越流行。我们认为，将多目标跟踪看作一个分配问题，在概念上统一了为数据关联和轨迹间关联提出的各种机器学习方法。在这篇综述中，我们回...

2019-09-26 15:36:29 485

原创欢迎使用优快云-markdown编辑器

欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦：Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B 斜体 Ctrl + I 引用 Ctrl

2016-06-27 17:39:55 720