斯外戈的小蜗-优快云博客

原创【Qlib框架】因子定义层及整体框架(alpha因子库+数据预处理+模型预测+IC分析+回测backtestdaily+风险分析+交易质量分析）

数据读取—>因子表达层—>alpha158+alpha360—>数据预处理DataHandler—>模型预测—>IC分析—>回测体系(backtestdaily+风险分析+交易质量分析）”全流程总结。

2026-05-12 08:40:02 250

原创【Agent】LangChain1.0框架搭建智能体（工具定义+Agent记忆管理）

第一章：【Agent】大模型在线API接入基础入门第二章：【Agent】智能体基础入门(技术发展路线+TAO循环+function calling)第三章：【Agent】LangChain 1.0架构Agent智能体是一种以大语言模型（LLM）为"大脑"，能够自主感知环境、进行推理规划，并调用外部工具执行复杂任务的系统。它不仅仅是简单的程序，而是具备一系列高级特征的复杂系统。根据LangChain框架的定义，Agent的核心是以大语言模型（LLM）作为其推理引擎，并依据LLM的推理结果来决定如何与外部工

2026-04-21 10:37:43 520

原创【Qlib】数据源investment_data项目思路+数据集详解

一共有三个文件夹：calendars、features、instruments。其中，instruments为股票列表文件，包含所有A股列表（股票代码）；calendar日期，包含了day.txt（交易日）和day_feature.txt；features文件夹是按照股票代码进行分类的，每个股票代码中包含了10个特征bin文件。详解在第四章。├── instruments/ # 股票列表文件│ ├── all.txt # 所有股票列表。

2026-04-11 18:31:06 665

原创【Agent】LangChain 1.0框架介绍（含组件详解）

本文介绍了LangChain 1.0框架的核心概念与应用场景。主要内容包括：1）LangChain框架支持RAG问答系统、API调用、prompt流水线等应用；2）Runnable作为统一接口标准，支撑可组合的链式执行；3）模块化包结构设计，包含核心抽象层（langchain-core）、主应用逻辑（langchain）、社区集成（langchain-community）等组件。文章通过代码示例展示了Prompt和Tool的Runnable实现，并详细解析了各模块功能与依赖关系，为开发者构建基于大模型的智能

2026-04-07 19:01:26 475

原创【Agent】智能体基础入门(技术发展路线+TAO循环+function calling)

本文介绍了大模型Agent开发的基础入门与技术发展路线。主要内容包括：1) API接入基础，展示如何通过Python调用DeepSeek等大模型API；2) Agent技术演进历程，分析2023-2026年从概念验证到生产落地的四个阶段；3) 核心技术架构，重点讲解TAO循环(Think-Act-Observe)原理及其从思想链(CoT)到ReAct框架的理论发展；4) 当前技术生态，涵盖框架层、协议层和应用层的最新进展。文章指出，2025-2026年因模型能力、工具生态和编排框架的协同成熟，将成为Agen

2026-04-06 12:34:32 481

原创【Agent】大模型在线API接入

SDK（Software Development Kit，软件开发工具包）。SDK 是对 API 的封装,让开发者不需要手写复杂的 HTTP 请求,而是用简洁的代码就能调用 API。

2026-04-06 07:45:27 643

原创【Mini DeepSeek预训练实战】数据并行下载+多模态数据处理+数据预处理(step1&step2&step3&step4)+训练脚本

预训练是大语言模型构建过程中非常核心的环节。预训练本质是是一个“自监督学习”的过程，不需要人工给数据打标签（数据本身即是问题又是答案）。预训练的目标是：让模型通过海量文本，学习语言本身的统计规律、知识结构和世界模型。预训练的结果是：得到一个拥有基础能力和海量知识的基座模型(Base Model)，类似于将一个人放进巨大的图书馆，让他自己做“填空“和”接龙“题（自回归模型和掩码模型），让其无师自通学会语言和知识。尽管有众多开源模型，但是预训练还是非常重要的学习内容。这是因为：预训练能够弥补微调(Fine-tu

2026-03-03 16:48:14 589

原创【DeepSeek创新点】基础介绍+MLA+MoE+量化+管道并行

DeepSeek是深度求索公司推出的一些列创新型架构的总称，这一系列模型包括通用大语言模型DeepSeek v3，推理大模型DeepSeek R1，以及系列基于R1模型完成蒸馏的小型模型群。DeepSeek系列模型以其超高性能、超低成本立足于市场，不仅很快激了中国大模型落地狂潮，也在全世界范围内掀起了基于强化学习的新一轮大模型创新。DeepSeekv3、R1、蒸馏，彼此之间是什么关系？DeepSeek v3模型。

2026-03-01 10:25:45 696

原创【多模态】CILP架构(图像编码器Modified Resnet+ViT&文字编码器+图文相似度计算+损失函数)

多模态大模型（Multimodal Large Model）是一种能够处理和理解多种模态数据的人工智能模型。模态指的是数据的表现形式，例如文字、图像、音频、视频等。多模态大模型通过结合不同模态数据的特性，利用深度学习技术和大规模的训练数据，构建一个统一的框架来实现跨模态的感知、理解和生成能力。例如，一个多模态大模型可以同时处理文本描述和对应的图片，完成图像生成、描述生成、跨模态检索等任务。这种模型的核心是利用不同模态之间的互补性，通过信息的融合和关联增强模型的表现能力，克服单一模态信息不足的问题。学习多模态

2026-01-28 17:13:11 724

原创【LLM】简化版ChatGPT架构( Axial Positional Encoding + FNN with GLU + Macaron Attention + ReZero Residual)

示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。图中橘色方框内的是Macaron注意力机制的结构。它由前馈神经网络和注意力机制改进而成，主要应用于长序列建模任务。它最初由 Microsoft 研究团队在“Macaron Net: Integrating Feedforward and Recurrent Networks for Long-Term Sequence Modeling”一文中提出。Macaron 结构被证明在自然语言处理、语音识别等任务上表现出色。

2026-01-21 17:12:36 973

原创【LLM】完整LLaMA架构的搭建

搭建完整架构时、除了串联其并行化在深度学习模型的训练中至关重要，特别是当模型架构需要与 DeepSpeed 和 Hugging Face 等库的分布式训练或并行功能相结合时。为了实现这一目标，我们需要首先了解数据并行（Data Parallelism）和模型并行（Model Parallelism）这两种主要的并行方式，并明确架构中哪些关键部分与这些并行策略相关联。

2026-01-16 18:36:59 850

原创【LLM】LLaMA架构（RMSNorm+ KV cache+Rotary Positional Encodings+门控FFN+MoE）

LLaMA: Open and Efficient Foundation Language Models》论文地址：https://arxiv.org/abs/2302.13971LLaMA并非一个全新的、从零开始设计的架构。它巧妙整合并验证了多个当时业界公认的最高效的Transformer改进方案。预归一化：使用RMSNorm层进行归一化，提高训练稳定性。SwiGLU激活函数：替代传统的Relu，提升模型表达能力。旋转位置编码：使用RoPE，能更好地处理长序列。

2026-01-16 13:13:53 1305

原创【NLP】Hugging Face使用指南

随着人工智能领域的发展，模型的体量逐渐增长、数据的体量逐渐增长、在实践中应用复杂的人工智能算法的需求日益增加，越来越多的开发者会倾向于直接使用经过预训练和封装的成熟NLP算法，而非自行构建复杂的transformers或tokernizer架构。

2026-01-07 17:42:39 1226

原创【NLP】Transformer在pytorch 的实现+情感分析案例+生成式任务案例

定义PositionalEncoding类，用于为输入添加位置信息# 有transpose，代表默认输入数据形状为(seq_len, batch_size, d_model)# 如果输入结构为(batch_size, seq_len, d_model)，则不需要transposeelse:# 如果batch_first，则需要截断的是中间的维度# 且用于中间维度截断的维度是seq_lenelse:# 如果没有batch_first，需要截断的是第一个维度return x。

2026-01-04 17:49:55 1151

原创【NLP】深入浅出Transform(上)原理部分

由于没有了编码器-解码器注意力层，因此原本依赖于编码器-解码器注意力层完成的整套训练和运算流程也都不再有效了，相对的，在Decoder-only结构中的Decoder大部分时候都采用“自回归”的训练流程——自回归流程在时间序列预测中是一种常用的方法，它逐步生成未来的值，每一步的预测依赖于前一步的实际值或预测值。在机器翻译中，会考虑到原始语言系列中的样本对于新生成的序列中有多大的影响，因此计算的是原始序列的样本之于新序列的重要程度。计算样本与样本之间的相关性，本质就是计算向量与向量之间的相关性。

2025-12-23 17:08:54 1130

原创【NLP】LSTM架构

提示：持续更新。

2025-12-10 16:36:33 279

原创【NLP】one-hot到word2vec发展路线

对于L来说，计算L，对于一对(vt，vc)来说，需要计算b次点积(b是词向量的特征个数：n-dim)，复杂度为O(b)，对于一对(vt，vc)来说，需要计算k个负样本的概率值，也就是计算k次，总时间复杂度为O(kd)—>O(1)。但是此时的Lbound下界是一个得分，但我们最终要计算的是一个概率，那就需要给这个L得分套上一个sigmoid激活函数，再取对数值，起到一个放大差异的作用，最终我们需要有一个可收敛的目标，即给概率值加一个负号，由此可以得到0是我们最终要靠近的目标值。

2025-12-08 18:01:32 1033

原创【NLP】手撕RNN网络+RNN情感分类任务+RNN生成式任务

重点了解正向传播中的递归中的数据流向，反向传播的梯度更新。输入数据格式为:(seq_len, batch_size, input_dim) 。二、RNN情感分类任务情感分类(Sentiment Classification)，是自然语言处理(NLP)中的一个经典任务，旨在对文本进行情感分类，通常包括将文本氛围“正面”、“负面”或“中性”等情感类别。IMDb数据集是情感分类任务的著名数据集，包含来自电影评论的文本数据，并标记为正面或负面情感，因此可以用于训练和评估情感分类模型。IMDb数据集的主要特点：手

2025-11-24 19:25:34 853

原创【NLP】基础概念+RNN架构

本文概述了NLP（自然语言处理）的发展历程及其在人工智能领域的重要性。文章指出，认知智能是人工智能的终极目标，而NLP是实现人机同频交流的关键。从早期的规则驱动方法到如今的Transformer架构和大语言模型（LLMs），NLP经历了探索、提升和应用三大阶段。当前大模型时代的核心方向包括研发训练技术、降低成本以及商业应用落地。NLP不仅在学术界持续繁荣，也在工业界催生了大量创新产品，深刻改变了人工智能的发展格局。

2025-11-23 17:34:50 899

原创【pytorch图像视觉】lesson17(上)数据篇：认识经典数据+使用自己的数据/图片创造数据集+图片数据的基本与处理与数据增强

内容来源于【菜菜&九天深度学习实战课程】上班以后时间少，为了提高效率，通过抄课件的方式加深记忆，而非听课。所以所有笔记仅仅是学习工具，并非抄袭！在传统机器学习中，通常会区分有监督、无监督、分类、回归、聚类等人物类别，在不同的任务重会指向不同形式的标签、不同的评估指标、不同的损失函数，这些内容会影响我们的训练和建模流程。在深度视觉以外，除了区分“回归、分类”之外，还需要区分众多的、视觉应用类别。

2025-04-13 17:06:19 1408

原创【python开发】必备SQL和表关系及授权

在上述表中，一对多的info.depart_id字段、多对多的boy_girl.boy_id、boy_girl.girl_id直接用整型存储就可以，因为他们只要存储关联表的主键ID即可。在开发中往往还会为他们添加一个外键约束，保证某一个列的值必须是其他表中的特定列已存在的值，例如: info.depart_id的值必须是depart.id中已存在的值。增加一个v3字段，当depart_id=1时，v1字段的值为第一部门，当depart_id=2时，为第二部门，else为“其他”；

2024-04-15 17:31:45 1787

原创【python开发】安装&配置&启动+数据库管理+表管理+数据行管理+python操作Mysql及相关安全的问题

安装好之后打开终端，输入which mysql，回车查看mysql安装路径/usr/local/mysql/bin/mysql，然后输入/usr/local/mysql/bin，进入到mysql中，输入mysql -u root -p，弹出输入密码的提示，然后输入mysql密码，这就已经启动了mysql。如果需要启动mysql，只需要打开终端输入mysql -u root -p，如果不使用mysql了就可以输入exit退出系统。（3）重庆之后无需密码就可登陆 mysql -u -root -p;

2024-03-22 14:15:37 2850

原创【python开发】Mysql功能作用+数据库管理系统的种类+学习路线

数据库管理系统（DBMS）专注于帮助开发者解决数据存储的问题，这样开发者就可以把主要精力放在实现业务功能上了。也可以将程序和数据库管理系统拆开放在不同的电脑上。可以在同一个电脑上安装程序和数据库管理系统。

2024-03-21 14:05:20 566

原创【python开发】并发编程和网络编程的结合+并发和并行概念区别+单例模式通过类来实现

并发编程和网络编程的知识点补充

2024-03-20 17:02:14 619

原创【python开发】并发编程（下）

passp1.start()也可以把多进程放在函数里，用main函数来运行。passdef run():p.start()run()fork：可以拷贝几乎所有资源，支持文件对象/线程锁等传参，unix系统适用，任意位置开始；spwan：run参数必备资源，不支持文件对象/线程锁等传参，unix、win适用，main代码模块开始；forkserver：run参数必备资源，不支持文件对象/线程锁等传参，部分unix适用，main代码模块开始。

2024-03-18 11:57:12 1190

原创【python开发】并发编程（上）

进程是计算机资源分配的最小单元（进程为线程提供资源）。一个进程中可以有多个线程，同一个进程中的线程可以共享次过程中的资源。一个进程中可以有多个线程，同一个进程中的线程可以共享此进程中的资源。’:主方法，为什么不能跟多线程一样用for循环来实现（会报错），因为Linux系统只能支持fork，win系统可以只是spawn，mac支持fork和spwan（python3.8默认设置spawn）。当然，在程序开发中多线程和多进程可以结合使用，例如创建两个进程（进程个数和CPU个数相同），每个进程中创建3个线程。

2024-03-13 11:58:15 1215

原创【python开发】网络编程（下）

用户数据协议，是一个无连接的简单的面向数据包的传输层协议，客户端和服务端不需要提前建立连接，客户端可以直接向服务端发送数据即可。）传输控制协议，是面向连接的协议，也就是说在收发数据之前，必须和对方建立可靠的连接，然后再收发数据，这种情况下会确保客户端收到服务端的信息，如果未收到“已经接受到”的信息，服务端会再次发送信息。在电脑和电脑之间进行数据传输时，往往将数据包装为7层，分别为数据层、应用层、表示层、会话层、传输层、网络层、数据链路层、物理层。协议：规定连接、收发数据的一些规定。

2024-03-05 09:59:37 532

原创【python开发】网络编程（上）

交换机在局域网内，通过广播的形式实现了电脑的通信：当2号电脑给3号电脑发消息时，电脑会打包一个数据信息，包括头部信息和发送数据，其中，头部信息包括了本机IP和mac地址以及目标机台的IP和mac地址，信息包传递到交换机上，交换机会以广播的形式传送给每天机器，所有的电脑就会进行校验，查看该信息包是否是传送给自己的，当目标机器3号收到信息时，也会给2号信息传递一个已经收到的信息，同样是通过交换机以广播的形式进行传递。所以不同的局域网之间传递信息，将通过网关检查网段是否正确，然后通过交换机传递到目标电脑上。

2024-03-01 17:36:08 1219

空空如也

空空如也