<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[weixin_36128607的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/weixin_36128607</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; weixin_36128607]]></copyright><item><title><![CDATA[五十三.模型融合]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/135459610</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/135459610</guid><author>weixin_36128607</author><pubDate>Mon, 08 Jan 2024 15:59:47 +0800</pubDate><description><![CDATA[西瓜书中提出，集成学习的基学习器可以是同质的，也可以是异质的。就工业界来说，一般默认的RF、xgboost、catboost、lightGBM都是同质学习器。其中RF为stacking，基学习器为决策树，理论上可以异质；后三种为boosting，基学习器可改变，但依然是同质。根据子模型之间有没有关系，可以分为相关（boosting第i个子模型依赖于第i-1个子模型）和独立（stacking每个子模型是相互独立的）。相关的话，只能实现串行算法。独立的话，可以并行实现。]]></description><category></category></item><item><title><![CDATA[五十二.PPO算法原理和实战]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/132363222</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/132363222</guid><author>weixin_36128607</author><pubDate>Mon, 18 Sep 2023 19:46:06 +0800</pubDate><description><![CDATA[的，这要求从初始状态或从时刻。]]></description><category></category></item><item><title><![CDATA[五十一.DQN原理和实战]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/132334537</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/132334537</guid><author>weixin_36128607</author><pubDate>Mon, 18 Sep 2023 19:45:30 +0800</pubDate><description><![CDATA[经典强化学习方法的共同点是它们的求解过程都要，策略函数也可以通过一个表格来表示，所以也称这些方法为。，这类强化学习任务只占所有强化学习任务的很小一部分，，用经典强化学习方法很难求解。其次，表格的表征容量也是有限的，即使强化学习任务的状态和动作空间离散，如果状态-动作空间极大，则表格法也无能为力。其实，表格只是值函数和策略函数的一种表征方式，适用于小规模离散情况，，例如用深度神经网络来表征值函数或策略函数，这正是深度强化学习的由来。本章考虑状态空间连续、动作空间离散的强化学习任务。假设环境。]]></description><category></category></item><item><title><![CDATA[五十.Q-learning算法和实现]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/132318046</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/132318046</guid><author>weixin_36128607</author><pubDate>Mon, 18 Sep 2023 19:45:16 +0800</pubDate><description><![CDATA[Q-learning是一种即model-free RL的形式，它也可以被视为异步DP的方法。它通过体验行动的后果，使智能体能够在马尔可夫域中学习以，而无需构建域的映射。。通过反复尝试所有状态的所有行动，它可以通过长期折扣奖励来判断总体上最好的行为。使用ϵ−greedyϵ−greedy⎩⎨⎧​​RandomActionifpϵargamax​Qsaifϵp1​QSA←QSARsaγa。]]></description><category></category></item><item><title><![CDATA[四十九.强化学习基础]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/132119292</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/132119292</guid><author>weixin_36128607</author><pubDate>Mon, 18 Sep 2023 19:44:07 +0800</pubDate><description><![CDATA[1. 强化学习基础知识
1.1 强化学习简介
机器学习分为监督学习，非监督学习，强化学习（RL）。深度学习+强化学习即为深度强化学习（DRL）。
强化学习没有事先准备好的数据标签作为监督来指导学习过程，只有奖励值，通常是延后给出。
1.2强化学习的分类
从不同的角度来看，强化学习有四种分类方法。
1.2.1model-base和model-free
mode-base:状态转移概率（state transitional probability）已知。
model-free：状态转移概率（state tran]]></description><category></category></item><item><title><![CDATA[四十八.图卷积网络（GCN）]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/124152188</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/124152188</guid><author>weixin_36128607</author><pubDate>Sat, 05 Aug 2023 13:52:55 +0800</pubDate><description><![CDATA[1.卷积神经网络
CNN 在图像识别等任务中具有重要作用，主要是因为 CNN 利用了图片（信号）在其域中的局部平移不变性。由于图结构不存在平移不变性，所以 CNN 无法直接在图上进行卷积。
1.1局部平移不变性
CNN 之所以能成为图像领域的明珠却很少应用于其他领域原因是：「图片是一个规整的二维矩阵」，无论卷积核平移到图片中的哪个位置都可以保证其运算结果的一致性，这就是我们所说的「局部平移不变性」。CNN 的卷积本质就是利用这种平移不变性来对扫描的区域进行卷积操作，从而实现了图像特征的提取。
而网络是不规整]]></description><category></category></item><item><title><![CDATA[四十七.模型和正态分布(BoxCox)]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/124042701</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/124042701</guid><author>weixin_36128607</author><pubDate>Mon, 18 Apr 2022 09:49:56 +0800</pubDate><description><![CDATA[1.为什么数据要服从正态分布
在深度学习和机器学习中，我们通常希望数据的分布为正态分布，因为在机器学习中，许多模型都是基于数据服从正态分布的假设（例如线性回归，它假设模型的残差服从均值为0方差为σ^2，标准化残差服从均数为0，方差为1 的正态分布）。因此，具有正态分布的数据会对模型的训练效果有着较为显著的提升。
2.BoxCox变换
对于不符合正态分布的特征，除了对数变换等，最常用的就是BoxCox变换。
BoxCox变换是一个变换族。

...]]></description><category></category></item><item><title><![CDATA[四十六.风控评分卡模型关键点理解]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/123397184</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/123397184</guid><author>weixin_36128607</author><pubDate>Sat, 09 Apr 2022 00:00:00 +0800</pubDate><description><![CDATA[风控评分卡模型一.评分卡模型选择
一.评分卡模型选择
评分卡模型一般会选择线性模型，逻辑回归是一种广义线性模型，评分卡中使用的就是逻辑回归，为什么要用逻辑回归模型？
银行决定是否给个人或企业贷款的关键因素是对未来违约概率的预测，而逻辑回归能将特征信息投射到一个概率区间，

...]]></description><category></category></item><item><title><![CDATA[四十五.门控循环单元(GRU)简介和keras实现]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/120128609</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/120128609</guid><author>weixin_36128607</author><pubDate>Tue, 07 Sep 2021 22:13:33 +0800</pubDate><description><![CDATA[目录1.网络结构(1)记忆体hth^{t}ht(2)候选状态ht^\widehat{h^{t}}ht(3)重置门和更新门
1.网络结构
U是LSTM的一种变体，可以说是简化版本的LSTM，但是预测效果也很不错，因此更常用。
GRU使记忆体hth^{t}ht融合了长期记忆和短期记忆。
(1)记忆体hth^{t}ht
ht=zt⊙ht−1+(1−zt)⊙ht^
h^{t}=z^{t}\odot h^{t-1}+(1-z^{t})\odot \widehat{h^{t}}
ht=zt⊙ht−1+(1−zt)⊙ht]]></description><category></category></item><item><title><![CDATA[四十四.长短期记忆网络(LSTM)过程和keras实现股票预测]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/120042706</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/120042706</guid><author>weixin_36128607</author><pubDate>Sat, 04 Sep 2021 11:05:27 +0800</pubDate><description><![CDATA[目录1.概述2.LSTM结构(1)短期记忆(2)长期记忆(细胞态)(3)输入门、遗忘门、输出门
1.概述
传统循环网络RNN可以通过记忆体实现短期记忆进行连续数据的预测。
但是，当连续数据的序列变长时，会使展开时间步过长，在反向传播更新参数的过程中，梯度要按时间步连续相乘，会导致梯度消失或者梯度爆炸。
LSTM是RNN的变体，通过门结构，有效的解决了梯度爆炸或者梯度消失问题。
LSTM在RNN的基础上引入了三个门结构和记录长期记忆的细胞态以及归纳出新知识的候选态。
2.LSTM结构
(1)短期记忆
短期记忆]]></description><category></category></item><item><title><![CDATA[四十三.用RNN进行股票预测]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/120013778</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/120013778</guid><author>weixin_36128607</author><pubDate>Tue, 31 Aug 2021 11:25:24 +0800</pubDate><description><![CDATA[#载入数据
import pandas as pd
maotai = pd.read_csv('./SH600519.csv')#读取茅台股票文件
print(maotai.shape)
输出：
(2426, 8)

#划分训练集和测试集
training_set = maotai.iloc[0:2126, 2:3].values  #提取0-2125列的第2行作为训练集
test_set = maotai.iloc[2126:, 2:3].values  # 后300天的开盘价作为测试集
print(tr]]></description><category></category></item><item><title><![CDATA[四十二.循环神经网络(RNN)原理]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/119726920</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/119726920</guid><author>weixin_36128607</author><pubDate>Mon, 30 Aug 2021 12:21:39 +0800</pubDate><description><![CDATA[目录1.网络结构
1.网络结构
全连接网络和卷积网络都属于前向反馈网络，模型的输出和模型本身没有关联。而循环神经网络的输出和模型间有反馈。
t时刻网络结构：


]]></description><category></category></item><item><title><![CDATA[四十一.ResNet18]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/119564222</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/119564222</guid><author>weixin_36128607</author><pubDate>Tue, 10 Aug 2021 10:50:19 +0800</pubDate><description><![CDATA[目录1.数据预处理(1)数据预览(2)归一化处理2.预测(1)搭建残差块(2)搭建ResNet18网络(3)预测
1.数据预处理
(1)数据预览
训练集和测试集一共60000个样本，每个样本都是32×32×332\times 32\times 332×32×3的RGB图像，样本值0-255，标签有10种类别。
from tensorflow.keras.datasets import cifar10
from collections import Counter
import numpy as np
(x_]]></description><category></category></item><item><title><![CDATA[四十.深度残差网络原理]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/119297431</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/119297431</guid><author>weixin_36128607</author><pubDate>Tue, 03 Aug 2021 16:26:28 +0800</pubDate><description><![CDATA[目录1.梯度爆炸与梯度消失
1.梯度爆炸与梯度消失

]]></description><category></category></item><item><title><![CDATA[三十九.卷积神经网络实现cifar10分类]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/119297299</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/119297299</guid><author>weixin_36128607</author><pubDate>Sun, 01 Aug 2021 13:43:45 +0800</pubDate><description><![CDATA[目录1.数据预处理(1)导入数据(2)数据预览(3)数据标准化(4)样本展示2.预测(1)搭建模型(2)配置网络(3)断点存续(4)训练网络3.ACC曲线图与Loss曲线图
1.数据预处理
(1)导入数据
from tensorflow.keras import datasets
cifar10 = datasets.cifar10
(x_train,y_train),(x_test,y_test)=cifar10.load_data()

(2)数据预览
from collections import C]]></description><category></category></item><item><title><![CDATA[三十八.卷积神经网络原理]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/119066041</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/119066041</guid><author>weixin_36128607</author><pubDate>Thu, 29 Jul 2021 01:15:36 +0800</pubDate><description><![CDATA[目录1.卷积(1)二维卷积
1.卷积
(1)二维卷积
在信号处理中，二维卷积定义为下：

]]></description><category></category></item><item><title><![CDATA[三十七.使用TF2中的深度神经网络模型预测mnist数据集]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/119056466</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/119056466</guid><author>weixin_36128607</author><pubDate>Sat, 24 Jul 2021 12:52:12 +0800</pubDate><description><![CDATA[目录1.数据预处理(1)数据集预览(2)标准化和数据维度调整(3)图片增强2.模型搭建与训练(1)模型搭建(2)断点存续(3)开始训练(4)模型结构信息3.图示效果4.预测(待续)
1.数据预处理
(1)数据集预览
#训练集60000个样本，测试集10000个，样本特征值的范围0-255，类别一共有10种
import tensorflow as tf
from collections import Counter
(x_train,y_train),(x_test,y_test) = tf.keras.d]]></description><category></category></item><item><title><![CDATA[三十六.动量法和优化方法的原理]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/119003890</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/119003890</guid><author>weixin_36128607</author><pubDate>Fri, 23 Jul 2021 16:04:58 +0800</pubDate><description><![CDATA[目录1.动量法
1.动量法
动量是物理学中的概念，一般指物体在它运动方向上保持运动的趋势，是该物体质量和速度的乘积。
在深度学习中，动量法是用之前积累动量来代替真正的梯度，这样，每个参数实际更新差值取决于最近一段时间内梯度的加权平均值。
当某个参数在最近一段时间内的梯度方向不一致时，参数更新幅度变小；梯度方向一致时，更新幅度变大，起到加速作用。
一般而言，在迭代初期，梯度方向比较一致，动量法会起到加速作用；在迭代后期，梯度方向会不一致，在收敛值附近震荡，动量法起减速作用，增加稳定性。
动量法的一般形式：
(]]></description><category></category></item><item><title><![CDATA[三十五.常用激活函数总结]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/119002091</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/119002091</guid><author>weixin_36128607</author><pubDate>Thu, 22 Jul 2021 16:40:30 +0800</pubDate><description><![CDATA[目录1.Sigmod函数(1)公式(2)TF2调用sigmod2.Tanh函数(1)公式(2)TF2调用Tanh3.Relu函数(1)公式(2)TF2调用Relu
1.Sigmod函数
(1)公式
f(x)=11+e−x
f(x)=\frac{1}{1+e^{-x}}
f(x)=1+e−x1​
可以将数据映射到(0,1)(0,1)(0,1)区间。
缺点：
a.易造成梯度消失。
b.输出非0均值，收敛慢。
c.幂运算复杂，训练时间长。
(2)TF2调用sigmod
import tensorflow as t]]></description><category></category></item><item><title><![CDATA[三十四.学习率调整原理和实现]]></title><link>https://blog.youkuaiyun.com/weixin_36128607/article/details/118971595</link><guid>https://blog.youkuaiyun.com/weixin_36128607/article/details/118971595</guid><author>weixin_36128607</author><pubDate>Thu, 22 Jul 2021 10:58:09 +0800</pubDate><description><![CDATA[目录1.学习率衰减(1)简介(2)常用公式(3)指数衰减学习率的实现2.待总结
1.学习率衰减
(1)简介
从经验上看，学习率在一开始要保持大些来保证收敛速度，在收敛到最优点附近时要小些以避免来回震荡。
比较简单的学习率调整可以通过学习率衰减来实现。
(2)常用公式
假设初始学习率为α0\alpha _{0}α0​，第ttt轮的学习率为αt\alpha _{t}αt​，常见的学习率衰减函数有一下几种：
a.逆时衰减
αt=α011+βt
\alpha _{t}=\alpha _{0}\frac{1}{1+\]]></description><category></category></item></channel></rss>