weixin_63414631的博客

原创 什么是Xavier初始化

它的名称来自于发明者的名字，旨在解决深度神经网络训练过程中权重矩阵初始化的问题。这个方法假设网络输入和隐藏单元数相等，并计算出使得网络在随机梯度下降学习初期能够以相同的速率更新前向传播和反向传播的权重分布。Xavier初始化的核心思想是让输入信号的方差在整个网络中保持一致，这有助于避免梯度消失或爆炸的问题。：通过合理设置权重和偏置的初始值，使得每一层神经元的输出方差与输入方差大致相同，从而保持信号在前向传播过程中的稳定性。

原创 小根堆出堆时如果遇到相同大小的

self.order = next(count)#记录顺序。# 首先比较权重，如果权重相同，则比较顺序。通过order记录创建顺序，使用lt函数先来先出。class NodeType:#优先队列节点类型。

原创 python在创建小根堆时要新建一个类

否则每次入栈的都是同一个对象，会出错。

原创 Python数据处理时出现缺失问题

源数据all_features里面有一个特征叫“MasVnrType（通常指的是：房屋的外部砌体类型，可以取BrkCmn: 表示砖石/水泥混凝土块砌体；BrkFace: 表示砖石/水泥混凝土表面层；CBlock: 表示水泥块；None: 表示没有外部砌体。解决：考虑将MasVnrType特征中取值为None的元素标记成一个不同的值，比如 “None_fea”，以明确表示这是一个有意义的取值而不是缺失值。有些python版本会把NA和None都视为缺失值，这导致None类型被错误理解为缺失值。

原创 代码报错DataLoader worker (pid(s) 6280, 16680, 16376, 14964) exited unexpectedly

代码前加d2l.use_svg_display()

原创 解决CondaHTTPError:HTTP 000 CONNECTION FAILED for url＜https://mirrors.tuna.tsinghua.edu.cn/anaconda***

原创 cmd窗口闪退（卸载Miniconda后出现）

后，打开目录\HKEY_CURRENT_USER\Software\Microsoft\Command Processor找到AutoRun，将数值数据中的if exist删除，点击确定即可。win+r，输入regedit，进入。

原创 pip安装时出现：INFO: This is taking longer than usual. You might need to provide the dependency resolver w

pip install --upgrade pip

原创 没有这样的运算符torchvision::nms

【代码】没有这样的运算符torchvision::nms。

原创 白话机器学习的数学总结

分类：求权重向量，使权重向量成为法线向量的直线。设权重向量为w=（1,1），w*x=w1x1+w2x2，移项变形之后表达式变成x2=-x1了，这就是斜率为-1的直线。一开始并不存在直线，而要通过训练找到权重向量，才能得到与这个向量垂直的直线，最后根据这条折现对数据进行分类。逻辑回归：解决线性不可分的问题，将分类作为概率进行考虑，为求得正确的参数theta而定义目标函数进行微分，然后求参数的更新表达式。回归问题的验证：由于回归是连续值，所以可以从误差入手，但是在分类中药考虑分类的类别是否正确。

原创 python如何创建一个内容为0到n-1（n为另一个数组的长度）的数组

times=np.arange(len(meanSquaredError))

原创 为什么参数更新表达式中伊塔的符号为负号

因为要与误差函数的导数的符号相反的反向移动x，使得误差沿最小值的方向前进。

原创 python pip 国内地址

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple 包名称。

原创 逻辑回归中为什么正则化要加负号？/损失函数是什么？

逻辑回归的损失函数：逻辑回归中使用的损失函数是对数损失函数。对数损失函数是基于极大似然估计推导出来的，它能够衡量分类任务中预测概率与真实标签之间的差异，越小越好。在逻辑回归中，正则化项前加上负号是为了将最大化似然函数的问题转化为最小化损失函数的问题，同时也为了保持损失函数的凸性质。通过引入正则项，可以限制模型参数的大小，从而降低模型复杂度，提高模型在新数据上的泛化能力。

原创 最小二乘法与多项式回归

在线性回归中，使用一次函数（直线）来拟合数据，形式为 y=ax+by=ax+b。然而，在现实世界中，很多关系并非完全线性的。多项式回归的核心思想是通过增加自变量的幂次来构建更复杂的模型。例如，二次多项式回归模型的形式为 y=ax2+bx+cy=ax2+bx+c，三次多项式回归模型的形式为 y=ax3+bx2+cx+dy=ax3+bx2+cx+d。

原创 微分和偏微分的区别：

微分：微分通常指的是函数相对于一个自变量的微小改变引起的函数值的改变。通常用dd表示，如df(x) 或 dy表示函数f(x)关于x的微分。在图形上，微分可以解释为函数曲线在某一点的切线斜率，代表函数在该点的瞬时变化率。 偏微分：偏微分扩展了微分的概念到多元函数，当对其中一个变量求导时，其他变量被视为常数。使用∂表示，如∂f/∂x​表示函数f(x,y)关于x的偏微分，其中y视为常数。对于多元函数，每个点的偏微分是曲面在该点沿着某一坐标轴方向的切线斜率。

原创 单例模式、工厂模式含义与作用

作用：大批量创建对象的时候有统一的入口，易于代码维护，当发生修改，仅修改工厂类的创建方法即可，符合现实世界的模式，即由工厂来制作产品（对象）含义：将对象的创建由使用原生类本身创建，转换到特定的工厂方法来创建。含义：对一个类，只获取其唯一的类实例对象，持续复用他。作用：节省内存，节省创建对象的开销。

原创 使用PySpark报错Python worker exited unexpectedly

解决方案：使用3.10版本的Python解释器并修改os路径。错误原因：Python版本过高（3.12）

原创 Java 封装和多态

封装：将现实世界事务的属性和方法封装到类中，变成成员变量和成员方法。多态：同样的方法因为输入参数不同而实现不同的功能。

原创 对Java反射的认识

（可利用反射使泛型为Integer的集合添加一个String类型的字符串，因为Java中的泛型是假的，只在编译时有效）3、反射类中的成员变量，完成赋值和获取。2、反射类中的构造方法，随后创建对象。4、反射类中的成员方法，调用成员方法。1、获取类的字节码对象。

原创 解释器和编译器的区别

1、预先编译成目标代码，然后再执行，在不同平台上需要不同的解释器；5、检测较为困难，编译时可能一次性显示所有错误，必须修正后才能运行。6、错误检测方便，每次执行特地代码行都会即时显示错误信息。1、逐行转换并立即执行，不需要生成中间代码；5、常用语Python，PHP等；2、不保存机器代码，占用内存少；2、保存机器代码，占用更多内存；3、执行慢，每次都要重新编译；3、执行快，只编译异常；4、常用于C和Java；