Python(Numpy)实现均方差、交叉熵损失函数等（3）

最新推荐文章于 2025-05-29 10:42:10 发布
原创 最新推荐文章于 2025-05-29 10:42:10 发布 · 1w 阅读 · 29 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

鱼书3：
1.MSE均方差误差(适用于线性回归)
MSE

import numpy as np
def MSE(y,t):
    #形参t代表训练数据（监督数据）（真实）
    #y代表预测数据
    return 0.5*np.sum((y-t)**2)
# 设“2”为正确解
t = [0, 0, 1, 0, 0, 0, 0, 0, 0, 0]
#假设预测下标为2是正确的
y1 = [0.1, 0.05, 0.6, 0.0, 0.05, 0.1, 0.0, 0.1, 0.0, 0.0]
print(MSE(np.array(y1),np.array(t)))
#输出：    0.09750000000000003，很小，代表误差很小，预测大概对了

#假设预测下标为7是正确的
y2 = [0.1, 0.05, 0.1<
最低0.47元/天 解锁文章
Python使用numpy包编写自定义函数计算均方误差(MSE、mean squared error)、评估回归模型和时间序列模型、解读MSE评估指标
data+scenario+science+insight
02-11 3701
Python使用numpy包编写自定义函数计算均方误差(MSE、mean squared error)、评估回归模型和时间序列模型、解读MSE评估指标
softmax交叉熵的两种形式 + numpy 实现
ytusdc的博客
08-19 4561
- 卷积底层的实现方式(如caffe里面的img2col) - 卷积、Max Pooling和 Average Pooling 代码实现 - 手撕 IoU, NMS, 及其变体 SoftNMS代码, - Soft nms 解决了什么问题。soft nms的具体过程
Python中利用NumPy和Pandas计算均值、方差等
Pandas120的博客
01-15 921
NumPy和Pandas都提供了计算均值、方差等统计量的功能，但它们在处理数据的方式有一些不同。
用numpy实现交叉熵函数
最新发布
NoBootDevices的博客
05-29 186
在pytorch中计算交叉熵之前自动加了一个softmax函数。
python 计算均值、方差、标准差 Numpy，Pandas
DEVELOPERAA的博客
07-26 1万+
Python 中的 numpy 包 和 pandas 包都能够计算均值、方差等，本文总结一下它们的用法。
[Python 数据科学] python 计算均值、方差、标准差 Numpy，Pandas
热门推荐
天天向上的专栏
10-23 23万+
文章目录1. Numpy 计算均值、方差、标准差2. Pandas 计算均值、方差、标准差 Python 中的 numpy 包 和 pandas 包都能够计算均值、方差等，本文总结一下它们的用法。 1. Numpy 计算均值、方差、标准差 一般的均值可以用 numpy 中的 mean 方法求得： >>> import numpy as np >>> a =...
【MSE/BCE/CE】均方差、交叉熵损失函数理解
计算机视觉方面的点点滴滴，欢迎一起讨论
04-07 8700
文章目录1 均方误差(Mean Squared Error, MSE)1.1 MSE介绍1.2 MSE为何不常用于分类1.3 那什么常用于分类呢?2 二值交叉熵损失(Binary Cross Entropy Loss, BCE)2.1 BCE介绍2.2 pytorch中的BCELoss3 交叉熵损失(Cross Entropy Loss, CE)3.1 CE介绍3.2 分类损失到底怎么得到的3.3 pytorch中的CELoss4 解释BCE并不是只能学习0或1的label5 参考链接： 1 均方误差(Me
Python计算库numpy进行方差/标准方差/样本标准方差/协方差的计算
09-19
在numpy中，我们可以使用`np.var()`函数来计算方差。例如，对于数组[1, 2, 3, 4]，其方差可以通过以下代码获取： ```python import numpy as np arr = np.array([1, 2, 3, 4]) variance = np.var(arr) ``` 标准...
机器学习----交叉熵(Cross Entropy)如何做损失函数
lmy050813的博客
03-22 6427
损失函数是指一种将一个事件（在一个样本空间中的一个元素）映射到一个表达与其事件相关的经济成本或机会成本的实数上的一种函数。信息熵的值越小，表示系统的不确定性越低。例如，在机器学习中，相对熵常用于比较真实数据的分布和模型预测的分布之间的差异，以评估模型的性能。它可以用于评估两个模型或概率分布的相似性，比较数据分布的差异，以及在熵最小化的框架下进行优化等。对于回归问题，均方差的损失函数的导数是局部单调的，可以找到最优解。上面说的都是一个样本的时候，多个样本的表达式是:多个样本的概率即联合概率，等于每个的乘积。
二元交叉熵损失函数
qq_35608277的博客
08-31 5742
普通的交叉熵损失 BCEWithLogitsLoss 就是在外边复合一层sigmoid函数， import torch target = torch.ones([10, 64], dtype=torch.float32) # 64 classes, batch size = 10 output = torch.full([10, 64], 1.5) # A prediction (logit) pos_weight = torch.ones([64]) # All weights are equa
python 计算平均平方误差(MSE)的实例
09-19
今天小编就为大家分享一篇python 计算平均平方误差的实例 (MSE)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
numpy实现全连接神经网络框架
01-11
numpy实现全连接神经网络框架
Python求解统计学中的均值和方差、分布函数中的正态分布的分布函数值、卡方分布，也可用于假设检验、正态分布检验（excel表提取数据）
weixin_50682964的博客
11-19 605
Python求解统计学中的均值和方差、分布函数中的正态分布的分布函数值、卡方分布假设检验、正态分布检验算法等等（excel表提取数据）
用numpy计算方差和均值
蔡定交
06-10 7218
某体育队挑选运动员参加高级别百米田径比赛。运动员A和运动员B都符合参赛条件，但是只有一个名额。应该选择哪一位候选人更合适呢？ import numpy as np a = [11.73,11.56,12.55,12.46,12.18,13.10,13.33] b = [12.02,12.12,12.74,12.79,12.80,12.22,12.22] a = np.array(a,dtype=np.float64) b = np.array(b,dtype=np.float64) def mean_
Numpy实现Loss函数
AI浩
09-16 3921
from __future__ import division import numpy as np from mlfromscratch.utils import accuracy_score from mlfromscratch.deep_learning.activation_functions import Sigmoid class Loss(object): def loss(self, y_true, y_pred): return NotImplementedErr
使用numpy计算平均值，中值，方差，标准差
星空下
03-11 1万+
使用numpy计算平均值，中值，方差，标准差 import numpy as np dataset = np.random.rand(10,12) # 输出前两行 dataset[0:2] # 平均值 # 输出第三行的平均值 np.mean(dataset[2]) # 输出最后一行的平均值 np.mean(dataset[:,-1]) # 输出前三行三列的平均值 np.mean(dataset[0...
Python3使用numpy求均值、方差、标准差
飞机火车巴雷特的博客
09-22 2032
使用numpy求数据的均值、方差、标准差
CrossEntropy的numpy实现和Pytorch调用
weixin_43508499的博客
07-31 5928
目录1. Numpy实现2. Pytorch实现3. nn.CrossEntropy的weight参数 1. Numpy实现 import torch import numpy as np from torch.nn import functional as F # 定义softmax函数 def softmax(x): return np.exp(x) / np.sum(np.exp(x)) # 利用numpy计算 def cross_entropy_np(x, y): x_soft
多分类交叉熵函数计算过程(包含numpy和pytorch代码实现)
weixin_47289438的博客
08-26 3423
交叉熵损失函数的计算过程
均方差损失函数与交叉熵损失函数
12-26
### 均方差损失函数 (MSE) 与交叉熵损失函数 (CrossEntropy) #### 定义 均方误差（Mean Squared Error, MSE）是一种衡量预测值与真实值之间差异的常见方法。具体来说，它计算的是预测值和实际观测值之间的平均平方差[^1]。 对于二分类或多分类问题，交叉熵损失函数则更为适用。该函数通过测量两个概率分布间的距离来评估模型性能；其中一个分布代表数据的真实标签，另一个则是由模型给出的概率估计[^2]。 #### 数学表达式 - **MSE**: \[ \text{MSE} = \frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2 \] 其中 \( y_i \) 表示第 i 个样本的实际输出，\( \hat{y}_i \) 是对应的预测输出，而 n 则表示总的样本数量。 - **Binary Cross Entropy** （适用于二元分类） \[ L(y,\hat{y})=-\left[y\log(\hat{y})+(1-y)\log(1-\hat{y})\right]\] 这里 \( y \in {0,1} \)，即为真实的类别标签；\( \hat{y} \) 属于区间 [0,1], 表明属于正类别的可能性大小。 - **Categorical Cross Entropy** （用于多分类情况） 如果存在 K 类，则可以写成如下形式： \[L=\sum _{{k=1}}^{K}-t_k\ln(p_k),\quad {\mbox{where }}p=(p_1,...,p_K){\mbox{ and }}t=(t_1,...,t_K).\] 此处 \( t_k \) 是 one-hot 编码后的真值向量，\( p_k \) 对应着预测得到的概率向量中的各个分量[^3]. #### 应用场景对比 - 当处理回归任务时，比如房价预测、股票价格走势分析等连续数值型变量建模的情况下，更倾向于选用 MSE 或者其他类似的度量方式作为评价标准。 - 而面对分类问题尤其是涉及到多个互斥选项的选择时（如图像识别、自然语言处理等领域内的文本分类），由于其能够更好地反映不同类别间的信息差距并促进更快收敛速度的缘故，因此往往优先考虑使用交叉熵损失函数来进行训练过程中的优化工作[^4]. 此外，在某些特殊情况下即使同样是做分类任务也可能因为特定需求偏向某一方。例如当遇到极度不平衡的数据集时可能需要调整权重使得两种类型的错误成本不对称从而影响最终选择哪种损失函数更加合适[^5]. ```python import numpy as np from sklearn.metrics import mean_squared_error from tensorflow.keras.losses import BinaryCrossentropy, CategoricalCrossentropy # Example of calculating losses using Python code snippets: def mse_loss(true_values, predicted_values): """Calculate Mean Squared Error loss.""" return mean_squared_error(true_values, predicted_values) binary_cross_entropy = BinaryCrossentropy() categorical_cross_entropy = CategoricalCrossentropy() true_binary_labels = np.array([0., 1.]) predicted_probabilities_for_binaries = np.array([[0.9], [0.1]]) print(f"MSE Loss: {mse_loss(true_binary_labels, predicted_probabilities_for_binaries.flatten()):.4f}") print(f"Binary Cross Entropy Loss: {binary_cross_entropy(true_binary_labels, predicted_probabilities_for_binaries).numpy():.4f}") true_categorical_labels = np.array([[1., 0., 0.], [0., 1., 0.]]) # One hot encoded labels. predicted_class_probs = np.array([[0.8, 0.1, 0.1], [0.2, 0.7, 0.1]]) print(f"Categorical Cross Entropy Loss: {categorical_cross_entropy(true_categorical_labels, predicted_class_probs).numpy():.4f}") ```
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值