啥是inference推理/推断?

本文介绍了深度学习中模型训练(Training)与推理(Inference)的概念。Training是通过喂养有标签的数据让模型学习,而Inference则是将训练好的模型应用于新数据进行预测。在Pytorch中,进行推理时需设置model.eval()和with torch.no_grad()来确保不更新权重并避免梯度计算。通过这个过程,我们可以验证模型在未知数据上的性能。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

最近加入了新的组,讨论的时候大家经常把inference和training挂在嘴边。每次内心都在嘀咕,,到底啥是inference?模型训练好了之后,还要推理过程吗?于是查了查资料,发现还真有。。

Training训练

这个我懂,就是分batch给网络喂一堆有标签的数据,让他逐渐学习数据特征,然后匹配到对应的标签。比如给一张图片,能够认出图片里面是个苹果。

Inference推理

把上边训练好的模型,拿到新的没见过的数据上试一试。看看效果怎么样。所以不需要分batch迭代更新参数,只需要一次求解,前向传播。

Pytorch怎么inference

1 首先加载数据,看是否需要预处理啥的。

2 然后调用模型,注意两点

        (1) model.eval()状态,不需要再训练

        (2)with torch.no_grad():状态

3 再就是正常的计算结果,得到输出。

参考:

【深度之眼】【Pytorch打卡第19天】:图像分类Resnet的Inference_雯文闻的博客-优快云博客_pytorch 图像分类

动态不确定因果图(DUCG)是贝叶斯网络的一种扩展,它允许图中存在有向循环图(DCG),以适应更为复杂动态的系统。在这样的图结构中进行概率推理时,传统的推理算法由于循环的存在会遇到困难,因为它们通常依赖于变量之间的条件独立性,而有向循环往往会破坏这种独立性。 参考资源链接:[动态不确定因果图在概率推理中的应用:有向循环图与联合概率](https://wenku.youkuaiyun.com/doc/3oz67wirbj?spm=1055.2569.3001.10343) 为了处理DUCG中的DCG带来的推理挑战,研究者们提出了多种算法来应对,其中一种是基于近似推理的方法。比如,吉布斯采样(Gibbs Sampling)可以被用于生成联合概率分布的样本,然后利用这些样本来估计所需的边缘概率分布。然而,吉布斯采样等方法在大型网络中可能效率不高。 另一种方法是变分推断(Variational Inference),它通过将复杂的概率模型简化为可解的形式,来近似实际的概率分布。变分推断将概率推理转化为优化问题,通过最小化真实分布近似分布之间的差异,来寻找最佳的近似分布。 具体到DUCGDCG的推断算法设计,可以考虑使用消息传递算法(Message Passing Algorithms)。这类算法基于图中的节点相互传递信息来更新概率信念,适用于图结构的动态更新。当遇到DCG时,可以采用信念传播(Belief Propagation)的一种变形,如Loopy Belief Propagation,虽然它在严格意义下不保证收敛到准确结果,但在实际应用中常常能够得到较好的近似解。 除了上述方法,还可以采用粒子滤波(Particle Filtering)等递归算法,通过模拟概率分布的方式来处理动态系统的不确定性。这些算法通过重采样预测步骤,可以动态地更新概率模型,适用于处理实时的、动态变化的系统。 总之,处理DUCG中DCG的推理问题需要采用专门设计的推断算法,如变分推断、消息传递算法或粒子滤波等。这些算法能够在保持推理效率的同时,处理图中的有向循环结构,使得动态不确定因果关系的分析成为可能。为了更深入理解这些算法的具体实现应用,推荐阅读《动态不确定因果图在概率推理中的应用:有向循环图与联合概率》一文,其中不仅详细介绍了DUCG的概念,还探讨了适合DCG结构的推断算法,并提供了实际应用的案例。 参考资源链接:[动态不确定因果图在概率推理中的应用:有向循环图与联合概率](https://wenku.youkuaiyun.com/doc/3oz67wirbj?spm=1055.2569.3001.10343)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值