
PP的AI炼丹
文章平均质量分 51
本就是菜鸟何必心太浮
我是菜狗
展开
-
神经网络——梯度下溢
在低精度(如float16)训练中出现的梯度下溢问题是指在进行梯度计算和更新时,由于数值精度较低,梯度值可能变得非常小,以至于接近或低于浮点数表示的最小非零值。这种情况下,梯度值可能会被下溢至零,导致梯度消失。梯度下溢问题主要涉及如下几个点。原创 2025-02-23 20:43:26 · 396 阅读 · 0 评论 -
大模型炼丹基础--GPU内存计算
选择合适的GPU对成本和效率都至关重要,合理分析GPU。原创 2025-02-16 21:25:04 · 353 阅读 · 0 评论 -
AI绘图初探
通过SD进行AI图片生成训练学习原创 2024-04-01 23:28:54 · 274 阅读 · 1 评论