ningmengjing_的博客

损失函数是机器学习模型优化的核心机制，量化预测误差并指导参数调整。主要类型包括：回归任务常用的均方误差（MSE，对异常值敏感）和平均绝对误差（MAE，更鲁棒）；分类任务采用交叉熵损失（二分类）及其扩展形式多分类交叉熵。损失函数选择需结合任务特性，如MSE促进快速收敛但易受异常值影响，MAE更稳健但收敛较慢。交叉熵损失能有效衡量概率分布差异，特别适合分类问题。随着AutoML发展，定制化损失函数设计成为提升模型性能的关键，体现了通过量化错误实现渐进优化的机器学习哲学。

本文详述 OCR 文字识别技术，包括 CTPN 检测文字位置与 CRNN 识别文本内容。CTPN 利用文本特性及 RPN 方法，CRNN 借助 CNN、RNN 和 CTC 模块。二者配合为信息处理奠基，应用前景广，能满足文字信息处理需求。

OCR(Optical Character Recognition,光学字符识别）是指电子设备（例如扫描仪器或数码相机）检查纸上打印的字符、通过检测暗、亮的模式确定其形状、然后用字符识别方法将形状翻译成计算机文字的过程；

大模型简介

摘要： 激活函数是神经网络实现非线性建模的关键组件，赋予模型处理复杂任务的能力。常见激活函数包括Sigmoid（适合二分类输出）、Tanh（零中心改进）、ReLU（主流选择，缓解梯度消失）及其变体（LeakyReLU、PReLU等），以及性能更优的Swish。选择时，隐藏层推荐ReLU类，输出层依任务选用Sigmoid/Softmax或线性激活。未来趋势包括自适应函数和自动化搜索。激活函数通过非线性变换，使神经网络成为强大的通用逼近器，是深度学习的核心基石。

具体地说，w1和w2是控制输入信号的重要性的参数，而偏置是调整神经元被激活的容易程度（输出信号为1的程度）的参数。下图是一个接收两个输入信号的感知机的例子，x1,x2是输入信号，y是输出信号，w1、w2是权重（w是weight的首字母）。或门在（x1,x2)=(0,0)时输出0，在（x1,x2)为（0，1）、（1，0）、（1，1）时输出1.图1中，o表示0，△表示1。在图7所示的2层感知机中，先在第0层和第1层的神经元之间进行信号的传送和接收，然后再第1层和第2层之间进行信号的传送和接收，具体如下所示。

神经网络基础到应用

方面维度主要内容例子核心部件构建网络的基础概念神经元、损失函数、梯度下降模型架构为解决特定问题设计的网络结构应用领域技术落地的场景计算机视觉、自然语言处理、强化学习关键技术推动领域发展的前沿方向迁移学习、联邦学习、可解释AI工具框架实现模型的编程工具。