AI训练师中的点滴

Gradient Boosting

基于paddlepaddle的paddleocr库简单写了一款能够批量识别ocr图片并生成excel统计信息的小脚本

注意力前沿工作机制

 每一种算法都带有一种归纳偏好，归纳偏好，可以理解为算法对于某种假设的偏好，这种偏好可以体现为线性回归模型对于模型线性的假设偏好等。奥卡姆剃刀原理关于归纳偏好，对于一个数据，模型有许多的归纳偏好，也就是有许多的假设，那么如何进行归纳假设的选择呢，一般性的原则就是：最简单原则-奥卡姆剃刀原理，也就是使模型的结构尽量简单，这也是《统计学习》中提到的结构风险最小化。简单有什么好处呢，其中之一就是具有良好的泛化性，如果结构过于复杂，会产生过拟合的现象。NFL（没有免费的午餐）如图，见详情可见

介绍了VIT的结构及其复现

在炼丹日常，很多模型为了保持tensor的计算便利和维度统一（例如resnet）会涉及到很多的维度转换，这时候很容易就绕晕，在参加飞浆的transformer课程中，学习了很多灵活变化维度的方法，这些方法能够让我们减少相当一部分的维度转换的复杂度。下面逐个介绍常用的维度转换方法：reshape方法：维度重整简单的reshape方法我们就不进行介绍，主要介绍reshape中-1的灵活运用，我们可以轻松的避免一些计算。import paddleimport paddle.nn as nn

文章目录一. MMD算法简介与实现1.1 MMD算法简介1.2 算法实现1.2.1 算法1.2.2 程序1.3 算法性能二. 均值聚类算法简介与实现1.1 均值聚类算法简介1.2 算法实现1.2.1 算法1.2.2 程序sklearn简单实现手动实现1.3 算法性能三. 两类算法性能比较一. MMD算法简介与实现1.1 MMD算法简介   MMD（最大最小距离算法）最大最小距离法是模式识别中一种基于试探的类聚算法，它以欧式距离为基础，取尽可能远的对象作为聚类中心。因此可以避免K-m

 深蓝学院pycharm中，在配置好环境后，