idwtwt的专栏

比如一件商品有质量，价格，颜色，外形，生产商，发货地点等信息，但是你特别关注商品的价格，那么所有商品的所有信息投影到你的需求上，基本只有价格影响你买还是不买。做个形象化的比喻，你在广东被人叫靓仔，在广西被人叫叼毛，本质上你还是你，包含你的肉体和灵魂。只是你在不同的空间，时间，以及叫法不同。注意力机制很像人类看图片的逻辑，当我们看一张图片的时候，我们并没有看图片的全部内容，而是将注意力集中在了图片的焦点上。因为GPT是生成模型，是利用前面的信息生成后面的信息的，也就是后面的信息开始是不知道的。

AI作画

音频处理

交叉编译带FFmpeg的OpenCV

安卓集成OCR

opencv

如果是tfjs格式比较简单，直接设置路径就行，否则要转换为tfjs格式模型。

【代码】AIStudio PaddleDetection Picodet 增量训练自己数据。

1 基本概念1.1 马尔科夫链（维基百科）马尔可夫链（英语：Markov chain），又称离散时间马尔可夫链（discrete-time Markov chain，缩写为DTMC），因俄国数学家安德烈·马尔可夫得名，为状态空间中经过从一个状态到另一个状态的转换的随机过程。该过程要求具备“无记忆”的性质：下一状态的概率分布只能由当前状态决定，在时间序列中它前面的事件均与之无关。这种特定类型...

1 基本概念准备1.1协方差反应两个变量之间线性相关的强度，记为Cov(f(x),g(x))= E[(f(x)-E[f(x)])(g(x)-E(g(x)))]关于协方差的特性:若协方差绝对值很大, 则变量值得变化很大, 且相距各自均值很远 若协方差为正, 则两变量x,y都倾向于取较大值, 若协方差为负, 则一个倾向于取较大值,另一个倾向取较小值相关系数: 将每个变量归一化...

1 信息量信息量即信息多少的度量。跟我们认识中秒是时间多少的度量，米是长度多少的量度是一样的意思。百度百科上定义秒：铯133原子基态的两个超精细能阶之间跃迁时所辐射的电磁波的周期的9,192,631,770倍 的时间 。那信息的多少怎么衡量呢？一个人告诉你一件事，比如太阳从东方升起；你说这是常识啊，大家都知道。一个人告诉你，明天某个时间在某个地方待着，将有一个亿支票掉下来，这个事情概率比较低，信息...

1 定义和基本概念1.0直线的空间参数方程A，B，M三点共线： 直线的参数方程：给定一个定点A和向量，则，取，则1.1 直线和线段如果,则经过两点的直线可表示为：或：如果,则表示为线段。1.2 仿射如果通过集合的两个不同的点的直线，仍在C中，则称C是仿射。也就是仿射等价于如果,那么直线1.3 仿射集仿射的概念可以推广到n个点...

1 基本概念准备1.1 最大似然估计（MLE）最大似然估计是统计学中的概念，维基百科中给出的定义是：最大似然估计（英语：maximum likelihood estimation，缩写为MLE），也称最大概似估计，是用来估计一个概率模型的参数的一种方法。具体来讲，就是利用已知的样本的结果，在使用某个模型的基础上，反推最有可能导致这样结果的模型参数值（模型已定，参数未知）。比较简单的例子...

1 基本概念1.1先验概率（prior probability）是指根据以往经验和分析得到的概率，如全概率公式，它往往作为"由因求果"问题中的"因"出现的概率。1.2 条件概率条件概率是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为：P（A|B），读作“在B的条件下A的概率”。条件概率计算公式：P(AB)=P(A)P(B|A)=P(B)P(A|B)详细：...

1 基本概念1.1 向量点乘向量的点乘,也叫向量的内积、数量积，对两个向量执行点乘运算，就是对这两个向量对应位一一相乘之后求和的操作，点乘的结果是一个标量。向量向量则a,b点乘点乘的几何意义是可以用来表征或计算两个向量之间的夹角，以及在b向量在a向量方向上的投影1.2 点到直线距离公式直线公式，直线外一点,则点到直线的距离公式为：1.3超平面而d...

1 方向导数和梯度1.1 方向导数定义函数在点沿方向的方向导数：根据拉格朗日中值定理（证明）1.2 梯度可以看成是两个向量的內积(点积),令则：,则可以得出以下结论：当时，方向相同，函数变化率最大，且在点处呈上升趋势当时，方向相反，函数变化率最大，且在点处呈下降趋势我们称向量为函数在点处的梯度。多元函数在某一点的梯度是一个非常特殊的...

1 基本概念1.1 不等式约束1.2 广义拉格朗日函数定义如下拉个朗日函数：令如果x满足1.1中的约束条件，则则原不等式约束优化问题等价于：,两个取得的值是完全一样的，称为原始问题。1.3 拉格朗日对偶函数令，是原始问题（变量是x）的一个下界，称为拉格朗日对偶函数（变量是）。则对于所有,成立：则是原始问题的最大下界:当...

1 基本概念1.1 支持向量如下图所示，实心点和空心点分别代表数据的两种类别，他们被黄色区域中间的直线分隔成两部分。被蓝色和红色圆圈圈出的点即为支持向量。所谓支持向量，就是指距离分隔超平面最近的点。1.2 超平面外一点x到超平面的距离1.3 函数间隔和几何间隔函数间隔：几何间隔：2 线性可分支持向量机2.1 线性可分支持向量机定义给定线性可分训练数据集，...

1 差商的定义设有函数f(x)以及自变量的一系列互不相等的的值f(xi),称为f(x)在点处的一阶差商，并记作。又称为f(x)在点处的二阶差商；称：为f(x)在点处的n阶差商。2 牛顿插值法的推导有了差商的定义，就很容易推出牛顿插值的公式。根据均差定义 , 把 x 看成[ a, b] 上一点 , 可得,把后一式代入前一式，得到：...

源：https://segmentfault.com/a/1190000010863236K-means算法简介K-means是机器学习中一个比较常用的算法，属于无监督学习算法，其常被用于数据的聚类，只需为它指定簇的数量即可自动将数据聚合到多类中，相同簇中的数据相似度较高，不同簇中数据相似度较低。K-menas的优缺点：优点： 原理简单 速度快 对大数据集...

 上图原来输入是6个feature，然后经过1x1的卷积核（实质是经过学习到的6个权重调节的线性叠加）得到一个特征图F11有四个1X1的卷积核，则得到4个特征图，分别为F11，F12，F13，F14。这样原来的6个特征图，变为了4个特征图，实现了降维。同样如果卷积核大于原来的特征图，则实现升维。参考：https://www.zhihu.com/question/56024942...

我们知道可以通过Module.parameters()获取网络的参数，那这个是如何实现的呢？我先直接看看函数的代码实现： def parameters(self): r"""Returns an iterator over module parameters. This is typically passed to an optimizer. ...

用了简单的四层卷积网络，效果不是很好，训练了800多伦之后，准确率早已不再增加，约在0.62413，还没有达到其他人的0.65# -*- coding: utf-8 -*-import numpy as npfrom APL import APLUnitfrom keras.layers import Activation,BatchNormalizationfrom keras.m...

1 模型保存TensorFlow提供了一个非常方便的api，tf.train.Saver()来保存和还原一个机器学习模型。程序会生成并保存四个文件:checkpoint 文本文件，记录了模型文件的路径信息列表 mnist-10000.data-00000-of-00001网络权重信息  mnist-10000.index  .data和.index这两个文件是二进制文件，保存了模型中的...

1 安装1080TI显卡驱动1 .1安装内核源码包yum -y install gcc kernel-devel "kernel-devel-uname-r == $(uname -r)"1.2 禁用nouveau 模块echo -e "blacklist nouveau\noptions nouveau modeset=0" > /etc/modprobe.d/blacklist.conf...

我们使用GPU做计算的时候,想了解GPU的使用情况,但是任务管理器没有GPU的信息.还好NVIDIA提供了相关的命令.是在路径C:\Program Files\NVIDIA Corporation\NVSMI目录下nvidia-smi.exe.为了方便使用,我们将路径C:\Program Files\NVIDIA Corporation\NVSMI加入系统环境变量.在cmd下执行:nvidia

更新软件库，安装官方java：$ sudo add-apt-repository ppa:webupd8team/java$ sudo apt-get update$ sudo apt-get install oracle-java8-installer设置默认java环境为java8：$ sudo apt-get install oracle-java8-set-default

1.sudo apt-get install python-pip python-dev2.sudo pip install --upgrade https://storage.googleapis.com/tensorflow/linux/cpu/tensorflow-0.8.0-cp27-none-linux_x86_64.whl注意：由于天朝特殊原因storage.googl

1 安装#librosapip install librosa#pyaudiobrew install portaudiopip install pyaudio2 使用2.1 librosa的使用加载音频文件librosa.load>>> y, sr = librosa.load('/opt/code/python/datasets/cor...

缩小图像缩小图像（或称为下采样（subsampled）或降采样（downsampled））的主要目的是两个：使得图像符合显示区域的大小； 生成对应图像的缩略图；下采样的原理：对于一幅图像尺寸为M*N，对其进行s倍的下采样，即得到（M/s）*（N/s）尺寸的分辨率图像，当然，s应该是M和N的公约数才可以，如果考虑是矩阵形式的图像，就是把原始图像s*s窗口内的图像变成一个像素，这个像素点就...

  YOLO全称You Only Look Once，是一个端到端（end-to-end）的目标检测算法，现在已经发展到第三个版本。由于第三个版本已经比较复杂，我们选学习第一个版本。github上有个同学实现了一个pytorch的版本：https://github.com/xiongzihua/pytorch-YOLO-v1我基于他的源码学习，学习过程中的代码修改放在：https:...

YOLO全称You Only Look Once，是一个端到端（end-to-end）的目标检测算法，现在已经发展到第三个版本。由于第三个版本已经比较复杂，我们选择学习第一个版本。github上有个同学实现了一个pytorch的版本：https://github.com/xiongzihua/pytorch-YOLO-v1我基于他的源码学习，学习过程中的代码修改放在：https://git...

YOLO全称You Only Look Once，是一个端到端（end-to-end）的目标检测算法，现在已经发展到第三个版本。由于第三个版本已经比较复杂，我们选学习第一个版本。github上有个同学实现了一个pytorch的版本：https://github.com/xiongzihua/pytorch-YOLO-v1我基于他的源码学习，学习过程中的代码修改放在：https://git....

转于：《入门PyTorch》卷积层是卷积神经网络的核心， 大多数计算都是在卷积层中进行的。1 卷积层1.1 概述首先介绍卷积神经网络的参数。 这些参数是由一些可学习的滤波器集合构成的， 每个滤波器在空间上（ 宽度和高度） 都比较小， 但是深度和输入数据的深度保持一致。 举例来说， 卷积神经网络的第一层卷积一个典型的滤波器的尺寸可以是5×5×3（ 宽和高都是5） ， 或者是3×3...

torchvision.models这个包中包含alexnet、densenet、inception、resnet、squeezenet、vgg等常用的网络结构，并且提供了预训练模型，可以通过简单调用来读取网络结构和预训练模型。import torchvisionmodel = torchvision.models.resnet50(pretrained=True)下面是使用resne...

1 基础关于全连接层：深入理解卷积层，全连接层的作用意义2 算法yolo v1：YOLOv1的原理及实现过程 

摘录来自: 张颖 赖勇浩 著. “编写高质量代码：改善Python程序的91个建议。1 不刻意进行类型检查，而是在出错的情况下通过抛出异常来进行处理，这是较为常见的方式。 2 基于内建类型扩展的用户自定义类型，type函数并不能准确返回结果。例子：class UserInt(int): def __init__(self,val=0): self.__...

原文：https://blog.youkuaiyun.com/mcgrady_tracy/article/details/46625367 对于图像缩放算法来说，最近临插值算法是最简单的。最近临插值算法的原理是在原图像中找到最近临的一个点，然后把这个点的像素值插入到目标图像中，最近临插值算法优点是算法简单，易于实现，但是缺点是由于相邻像素点的像素值相同，容易出现色块现象。那么如何在原图像中找这个目标点...

1.按教程：bazel build -c opt --jobs 1 //tensorflow/cc:tutorials_example_trainer 出现INFO: Reading options for 'build' from /opt/tensorflow/tools/bazel.rc:  'build' options: --force_python=py2 --host_f