破晓的专栏

广义上也是一种无监督学习方法，因为不依赖标签数据，但个人觉得还是不归为一类比较好，因为实际上它是将其自身当作监督值来训练的。其目标是利用未标记数据的结构来学习有效的数据表示。这种学习方式主要关注如何从数据自身生成“伪标签”，然后使用这些标签来训练模型。其主要目标是学习到有用的、丰富的。它从未标记的数据中学习模型。在无监督学习中，模型是试图理解数据的内在结构和模式。因此，它通常被用于聚类、降维和密度估计等任务。虽然都是不依赖标签数据的学习方式，但在实现方法和目标上有一些重要的区别。

从凹槽流形的理论上思考模型的构建 能知道设计高效且精度高的模型

参考链接：https://blog.youkuaiyun.com/weixin_36896856/article/details/103471086 我相信有一堆人和我一样刚开始看Transformer 中的 Query、Key 与 Value都是一脸懵逼，参考链接里算是比较容易看懂的，但我觉得仅仅讲清楚了怎么计算Query、Key 与 Value与Transformer计算过程，却没讲为什么这样算，自己很幸运看了同样是2017凯明大神的一篇文章：《Non-local Neural Networks...

指纹具有纹理及方向上的先验，作者通过gabor滤波器组提取指纹的方向信息，并融入模型。这篇文献还有其他亮点：Finger 特征点坐标的表示方式图像经过目前设计神经网络一般都是图像的分别率下降，而通道增加，finger net输入分辨率512*512，最后变为64*64，这时一种方法是将图像上采样到512*512，然后再回归坐标，而作者的做法是在回归目标上做到原始分辨率级别的坐标回归：用三个图来表示最终的预测坐标：1. 细节点分数图尺寸为64×64×1，表示在像素点(x,y...

图像增强https://blog.youkuaiyun.com/wuxianfeng1987/article/details/118729103样本裁剪https://blog.youkuaiyun.com/wuxianfeng1987/article/details/118575733先验知识融入深度学习框架待总结...自动聚类融入深度学习框架待总结...困难样本挖掘待总结......

albumentationhttps://albumentations.ai/docs/#getting-started-with-albumentationsBlur 模糊 VerticalFlip 水平翻转 HorizontalFlip 垂直翻转 RandomBrightness 随机亮度 RandomContrast 随机对比度 Flip 翻转 Normalize 归一化 Transpose 转置 RandomCrop 随机裁剪 RandomGamma 随机Gamma Ra

import osimport pandas as pdimport numpy as npimport cv2import jsonimport randomimport globimport mathimport shutilfrom tqdm import trangefrom pathlib import Pathfrom PIL import Imagefrom sklearn.model_selection import train_test_splitimport .

import osimport timewhile(1): shell_str = "nvidia-smi | grep % | cut -d C -f 1 | cut -d % -f 2" result = os.popen(shell_str) result_str = result.read().replace(" ","") result_str = result_str.split("\n")[:-1] print(result_str) ...

2016年肺癌分析https://luna16.grand-challenge.org/

2019年的文献，基于图像分割分割实现缺陷检测，重点是小样本实现state-of-the-art效果。先看看整体结构：

参数 W,H为原始图像的宽，高 convolutional layers：kernel：3 × 3， stride：1，Zero-padding，C = 50 max-pooling layer： 2 × 2 or 4 × 4 激活函数：Relu 损失函数： 优化：Adam Optimizer 初始学习率：10^-4，如果验证损失在10个时期内停止改善，我们将其减少2倍 卷积层def conv3x3(in_c...

这是某比赛 玻璃绝缘子缺陷的识别 图像是4000*6000，缺陷部分比较小，在30*30区域内，40张图像 大概2000个绝缘子串，缺陷的只有40来个，现在中的小样本识别案例，第一名团队貌似达到96.5%的识别率大概思路1：使用yolo3将绝缘子区域先分出来Y1，然后针对绝缘子使用deeplabv3+分割绝缘杆Y21及绝缘子Y22分割出来，Y21与Y22合并Y2,Y1与Y2通道合并一起送到缺陷检测模型2：样本少，采用Gan方法生成样本，考虑了样本的多样性，以及传统的数据增强方法，颜色扰动，旋转角

深度学习移动端部署https://blog.youkuaiyun.com/karry_zzj/article/details/102827337?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-2.nonecase&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-2.

贝叶斯法则 p(h|D)=p(D|h)p(h)p(D)p(h|D) = \frac{{p(D|h)p(h)}}{{p(D)}} 先验 p(h)p(h),p(D)p(D) 后验 p(h|D)p(h|D) 极大后验概率MAP maximum a posterioriargmaxp(h|D)=argmaxp(D|h)p(h)p(D)−−−−−(h∈H)\arg \

http://modelai.gettysburg.edu/2013/cfr/ 虚拟条件反悔最小化CFR 二人德州扑克战胜世界顶级职业选手

在模型准确度不够好时，采用的策略有：1、更多数据2、尝试更大的神经网络模型3、尝试更小的神经网络模型4、更多的迭代5、收集更多样化的数据集6、尝试添加正则化，如L1，L27、改变神经网络结构：激活函数，隐藏单元数量...但时间有限，面临巨大压力时，如何采用这些策略显得至关重要。很多的机器学习问题如何优化是有线索可循的，这本书的目的就是学习及解读这些线索，提高模型

环境：gtx 1080Ti i732g内存三星256g固态NVME硬盘vs2013+win10+cuda9.0+cudnn5.1NVME的硬盘只支持win10的固态硬盘，无法安装linux系统，因此后续的问题都是基于windows环境下的x64 无法调试，出现“调试监视器(MSVSMON.EXE)未能启动”错误解决方案：打开vs2013后，从文件

lenet的结构：data（28*28）---卷积层1（20个5*5的卷积核，偏移1）--->20*24*24---池化层1（大小2，偏移2）--->20*12*12---卷积层2（50个5*5的卷积核，偏移1）-->50*8*8---池化层2（大小2，偏移2）--->50*4*4---IP1（全连接层，输出500）--->500*1---IP2（全连接层，输出10）--->10*1-

windows下输出训练caffemodel的log日志并画出accuracy和loss曲线

离散傅里叶变换的公式为： Xk=∑n=0N−1x(n)ωknN{X_k} = \sum\limits_{n = 0}^{N - 1} {x(n)\omega _N^{kn}} ωN=e−j2πN{\omega _N} = {e^{ - j\frac{{2\pi }}{N}}} 分成奇数列和偶数列后： (0) Xk=∑n=0N2−1x2nω2knN+∑n=0N2−1x2n+1ω