- 博客(15)
- 收藏
- 关注
原创 快速近似计算 exp
尤其是模型在边缘计算设备部署时需要考虑推理的实时性,但对数值精度的要求并不高,可以采用一些近似计算的方法牺牲数值精度提高计算速度。深度学习中有 sigmoid、softmax 等函数中经常需要计算。近似的工作方式基于以下事实:IEEE 754 浮点格式中的数字。下面使用模板递归的方式实现公式 (2)
2025-02-12 18:25:29
770
原创 git 免密管理代码
这个命令会启动 ssh-agent 并设置环境变量,以便 ssh-add 可以与它通信。文件内容,加入gitlab的SSH Keys中。
2024-09-20 13:23:15
313
1
原创 变分扩散模型
VDM (Variational Diffusion Models) 基于 [[MHVAE]] 模型,但与 [[MHVAE]] 模型有3个不同:对于所有时间步t:隐变量zt的维度和数据x的维度相等,即zt∈Rdx∈Rd;对于所有时间步t:隐变量zt不是通过神经网络模型学习得到的,而是以前一个时间步zt−1为均值的高斯分布。所以,Diffusion Models 不需要通过神经网络模型学习一个 Encoder;随着时间步t的增大,隐变量zt。
2024-04-27 00:04:05
1059
原创 opencv c++ 实现图像的常用变换
本文主要用一个函数实现图像的放缩、旋转,并最终得到变换和逆变换的矩阵。,这两个矩阵可分别用在关键点检测的前处理和后处理中。
2024-03-28 22:24:05
291
1
原创 自动摘要评价指标
ROUGE是机器自动摘要的评价指标,有很多个优化版本,核心思想是通过统计模型生成的摘要句子和标准摘要句子相同的n-gram比率来评价摘要生成质量。ROUGEN=Count(共现的字/词)Count(摘要)\text{ROUGE}_{N} = \frac{\text{Count}\lparen 共现的字/词\rparen}{\text{Count}\lparen 摘要\rparen}ROUGEN=Count(摘要)Count(共现的字/词)ROUGEL\text{ROUGE}_LROUGEL考虑 最长子
2023-08-15 15:14:50
384
原创 机器翻译评价指标
BLEU是机器翻译任务的评价指标。BLEU根据n-gram的不同分为:BLEU1BLEU_{1}BLEU1、BLEU2BLEU_{2}BLEU2、BLEU3BLEU_{3}BLEU3、BLEU4BLEU_{4}BLEU4计算公式:BLEUn=∑s^∈S^∑n−gram∈s^CountS(n−gram)∑s^∈S^∑n−gram∈s^CountS^(n−gram)BLEU_{n} = \frac{\displaystyle\sum_{\hat{s} \isin \hat{S}}\displaystyl
2023-08-15 12:23:41
566
原创 图像生成评价指标
FID (Frechet Inception Distance) 是一种评价生成图片的质量好坏的评价指标,该值度量了生成图片分布与真实图片分布之间的距离,FID越小说明生成图片的真实性越高。Step2: 将生成的图片和真实图片通过Inception V3,得到每张图片的向量表示。将相同类别的图片放在一起计算每个embedding维度的均值和方差。CLIP Score 是衡量经过CLIP之后的文本表示和图片表示之间的Cosine Distance。
2023-08-15 12:20:15
3353
原创 MHVAE模型
假设隐变量只有一层,HVAE (Hierarchical VAE)假设隐变量有TTT层,MHVAE (Markovian HVAE) 在 HVAE 的基础上假设层与层之间满足马尔可夫性 (Markov Property) ,即当前的状态只与前一个状态有关。
2023-08-15 12:11:26
292
原创 Normalization Layers
然而,在小批量数据上,每个 mini-batch 的样本数量很少,导致 BatchNorm 的均值和方差估计不准确,从而影响模型的性能。在深度神经网络中,每一层的输入不仅依赖于前一层的输出,还依赖于整个数据集的分布情况,而数据集的分布情况通常是随机的。在深度神经网络中,每一层的输入都是前一层的输出,而每一层的参数都是在训练过程中学习得到的。指数移动平均(EMA)更新期望和方差:训练时期望和方差就是当前batch数据的期望和方差,推理时的均值和方差使用的是通过EMA更新的期望和方差。
2023-07-30 13:37:34
422
1
原创 生成模型简介
给定观测样本x,令其真实数据分布为unknownpx,生成模型的目标是设计模型来学习真实数据分布px。为了实现模型生成的可控性,我们需要建模学习条件概率分布px∣y。
2023-07-29 22:39:01
295
原创 label-studio安装与使用
1. 安装label-studio创建名为label_studio的虚拟环境(示例的Python版本为3.8)conda create -n label_studio python=3.8激活虚拟环境conda activate label_studiopip安装label-studio (version=1.3)pip install label-studio==1.32. 配置label-studio安装label-studio机器学习后端,dirname为放代码的文
2021-11-03 21:39:53
15812
6
原创 Python包管理与Jupyter notebook配置
Python包管理与Jupyter notebook配置1 Anaconda镜像源更改1.1 清华镜像源1.2 中科大镜像源1.3 友情设置1.4 conda包管理2 pip 包管理2.1 更新pip版本2.2 临时更改pip镜像源——包管理2.3 永久更改pip镜像源——包管理3 Jupyter Notebook设置3.1 代码存放路径更改3.2 主题设置3.3 代码智能补全1 Anaconda镜像源更改镜像源可选择清华、中科大之一。1.1 清华镜像源在cmd窗口下输入以下代码,即可完成conda
2021-02-06 00:13:49
809
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人