Pytoch CTC

最新推荐文章于 2022-10-12 17:02:51 发布
原创 最新推荐文章于 2022-10-12 17:02:51 发布 · 391 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了CTC（Connectionist Temporal Classification）原理，并指出在使用PyTorch和百度实现的CTC时遇到的问题。在PyTorch 1.1.0下，基于Synth90K训练的模型在IIIT5K上的精度仅为64%，远低于预期。此外，PyTorch中不同版本的CTC实现存在精度和结果一致性问题。

背景

关于CTC 原理的介绍可参考 Sequence Modeling With CTC. 主要采用动态规划算法实现
在这里插入图片描述

Issue

GitHub issue

目前比较广泛使用的CTC 有两个，一个是百度实现的wrap ctc, 另一个则是由pytorch 实现。
对于百度实现的CTC(在pytorch 1.1.0下编译), 在我的实验中，使用Synth90K 训练，在IIIT5K上只能达到64%左右的精度，与论文有很大的差距，说明还是有问题。
当使用pytorch 中CTC 时，目前CTC实现还是有问题，体现在版本不同结果不一致，精度不一致。
在1.2.0 中使用下面代码[a]

#criterion / preds / text / pred_size / length are cuda tensor
torch.backends.cudnn.
最低0.47元/天 解锁文章
用pytorch+CTC+WFST实现汉语语音识别
m0_37135912的博客
07-31 1729
最近专门空出来很多时间，准备把一直犹豫不决要不要写的智能理论写出来，同时准备用语音识别做一些实验，所以有了这个项目。 语音识别实验比可选的工具有kaldi，wav2letter，espnet等，使用比较广泛工具是kaldi，但是对于前端语音处理的部分，我觉得kaldi所使用的HMM-GMM方式相当的不直观，Kaldi所使用的nnet神经网络也不是目前主流的深度学习工具。而kaldi创建者Daniel Povey要推出的与pytorch接口良好的kaldi新的版本也还没有出来。但是kaldi的WFST解码系统
Python-PyTorchCTC是CTCConnectionistTemporalClassification的PyTorch实现
08-11
PyTorch-CTC是CTC (Connectionist Temporal Classification) 的PyTorch实现。 C 代码从TensorFlow中大量借用，并进行了一些改进以提高灵活性。
Pytorch的ctc解码实现
qq_37950002的博客
11-02 2475
在github上看到一个很好的ctc解码实现，暂时还没用。附上链接： pytorch的ctc解码实现 作者在readme里对代码的参数的介绍的很清楚，就不搬运翻译了，可以直接看。 在pytorch上CTC的安装: pytorch上CTC安装 ...
ctcdecode:PyTorch CTC解码器绑定
04-28
ctc解码 ctcdecode是针对PyTorch的CTC（连接器时间分类）波束搜索解码的实现。 从Paddle 借用的C ++代码。 它包括支持标准波束搜索的可交换评分器支持，以及基于KenLM的解码。 如果您不熟悉CTC和Beam搜索的概念，请访问参考资料部分，我们在其中链接了一些教程，解释了为什么需要它们。 安装 该库基本上是独立的，只需要PyTorch。 构建C ++库需要使用gcc或clang。 还可以选择包含KenLM语言建模支持，并且默认情况下启用该功能。 以下安装也适用于Google Colab。 # get the code git clone --recursive https://github.com/parlance/ctcdecode.git cd ctcdecode && pip install . 如何使用 from ctcdecode import CT
python pytorch语音识别_一个使用pytorch基于CTC的语音识别系统
weixin_39932344的博客
12-21 1070
Update:Update to pytorch1.2 and python3.CTC-based Automatic Speech RecognitonThis is a CTC-based speech recognition system with pytorch.At present, the system only supports phoneme recognition.You can...
Pytorch中的CTC loss
fidbdiej的博客
05-05 2809
Pytorch中的CTC loss pytorch中已经内置了ctc loss，可以非常方便的进行使用。主要就是两个API，一个是创建ctc loss；一个是计算ctc loss。 创建ctc loss的api ctc_loss = nn.CTCLoss(blank=len(CHARS)-1, reduction='mean') # blank：表示空白符blank的序号。刚才我们在举例的时候说过，CTC增加了一个blank的符号。此处传入的就是空白符的序号。例如我们的预测文本中如果只包含26个英文字母，其
pytorch ctc
09-01
PyTorch CTC（Connectionist Temporal Classification）是一个用于序列分类任务的算法。CTC算法常用于语音识别和文本识别等任务，它可以将输入序列映射到输出序列，同时考虑输入序列和输出序列之间的对齐问题。 在...
【debug】pytorch CTC_Loss为nan
怡宝2号
04-20 2866
1. feature中有nan值 有次max_pool2d参数设计错误出现了这种情况 可以通过 print（feature.max()） 看feature的最大值 2. target length有0值 现在pytorch中有自带的ctcloss其用法 >>> T = 50 # Input sequence length >>> C = 20 ...
PyTorch CTC解码器实现：ctcdecode库介绍
资源摘要信息:"ctcdecode是PyTorch环境下实现CTC波束搜索解码的工具包，其核心功能包括标准波束搜索解码及基于KenLM的语言模型解码支持。CTC（连接时间分类）是一种在自动语音识别（ASR）中广泛应用的技术，它能够...
pytorch CTCloss
07-27
PyTorch中的CTCLoss是指Connectionist Temporal Classification Loss，它是一种用于解决神经网络标签和输出不对齐问题的方法。CTCLoss的优点是不需要强制对齐标签且标签可以是可变长度的。它主要应用于场景文本识别...
CTC束搜索解码原理和Pytorch实现（CTC Prefix BeamSearch Decode)
lujian45的博客
10-12 2115
CTC非贪婪序列解码算法，CTC束搜索算法。
关于pytorch自带的CTCloss使用时的注意事项
CaiDou的博客
05-31 1331
涉及到语音项目或者CRNN的LSTM等训练时，通常会用到CTCLoss，在使用低版本的pytorch的时候，一种用的是百度CTCloss，由于换了3090的卡，pytorch也强行升级到1.8版本，没办法和百度CTC兼容了，换回自带的fromtorch.nnimportCTCLoss， 发现训练很久都没有预测内容。原来和百度CTC不同的是，pytorch自带的CTCloss的输入要经过在训练时候用log_softmax,且网络的最后一层不能经过softmax 问题解决。 ...
Pytorch编译安装warp-CTC
z小白的博客
11-12 1万+
Pytorch 安装 进入Pytorch官网https://pytorch.org/，根据自己机器的环境选择相应的安装包，以conda+python3.6+cuda-8.0为例， 在终端输入： conda install pytorch torchvision cuda80 -c pytorch warp-CTC 安装 git clone https://github.com/S...
pytorch-crnn实践以及内置ctc_loss使用小结
黑条纹的白斑马的博客
05-01 6007
最近开始深入OCR这块, 以前倒是训练过开源的Keras-CRNN, 但是它和原文还是不一样, 今天参照Keras-CRNN代码和CRNN论文用pytorch实现CRNN, 由于没有GPU, 自己造了100多张只包含数字的小图片来训练模型, 验证模型能否收敛 CRNN流程 在这儿不再详细谈CRNN论文了, 主要按照原文做一个流程描述: 输入图片要求高度为32, 使用VGG提取特征，高度32倍下采...
pytorch内置torch.nn.CTCLoss
Maisie_Nan的博客
04-23 3039
一、开篇简述 CTC 的全称是Connectionist Temporal Classification，中文名称是“连接时序分类”，这个方法主要是解决神经网络label 和output 不对齐的问题（Alignment problem），其优点是不用强制对齐标签且标签可变长，仅需输入序列和监督标签序列即可进行训练，目前，该方法主要应用于场景文本识别（scene text recognition...
【文字识别】GTC: Guided Training of CTC论文阅读
怡宝2号
02-05 2697
地址:论文 主要思路: 将attention和ctc两种方式进行融合，利用attention对ctc的对齐进行监督和引导，同时，在ctc分支中加入GCN图卷积神经网络提高模型表达能力。 简介 为了克服CTC的局限性，我们必须两个动机:(1)学习更好的特征表示从更有效的引导和(2)建立label和局部特征的联系。 模型 模型示意图如下所示： 来自强大网络的编码器可以学习更好的对齐和特征表示，其中的...
【Pytorch学习笔记2】Pytorch的主要组成模块
edifier_wy的博客
08-18 859
个人笔记，用于DataWhale组织的pytorch开源学习
如何使用pytorch内置torch.nn.CTCLoss的方法&&车牌识别应用
OneBaBa的专栏
09-10 1937
一、开篇简述 CTC 的全称是Connectionist Temporal Classification，中文名称是“连接时序分类”，这个方法主要是解决神经网络label 和output 不对齐的问题（Alignment problem），其优点是不用强制对齐标签且标签可变长，仅需输入序列和监督标签序列即可进行训练，目前，该方法主要应用于场景文本识别（scene text recognition）、语音识别（speech recognition）及手写字识别（handwriting recognition
基于PaddlePaddle实现的DeepSpeech2端到端中文语音识模型
热门推荐
夜雨飘零
11-04 1万+
本项目是基于PaddlePaddle的[DeepSpeech](https://github.com/PaddlePaddle/DeepSpeech) 项目开发的，做了较大的修改，方便训练中文自定义数据集，同时也方便测试和使用。DeepSpeech2是基于PaddlePaddle实现的端到端自动语音识别（ASR）引擎，其论文为[《Baidu's Deep Speech 2 paper》](http://proceedings.mlr.press/v48/amodei16.pdf) ，本项目同时还支持各种数据
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值