墨衍会员
·
AI 创作全网分发
墨衍智能分发
本文由作者通过墨衍一键同步至各平台
1分发平台
1k累计阅读
1k平均单平台
已同步平台
优快云
微信公众号
微博
知乎
掘金
百家号
博客园
抖音
小红书
你的文章也可以这样分发
墨衍会员 ¥399起/年，写一次发全网
我也要
NMT框架可以简单地表示为如下图：输入句子经过编码得到上下文向量context，context再经过译码得到输出句子
可具体表示为
论文Sequence to Sequence Learning with Neural Networks称这个框架为序列到序列（sequence-to-sequence）
the context vector为，
，
，
输出
本文以德文翻译成英文为例，数据集下载https://nlp.stanford.edu/projects/nmt/
一对数据为
本文句子长度设为固定值，输入句子为L，输出为M，为此将上面数据对处理成如下，其中<s>为开始符，</s>为结尾符
为了让模型再译码阶段学习到更多的输入信息，可以将输入句子反转
xxx
预训练词向量
teach foucing
Attention
论文Neural Machine Translation by Learning to Jointly Align and Translate
过拟合欠拟合及其解决方案；梯度消失梯度爆炸；循环神经网络进阶；机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer；卷积神经网络基础；leNet；卷积神经网络进阶
1.过拟合欠拟合及其解决方案
【深度学习】图解机器翻译模型：基于注意力机制的 Seq2Seq
Sequence-to-Sequence（Seq2Seq）作为一种深度学习模型，在机器翻译、文本摘要、描述图像等任务中取得了诸多进展。谷歌翻译于 2016 年底开始在实际生产中使用该类模型。在 Sutskever et al., 2014 和 Cho et al., 2014 的两篇开创性论文中对这些模型进行了解释。然而，要充分理解模型并实践，一个跟一个的概念会让人望而却步，以视觉化的表达则更容易让人理解。
手把手教你用UNet实现轨道缺陷检测（附RSDDs数据集下载与完整代码）
本文详细介绍了如何使用UNet模型实现轨道缺陷检测，包括RSDDs数据集的下载与处理、UNet架构的改进与优化、训练策略设计以及模型部署的全流程。通过实战案例，展示了如何利用深度学习技术提升工业质检效率，特别适合从事工业缺陷检测和图像处理的开发者参考。
神经网络机器翻译与注意力机制
路荣伟 : （2021214341 信息科学与技术 计算机技术 tntnnlrw@163.com） #mermaid-svg-WpAeogIIZ9iHJtZs .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-WpAeogIIZ9iHJtZs .label text{fill:#333}#mermaid-sv..
无需云服务器：飞牛云NAS+Docker搭建本地WordPress站点全球访问
在数字化浪潮中，网站搭建已成为个人和企业在推广自身品牌与业务的首要选择。飞牛云新推出的fnOS，这款集多功能于一身的nas系统，以其卓越的性能和灵活性，成为理想的本地网站部署平台。本文将带你一探如何在飞牛云NAS上通过Docker部署WordPress，并利用cpolar实现全球访问。
四足机械臂避坑指南：从URDF配置到逆运动学控制的完整流程
本文为四足机械臂（Loco-Manipulation）系统开发提供了一份详实的实战避坑指南。文章深入剖析了从URDF模型配置、核心控制循环设计到逆运动学（IK）求解与奖励函数构建的完整流程，重点讲解了如何避免关节命名错误、惯性参数设置不当、IK求解不稳定等常见陷阱，并强调了利用collision_bbox等可视化工具进行高效调试的方法，旨在帮助工程师构建稳定、高效的四足机械臂控制系统。
Sequence-to-Sequence模型原理
1. 前言 本文讲解Sequence-to-Sequence（Seq2Seq）模型和机器翻译原理。 本人全部文章请参见：博客文章导航目录 本文归属于：NLP模型原理与应用系列 前文：循环神经网络的改进：多层RNN、双向RNN与预训练 ...
第三方系统（异构系统）基于token身份认证方式访问Ecology9的Restful接口Ecology9服务器配置部分
通过Token的认证方式调用Ecology9系统Restful业务接口服务器配置部分
神经网络中的Attention-2.Sequence-to-Sequence (Seq2Seq)
在之前的文章中，介绍了注意力机制，并概述了它的(不那么短的)历史。在这篇文章中，将解释Sequence-to-Sequence (Seq2Seq)架构，它带来了神经机器翻译的重大突破，并推动了Attention的发展。 动机-序列问题 深度神经网络是在各种任务中对非线性数据进行建模的高效工具。在图像分类、句子分类等多种任务中，深度神经网络已被证明是有效的。然而，传统的架构，如多层感知机，在建模序列，如信号和自然语言的效率较低。因此，Seq2Seq被提出来将序列输入映射到序列输出。Se
当知识图谱遇见多模态：突破文本界限的智能认知革命
本文探讨了知识图谱与多模态技术的融合，揭示了其在医疗诊断、文化保护等领域的革命性应用。通过图神经网络、对比学习框架和跨模态注意力机制等技术，实现了文本、图像和音频数据的智能关联与认知。文章还分享了在Neo4j等图数据库中的实践案例和优化策略，为构建下一代智能认知系统提供了技术参考。
SAP 替代关系完全替代简介
这里产生了成品物料的计划订单，我们查看计划订单中BOM的变化，如下图可以看到物料的需求仍然落在了优先级为1的这个302300005555这个物料上面，并没有考虑到302300006666的这个库存，和我们理解的MRP的完全替代不一样，按我们的理解需求应该是要落在302300006666这个物料料，但是MRP计算后并没有这样进行分配。最近用户在对长周期物料进行备料的时候又提出替代料的问题，主料库存不足的时候需要考虑替代料的在途库存，经常会忘了SAP标准的替代料逻辑，这次一次性把这个逻辑写清楚。
动手入门深度学习笔记-机器翻译(注意力机制与Seq2seq模型,Transformer)
机器翻译 1.定义 将一段文本从一种语言自动翻译为另一种语言， 用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 2.code 实现 ## 机器翻译定义 """ 主要是将一段文本从一种语言自动翻译成另外一种语言 输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同 """ import os o...
【KingSCADA】如何建立硬件系统及相关变量
本篇主要讲解如何定义设备，如何定义变量。KingSCADA3.8的采集系统是指负责和现场设备进行通讯，并采集现场数据和控制现场数据的模块，称之为采集器，也叫IOServer应用，它是一组独立的应用程序，可以脱离KingSCADA3.8软件，它依赖于KingSCADA3.8驱动产品，通过驱动与IO设备进行通讯。采集系统由通讯链路，设备，数据块组成。链路：链路是指计算机通过什么方式（接口）与设备进行连接，链路类别：串口，以太网，GPRS，Modem，通信卡，采集卡，无链路。
[翻译] 可视化神经网络机器翻译模型（Seq2Seq模型的注意力机制）
Seq2Seq模型是深度学习模型，在机器翻译、文本摘要和图像字幕等任务中取得了很大的成功。谷歌翻译于 2016 年底开始在生产环境中使用这种模型。这些模型在两篇开创性论文中进行了解释（Sutskever et al., 2014, Cho et al., 2014）。然而，我发现要充分理解模型以实现它，需要解开一系列相互叠加的概念。我认为如果以视觉方式表达这些想法会更容易理解。这就是我在这篇文章中的目标。...
【30天从零玩转AI应用开发】第16篇：智能体Agent入门——ReAct框架原理+首个会思考、会动手的AI实战
摘要： 本文介绍了AI智能体(Agent)的核心概念及其与普通大模型(LLM)的区别。通过ReAct(Reason+Act)框架，智能体实现了自主思考、调用工具和分步执行的能力。文章详细讲解了LangChain Agent的四大组件，并推荐新手使用ZERO_SHOT_REACT_DESCRIPTION类型。最后提供了一个完整的智能体实战代码示例，该智能体具备数学计算和天气查询功能，能够自主选择工具完成任务，展示了AI从”被动回答“到”主动行动“的关键进化。
VB摄像头监控
该VB模块可对摄像头捕获的画面进行录像等，可在创建的窗口进行控制
机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer
机器翻译及相关技术 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 字符在计算机里是以编码的形式存在，我们通常所用的空格是 \x20 ，是在标准ASCII可见字符 0x20~0x7e 范围内。 而 \xa0 属于 latin1 （ISO/IEC_88...
Probability and Statistics - 4th edition
Probability and Statistics - 4th edition
《动手学深度学习》笔记 Task04 机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer
机器翻译和数据集 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 数据预处理 将数据集清洗、转化为神经网络的输入minbatch 分词 字符串---单词组成的列表 建立词典 单词组成的列表---单词id组成的列表 载入数据集 Enc...
TMS_WebGMaps_1.9.8.0_Full_Source
TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder
jdk-8u144-linux-x64.tar.gz.
该资源为搭建Linux系统Java环境用，资源的后缀为tar.gz格式的压缩包
Task04：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer学习笔记
机器翻译和数据集 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 import sys sys.path.append(’/home/kesci/input/d2l9528/’) import collections import d2l impor...
pytorch-知识点笔记4/5-卷积神经网络基础；leNet；卷积神经网络进阶机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer
本文记录学习下面三个任务过程中思考过的问题及大家讨论过程中学习到的知识点，欢迎指正。 过拟合欠拟合及其解决方案 梯度消失、梯度爆炸 循环神经网络进阶 基础知识部分直接参考Dive-into-DL-PyTorch 如何构建Vocab时使得总得查询次数最少 根据词频，和构建Huffman树同样思想，所以此处增加sort class Vocab(object): # This class is sa...
CS224N笔记(五) Lecture8 机器翻译、Seq2Seq以及Attention注意力机制
一、背景知识 机器翻译，Machine Translation，简称MT，是一种运用计算机将一个句子从一种语言翻译成另一种语言的技术，是自然语言处理领域中一项重要的任务。机器翻译最早可以追溯到19世纪50年代的冷战时期，其目的是实现英语和俄语的翻译，但那个时候的技术手段主要是基于规则。之后到90年代才出现了基于统计学的机器翻译技术，而在2010后乘着深度学习的风，神经网络也被大量应用于机器翻译中，并且取得了长足发展。下文将对统计机器翻译和神经网络机器翻译进行详细介绍。 假设要将某种语言的一个句子xxx翻译成
动手学深度学习Task04
笔记摘自课程内容。 机器翻译和数据集 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 数据预处理 数据清洗主要去除多余字符以及特殊字符（通常指计算机无法编码）。其次是进行分词，将字符串组成由单词构成的列表，然后再建立词典，即单词id组成的列表。 En...
机器翻译——英译中
1. 前言 本文使用飞桨（PaddlePaddle）训练机器翻译模型，实现从英文翻译成中文的机器翻译。 本人全部文章请参见：博客文章导航目录 本文归属于：NLP模型原理与应用系列 前文：BERT与ERNIE
Task04：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer
机器翻译和数据集 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 import sys sys.path.append('/home/kesci/input/d2l9528/') import collections import d2l impor...
【笔记3-7】CS224N课程笔记 - 神经网络机器翻译seq2seq注意力机制
CS224N（七）Neural Machine Translation, Seq2seq and Attention seq2seq神经机器翻译历史方法seq2seq基础seq2seq结构-编码seq2seq结构-解码神经机器翻译示例双向RNN注意力机制动机Bahdanau et al. NMT翻译对齐长句上的表现其他模型Huong et al. NMTGoogle’s new NMT更多使用注意...
自然语言处理的机器翻译：如何实现高质量的多语言翻译
1.背景介绍 自然语言处理(NLP)是计算机科学的一个分支，研究如何让计算机理解、生成和处理人类语言。机器翻译是NLP的一个重要分支，旨在将一种自然语言翻译成另一种自然语言。随着深度学习和大规模数据的应用，机器翻译技术取得了显著的进展，使得高质量的多语言翻译成为可能。 在本文中，我们将讨论机器翻译的核心概念、算法原理、具体操作步骤和数学模型。我们还将通过实例和解释来解释代码，并讨论未来发展趋势...
[动手学深度学习PyTorch笔记四]
一 机器翻译及相关技术 机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 首先进行数据预处理，将数据集清洗、转化为神经网络的输入的minbatch，包括分词、建立字典、载入数据集。 Encoder-Decoder 一种通用模型框架。Encoder：编码...
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
1286
扫一扫
