由浅入深了解统计机器翻译模型

已于 2022-03-25 21:19:44 修改
阅读量2.4k 收藏 4
点赞数 1
文章标签： 机器翻译 nlp 深度学习 机器学习 人工智能
于 2022-03-25 21:18:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_51799151/article/details/123744884
版权
本文从最简单的TM翻译模型开始，介绍了如何通过语言模型LM进行优化，以及使用Viterbi算法解决高复杂度问题。进一步讲解了优化后的翻译模型，结合语义相似度和语言模型概率来提高翻译质量。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

一、最简单的机器翻译模型

在这里插入图片描述
TM(Translation Model)： 翻译模型，即他进行字对字翻译，不在乎语境，语义，语法，等等等等。
例如：
我们今天早上吃早餐
首先是将词语分隔在这里插入图片描述

然后词对词翻译
在这里插入图片描述
这样翻译语句肯定是不通顺的，所以我们要保证语句通顺。
所以 我们需要将这句话的所有词都进行排列组合
g_se,x_16)

4个词排列组合 一共有4！=

了解本专栏 订阅专栏 解锁全文 超级会员免费看
关于机器学习模型的评估方法
白话机器学习
04-17 3745
当我们辛苦搭建了一个模型后，如何能够知道我们的模型是否好用呢？这就需要了解具体的模型评估方法，本文将分别介绍机器学习中常见的两类问题（分类问题、回归问题）的模型评估方法。
大语言模型 - 提示词（Prompt）工程入门
热门推荐
秃了也弱了
08-16 1万+
提示词工程，或称Prompt Engineering，是一种专门针对语言模型进行优化的方法。它的目标是通过设计和调整输入的提示词（prompt），来引导这些模型生成更准确、更有针对性的输出文本。在与大型预训练语言模型如GPT-3、BERT等交互时，给定的提示词会极大地影响模型的响应内容和质量。提示词工程关注于如何创建最有效的提示词，以便让模型能够理解和满足用户的需求。这可能涉及到对不同场景的理解、使用正确的词汇和语法结构，以及尝试不同的提示策略以观察哪种效果最佳。1、明确具体：加入场景要求、具体任务。
中日机器翻译模型：基于Transformer和PyTorch
m0_66626512的博客
06-26 1148
设置随机种子的作用是确保在每次运行代码时生成的随机数相同，这样可以提供代码的可重复性和结果的一致性。这些掩码在编码器和解码器中用于确保模型不会处理填充的位置（即序列中用于对齐的空位置），从而提高模型的性能和准确性。最后，将Google Drive挂载到Colab的文件系统中，以便于数据集的使用以及代码的保存（Colab的文件系统在每次新的会话开始时都会重新初始化，不会保留之前会话中。通过查看具体的样本，可以确认数据是否符合预期，并且可以发现潜在的格式或内容问题，用于确保数据集的正确性和完整性。
统计机器翻译中翻译模型的构建
江湖不相信眼泪
01-14 1053
因为课程的缘故，需要和同学一起折腾一个统计机器翻译工具出来。我的工作就是翻译模型构建这一步。根据网络上的说法，我使用了GIZA++这个工具。以下内容参考了如下资源: 翻译系统搭建,这个资料算是比较全面的，但是在没有说明应该使用哪个版本的GIZA++和mkclsGIZA++实验报告,比上面文档更加详细（翻译模型这一块），也给出GIZA++的版本和一些解决方案，但是我没有使用，但是命令都是采
基于Transformer架构的机器翻译模型构建与优化
最新发布
加入“Super Entity”，与全能开发团队共探AI智能体与数字人项目，开启前沿技术之旅。
05-05 1130
机器翻译（Machine Translation, MT）是自然语言处理（NLP）领域的重要应用之一，其目标是将一种语言的文本自动翻译成另一种语言。随着深度学习技术的发展，尤其是Transformer架构的提出，机器翻译的性能得到了显著提升。Transformer架构通过引入自注意力机制（Self-Attention），能够更高效地处理序列数据，并捕捉长距离依赖关系。
肖桐、朱靖波老师-《机器翻译统计建模与深度学习方法》
lqfarmer的博客
05-30 874
分享一本由肖桐、朱靖波老师编著，东北大学自然语言处理实验室 · 小牛翻译联合出品的新书《机器翻译统计建模与深度学习方法》。本书中文编著，对机器学习相关历史和涉及知识进行详细、全面、深入讲解，非常值得深入阅读、学习。 资源整理自网络，感谢两位老师及相关团队辛勤整理和无私分享，源地址：https://opensource.niutrans.com/mtbook/index.html 本书全面回顾了近三十年内机器翻译的技术发展历程，并围绕统计建模和深度学习两个主题对...
机器翻译模型五CNN+seq2seq__Pytorch实现
weixin_38544305的博客
04-17 3723
介绍CNN应用在Seq2Se，并基于pytorch实现
机器翻译—统计建模与深度学习方法—3
lakomi的博客
07-27 1309
机器翻译阅读笔记-3第三章 基于词的机器翻译模型1 什么是基于词的机器翻译模型2 构建一个简单的机器翻译系统2.1 如何进行翻译？2.2 基本框架 第三章 基于词的机器翻译模型 1 什么是基于词的机器翻译模型 在翻译一个句子时，可以把其中的每个单词翻译成对应的目标语言单词，然后调整这些目标语言单词的顺序，最后得到翻译结果。 过程分为三个步骤： 分析：将源语言的句子切分成能够处理的最小单元。简单来说就是分词 转换：把每个单词，从源语言单词翻译成目标语言单词 生成：整合句子，变成通顺且合语法的句子 2 构建
机器学习技术课程 统计学习方法第二版系列课程 全部课程PPT课件 由浅入深 讲解清晰 共22个章节.rar
04-30
第1章 机器学习和统计学习 共75页.pptx 第2和12章 感知机和统计学习方法总结 共27页.pptx 第3章 k-近邻算法 共69页.pptx 第4章 贝叶斯分类器 共79页.pptx 第5章 决策树 共98页.pptx 第6章 Logistic回归 共75页.pptx ...
统计学习方法_李航
11-03
叙述从具体问题或实例入手，由浅入深，阐明思路，给出必要的数学推导，便于读者掌握统计学习方法的实质，学会运用。为满足读者进一步学习的需要，书中还介绍了一些相关研究，给出了少量习题，列出了主要参考文献。 ...
网络数据统计分析方法与模型研究
3. **由浅入深(Step by Step)**: 表示本书可能采取了循序渐进的叙述方式，从基础的统计概念开始，逐步介绍更复杂的网络分析模型和方法。 ### 标签知识点 1. **Statistical Network**: 一个研究领域，结合了统计学...
统计机器翻译
11-22
用于语料库的对齐处理，在统计机器翻译方面运用广泛。
基于句法的统计翻译模型.pdf
04-02
刘群 熊德意 刘洋 句法 机器翻译 统计翻译模型
机器翻译模型简介（一）
u013453936的专栏
08-26 7598
本系列将记录一些最近的机器翻译模型，作为笔记，以备日后查看。 1、Google’s Neural Machine Translation System: Bridging the Gap between Human and Machine Translation        这篇论文试图解决神经网络机器翻译的一些问题：1、较慢的训练与预测速度，2、解决稀少词的预测3、不能够完全覆盖翻译源句。...
Paper | 机器翻译里程碑，多语言机器翻译模型 M2M-100
机器学习算法与Python学习
10-28 1385
（给机器学习算法与Python学习加星标，提升AI技能）荐语：多语言机器翻译模型 M2M-100不依赖以英语为中心的数据，可以实现 100种语言之间的相互翻译。论文：Beyond E...
机器翻译模型简介（二）
u013453936的专栏
08-26 1876
本系列将记录一些最近的机器翻译模型，作为笔记，以备日后查看。 2、Convolutional Sequence to Sequence Learning        本文提出用卷积网络进行序列到序列模型的建立，针对循环神经网络中现有的时序优势，将卷积网络进行改进，采用pos embedding,多跳attention以及多层卷积等，以将卷积适用于这种时序的场景。 整体框架如下图：   ...
机器翻译：基础与模型（Machine Translation: Foundations and Models）
qq_52181283的博客
07-10 1158
这是一个教程，目的是对机器翻译的基础知识和建模方法进行较为系统的介绍，并在此基础上对机器翻译的一些前沿技术展开讨论（前身为《机器翻译：统计建模与深度学习方法》）。
004-基于统计的翻译系统
weixin_30569001的博客
10-28 414
双语数据预处理 学习目标：了解和学习开发汉英双语数据预处理模块。 双语数据预处理是统计机器翻译系统构建的第一步，为词对齐处理提供分词后的双语数据。预处理的工作本质上就是双语数据的分词处理，与传统分词不同的一点在于需要对一些特定类型词汇进行泛化处理，如数字词汇“123.45”泛化为“$number”来代替原文。本讲中以汉英双语数据为处理内容。 本讲学习内容： 中文分词预处理采用传统基于词典的...
机器翻译模型（MT、NMT、Seq2Seq with Attention）
十里清风
04-29 2218
seq2seq attention
深入了解卷积神经网络及AlexNet模型
根据提供的文件信息，我们可以了解关于“机器学习-14. 卷积神经网络深入、AlexNet模型”这一章节的知识点，并将这些知识点串联起来形成一个较为全面的知识体系。以下内容将详细介绍标题和描述中提及的知识点。 人工...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Mae_strive

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值