5 -- 语言模型（1）

聚焦深度学习
最新推荐文章于 2025-12-05 16:19:27 发布
原创 最新推荐文章于 2025-12-05 16:19:27 发布 · 218 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习

博客围绕深度学习展开，但具体内容缺失。深度学习是信息技术领域重要方向，在图像识别、自然语言处理等多方面有广泛应用。

DeepSeek-V3-Base 模型技术解析
zhangjiaofa的专栏
12-31 2726
DeepSeek-V3-Base 是一个基于 Transformer 架构的预训练语言模型，旨在通过大规模数据训练，捕捉语言的深层次语义信息。该模型在多个 NLP 任务上表现出色，如文本分类、命名实体识别、机器翻译等。大规模预训练：使用了超过 1000 亿个 tokens 的语料进行预训练，涵盖了多种语言和领域。多任务学习：在预训练过程中引入了多任务学习机制，使得模型能够更好地泛化到不同的任务。高效的训练策略：采用了混合精度训练和分布式训练等技术，显著提高了训练效率。
【人工智能AI】Meta开源AI语言模型NLLB-200
AI天才研究院
03-25 2万+
虽说这些翻译工具支持的语言只有 100 多种，再加上全世界一半以上的人口所使用的语言就那么十几二十种，翻译工具是能够满足大部分用户的使用需求的，但这对那些使用低资源语言（特别是在非洲）的用户来说就十分不友好，导致这些语言的使用者和他们希望消费的内容之间的交流受到了阻碍。测试表明，新的 NLLB-200 模型在支持的语言中获得了平均 44% 的 BLEU 分数的提升，在针对某些非洲和印度方言的测试中甚至提升了 70%。以大家熟知的 Google 翻译为例，它目前能够翻译的语言数量仅限于 133 种；
[NLP] 实体链接论文阅读—Entity Linking for Chinese Short Texts Based on BERT and Entity Name Embeddings
VIPsucks的博客
12-23 4456
Entity Linking for Chinese Short Texts Based on BERT and Entity Name Embeddings 写在前面： 最近在阅读实体链接论文，实体消歧是实体链接必须有的步骤，而实体链接的前一步为实体识别，对于只想知道本文到底用什么方法进行实体消歧并实体链接的，请直接移步第三部分Model架构的描述。这次直接用raw markdown写了，尝试过...
具身智能的视觉-语言-动作模型：综述
yorkhunter的博客
05-26 4910
24年5月论文“A Survey on Vision-Language-Action Models for Embodied AI”。
自然语言处理-----语言模型 Language Model
丁磊_ml的博客
07-28 3034
文章目录Language Model(LM) 简介Chain Rulesparsity 稀疏性问题马尔可夫假设Language Model: Unigram, Bigram, N-gram举例：Unigram, Bigram 模型的训练过程和使用UnigramBigram语言模型的评估-----Perplexity平滑函数Add-one Smoothing (也就是 拉普拉斯平滑)Add-K SmoothingInterpolationGood-Turning Smoothing语言模型的应用：生成句子
Phi-2：小型语言模型令人惊人的能力
u011426236的博客
05-06 2178
与传统的网络数据相对比，生成和利用具有“教科书质量”的数据；吸收扩展规模的最佳实践，以增强整体性能。
Fama-French三因子模型
小壁虎的春天
12-26 9529
什么是Fama-French三因子？ Fama French三因子模型是对CAPM模型的一个扩展。CAPM模型认为：（1）证券资产的预期收益和它的市场Beta之间存在一个正向的线性关系，Beta越大，资产的预期收益越大；（2）市场Beta足以解释证券资产的预期收益。 Eugene Fama和Kenneth French，两位来自芝加哥大学的教授（French目前是达特茅斯学院的教授），在CAP...
本地部署大语言模型-DeepSeek
tianrei_y的博客
03-02 2984
DeepSeek 是国内顶尖 AI 团队「深度求索」开发的多模态大模型，具备数学推理、代码生成等深度能力，堪称"AI界的六边形战士"。16 核以上（如 AMD Ryzen 9950）24GB+ 显存（如 RTX 4090）Web页面返回对话，2个数字比大小结果。
大语言模型系列-T5
君子之学必日新，日新者日进也。不日新者必日退，未有不进而不退者
01-24 6928
目前已经讲解了目前LLM的三大流派的两个起始模型：GPT-1（Decoder only）、BERT（Encoder only），但是这两个模型针对不同下游不同的NLP任务时还需要进行一定的修改（如添加一些线性层），Google经过庞大的预训练，最终提出了一个通用框架T5模型（Encoder-Decoder）， 将所有NLP任务转化为text to text任务，微调时无需再修改模型，直接在原模型上微调即可。ps：T5最核心的理念是：使用前缀任务声明及文本答案生成，统一所有自然语言处理任务的输入和输出。
自然语言处理基础知识入门(一) N-gram，NNLM模型讲解
WANGYANG的博客
03-27 3025
在之前的博客中介绍了图神经网络(Graph Neural Networks, GNNs)的内容，旨在帮助初学者快速掌握这一复杂领域，以便于读者迅速投入到科研工作中去。在浏览这些图神经网络相关的资料时，读者经常会遇到一个关键术语 —— “嵌入表示”（Embedding），该术语用于描述图结构中单个节点的特征信息。尽管许多初学者可能对这个概念感到陌生，但它实际上起源于自然语言处理（NLP）领域。为了深入理解"嵌入表示"这一概念，拥有NLP背景知识显得尤为重要。
开源模型应用落地-解锁大语言模型的无限潜能
以微薄之力，予他人些许温暖.
01-11 2万+
1、您是否也在迫不及待地期待在AI时代中展示自己的能力？ 2、您是否一直在研究如何使用开源模型？ 3、您是否一直在寻找将AI与业务结合的方向？ 4、您是否一直在寻找模型推理加速的方法？ 5、您是否一直在努力整合来自互联网上零散的资料？
语音识别-浅谈语言模型
qq_39354864的博客
05-30 1297
语音识别-语言模型统计语言模型统计语言模型的定义统计语言模型的作用其他知识如何计算语言模型中的概率常见术语n-gram语言模型n-gram语言模型的估计 统计语言模型 统计语言模型的定义 统计语言模型是所有词序列上的一个概率分布： 统计语言模型的作用 1.计算任意词序列的概率，以便确定概率最大的词序列。 2.给定一个历史词序列，预测下一个出现概率最大的词，并计算这个概率。 假定s=(w1,w2,⋯ ,wn)\boldsymbol{s}=\left( w_1,w_2,\cdots,w_n\right)s=(w
C-Eval 大语言模型测评 - lm evaluation harness + vllm 跑测评
arkohut的博客
01-10 7939
C-Eval 是一个「知识评估基准」，参考国外的评测基准 MMLU 而来，发布于 2023 年 5 月 22 日和 MMLU 一样，C-Eval 都是客观题评测，所有都是单项选择题，每个题目 ABCD 四个选项，有唯一答案C-Eval 涵盖了 52 个不同学科，一共 13948 个题目，难度级别覆盖初中、高中、大学和职业考试52 个学科，每个学科拆分为三个数据集：dev、validation 和 test。
视觉-语言模型：BLIP与Flamingo如何理解图文？
热门推荐
优快云博客专家，系统架构师，有合作、疑惑请私信博主。
06-05 4万+
视觉-语言模型：BLIP与Flamingo如何理解图文？ ，人工智能，计算机视觉，大模型，AI，在当今人工智能飞速发展的时代，视觉 - 语言模型作为多模态领域的关键技术，正逐渐改变着我们与数字世界交互的方式。它们致力于打破图像与文本之间的模态壁垒，使计算机能够像人类一样，综合理解和处理视觉与语言信息。其中，BLIP 和 Flamingo 两款模型脱颖而出，以独特的架构和创新的训练方法，在图像描述生成、视觉问答、图文检索等任务中展现出卓越的性能。本文将深入剖析 BLIP 与 Flamingo 模型的工作原理。
【人工智能】【深度学习】④ Stable Diffusion核心算法解析：从DDPM到文本生成图像的飞跃
xiezhiyi007的专栏
12-02 1383
Stable Diffusion是AI绘画领域的革命性技术，其核心基于扩散模型：通过"拆快递"式的噪声添加（前向扩散）和"拼乐高"式的逐步去噪（逆向过程），实现从噪声到图像的构建。本文用快递分拣、乐高拼装等生活化类比，解析CLIP文本编码器（翻译文字指令）、VAE（图像压缩）和U-Net（智能拼图）三大核心组件。相比传统GAN模型，它避免模式崩溃，提升语义理解能力，成为文本生成图像的黄金标准。通过代码与架构图解析，帮助开发者快速掌握这项技术的核心逻辑。
深度学习1.4-pytorch安装
最新发布
诚朴勇毅
12-05 78
PyTorch 官方提供了几种安装方法，可以通过 pip 或 conda 进行安装。
深入浅出卷积神经网络（CNN）：从LeNet到Vision Transformer的演进及其实战应用
云雾J视界的博客
12-04 904
本文系统梳理卷积神经网络从LeNet到Vision Transformer的演进脉络，聚焦“为何选用ResNet而非VGG”这一典型面试问题，揭示其背后的技术选型逻辑。文章基于CVPR、ICLR等顶会论文及MLPerf等公开基准，深入剖析四代架构——奠基（LeNet/AlexNet）、深度爆发（VGG/ResNet）、效率觉醒（MobileNet）与注意力时代（ViT/ConvNeXt）的核心创新与工程权衡。
RNN、LSTM 区别
Bojun Jiang的博客
12-02 739
对比维度传统 RNNLSTM（长短期记忆网络）核心结构单一隐藏状态（h），无门控机制细胞状态（长期记忆）+ 隐藏状态（短期记忆）+ 3 个门控长距离依赖能力弱（梯度消失 / 爆炸，记不住长远信息）强（门控 + 细胞状态稳定传递长距离信息）参数复杂度低（结构简单，参数少）高（多了门控参数，计算量更大）训练难度易训练（参数少）但效果差（长序列）难训练（参数多、计算量大）但效果好（长序列）适用场景短序列数据（如 10 个词以内的短句、短时序）
深度学习1.1-软件安装-Anaconda软件与pyCharm软件安装
诚朴勇毅
12-03 598
为了研究深度学习与信号处理的结合，我又开始搞起了深度学习，博一的时候浅试过一次都失败了，这次打算学习一下Pytorch和一些最新的网络，好好做几篇论文。首先就是搭环境。我先安装了一个Anaconda，从网上搜了一大堆，我的理解是，Anaconda就是一个包管理器，因为pythoh版本太多了，而且要装的包也很多，各种包之间容易产生冲突，为了杜绝这个问题，我们可以安装一个Anaconda，它就像一个虚拟机，可以创建不同的操作系统，我们创建的不同任务和工程可以跑在不同的环境下。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值