
Transformer
文章平均质量分 94
故事挺秃然
攻城狮的故事挺秃然!!!
展开
-
NLP--一起学习Word Vector【实践】
在大模型时代,embedding成为一项必不可少的技术,主要是因为它能够有效地将大量高维数据(如文本、图像和音频信息)转换成更低维的、密集的向量表示。这种表示可以捕捉到数据的本质特征,并且在处理和计算上更为高效。通过embedding,模型可以在这些压缩的向量空间中学习数据之间的复杂关系和模式,从而提高了处理速度和准确性。此外,embedding使得模型能够在较小的表示空间中进行操作,减少了计算资源的需求,同时也便于模型的训练和推理,这对于处理现代大规模数据集尤为关键。原创 2024-10-24 17:43:03 · 1229 阅读 · 0 评论 -
NLP--Transformer概览【笔记】
你可以通俗易懂的了解,Transformer中的编码器、解码器是什么以及他们中间的细节所对应的概念是什么,具体中间是怎么变化的。原创 2024-01-11 11:47:39 · 937 阅读 · 0 评论 -
NLP--BERT你不知道的小细节【总结】
BERT论文中重读,记录其中额小细节。2阶段 + 2任务 + 3向量 + 11任务原创 2023-04-07 18:12:44 · 187 阅读 · 0 评论 -
NLP--Transformer探索(微观)【笔记】
Transformer学习细节,从微观上深入探索transformer,了解其发展与计算。原创 2023-03-15 15:24:46 · 264 阅读 · 0 评论 -
NLP--Transformer探索(宏观)【笔记】
学习transformer,要“知其然,知其所以然”,先从Embedding上来学习,从宏观和微观上来学习,宏观上整体把握Word Embedding->ELMO->BERT->GPT,再从微观上深入了解Transformer,掌握其细节流程。原创 2023-03-15 12:42:45 · 191 阅读 · 0 评论