银晗的学习博客

精准营销基于地理推荐能力乡村圈分析能力都市圈分析能力。

之前的一些研究更加注重算法设计和训练策略，**而忽视了模型固有的通用能力的发展，如知识记忆、长期规划、有效泛化和高效互动等**。事实证明，增强模型固有能力是推动智能代理进一步发展的关键因素。如果将 NLP 到 AGI 的发展路线分为五级：**语料库、互联网、感知、具身和社会属性**，那么目前的大型语言模型已经来到了第二级，具有互联网规模的文本输入和输出。在这个基础上，如果赋予 LLM-based Agents `感知空间`和`行动空间`，它们将达到第三、第四级。进一步地，多个代理通过互动、合作解决更

BERT的全称是Bidirectional Encoder Representation from Transformers，即双向Transformer的Encoder，因为decoder是不能获要预测的信息的。模型的主要创新点都在方法上，即用了Masked LM和两种方法分别捕捉词语和句子级别的representation。

扩散模型的详细学习，自己部署，然后学原理

Meta Learning（元学习）是一种机器学习技术，它的。Meta Learning的目标是。Meta Learning的核心思想是。Meta Learning的过程通常包括两个阶段：元学习和元测试。在元学习阶段，模型使用以前的学习经验进行训练，学习通用的学习策略和模式。在元测试阶段，模型使用已经学习到的策略和模式来快速适应和学习新的任务。

CNNCNN判别器fakeTensorrealTensor迁移：从源域进行学习 – 放到目标域进行使用源域和目标域之间的交叉部分！自适应：传统损失函数、特征自适应、模型自适应。

双向递归层可以提供更好的识别预测效果，但却不能实时预测，由于反向递归的计算需要从最末时刻开始，网络不得不等待着完整序列都产生后才可以开始预测。在对于实时识别有要求的线上语音识别，其应用受限。在实践中，如果序列过长会导致优化时出现梯度消散或梯度爆炸的问题，从而丧失学。GRU模型如下，它只有两个门了，分别为更新门和重置门，即图中的𝑧𝑡和𝑟𝑡。梯度消失的原因之一：tanh激活函数求导后的连乘。习到连接如此远的信息的能力。

Auto-Encoder (AE) 是20世纪80年代晚期提出的，它是一种无监督学习算法，使用了反向传播算法，让目标值等于输入值。输入- 隐层- 输出。

注意力和transformer的学习笔记，图文并茂很详细，适合小白更深一步的理解

重新仔细学一下CNN

特征白化、正则化和稀疏表示的笔记