- 博客(4)
- 收藏
- 关注
RSS订阅原创 Training Language Models to Follow Instructions with Human Feedback论文阅读
最终得到的模型被命名为InstructGPT。FLAN（Wei等人，2021）和T0（Sanh等人，2021）等工作通过在广泛公开NLP数据集上微调语言模型（通常在每个任务前添加自然语言指令），并在不同的任务集上进行评估。正如论文在讨论中所强调的，对齐研究的目标是找到通用且可扩展的方法——不仅适用于今天的语言模型，也适用于未来的、能力更强的AI系统。在人类评估中，仅有1.3B参数的InstructGPT模型的输出，被偏好程度超过了175B参数的GPT-3模型的输出——尽管前者参数数量仅有后者的百分之一。
2026-05-21 14:27:27
510
原创 Minimind-训练过程（暂时使用kaggle）
Minimind 是一个“小”语言模型，系统较为轻量，主线最小版本体积约为GPT-3的1/2700。完整的模型同时开源了大模型的极简结构与完整训练链路，覆盖 MoE、数据清洗、预训练（Pretrain）、监督微调（SFT）、LoRA、RLHF（DPO）、RLAIF（PPO / GRPO / CISPO）、Tool Use、Agentic RL、自适应思考与模型蒸馏等全过程代码。从该模型中可以初步感受模型训练过程，入门LLM。
2026-04-24 02:04:21
486
原创 《Attention Is All You Need》阅读笔记
在如今的神经网络中，我们大量讨论的莫过于Transformer架构，这个2017年由《Attention Is All You Need》带来的变革之作。在这篇具有突破意义的论文中首次提出了Transformer这种神经网络架构，其完全基于注意力机制，摒弃了传统的卷积操作。在自注意力机制下，Transformer能够有效捕捉输入序列中的长距离依赖关系，使得模型在处理长文本时更为高效和准确。而Transformer逐渐也从翻译走向了问答任务，我们所熟知的GPT就是根源于Transformer架构。
2026-04-05 11:29:49
391
原创 神经网络概率语言模型 ——A Neural Probabilistic Language Model
而在改进后提出给每个词学一个连续低维向量取代独热编码，相似词距离更近，实现高维空间的低维嵌入，用连续空间的平滑性替代离散空间的稀疏性，从数学底层解决了高维离散数据建模的核心困境，让模型第一次具备了 “语义泛化” 的基础，从而在根源解决维数灾难。Bengio 在论文开篇就直击当时存在的一大痛点，当处理的量级很大时，穷举可能性会呈现指数级爆炸，n-gram主要统计语料中出现的词语的组合，以此来估算下一次的可能，因此如果词汇表规模可达 10 万级，10个词的序列组合达到10⁵⁰，就会导致参数爆炸。
2026-03-19 20:33:09
304
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人