PT资源汇总

  大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为优快云博客专家、人工智能领域优质创作者。喜欢通过博客创作的方式对所学的知识进行总结与归纳，不仅形成深入且独到的理解，而且能够帮助新手快速入门。

  本文主要介绍了PT资源汇总，希望能对学习PT原理的同学们有所帮助。

1. 从GPT-3到ChatGPT

https://yaofu.notion.site/GPT-3-5-360081d91ec245f29029d37b54573756

• 2018年6月的GPT(Generative Pre-trained Transformer)，其关键构成是基于Transformer-Decoder的Masked Self-Attention

• 2019年2月的融合prompt learning的GPT2，prompt learning的意义在于不用微调也能做任务