一年前 LLM & AGI 碎片化思考与回顾系列① · Little Prompt，Big Power

阅读提示：
本篇系列内容的是建立于自己过去一年在以LLM为代表的AIGC快速发展浪潮中结合学术界与产业界创新与进展的一些碎片化思考并记录最终沉淀完成，在内容上，与不久前刚刚完稿的那篇10万字文章 「融合RL与LLM思想，探寻世界模型以迈向AGI」间有着非常紧密的联系，可以说，这篇长篇文章中的很多内容也是基于这些碎片化的思考与沉淀，当然也正是这样的一个个碎片化的、看似玄幻大胆、step by step的探索过程，才促成我最终完成那篇看上去并不是特别易读的文章。
因此，这个系列文章将以笔记的形式，去重新回顾体会一下自己去年的这些碎片化思考与探索历程，并希望将这些碎片化的、step by step探索式的思考与历程分享给大伙。一方面去回顾、修正自己之前的思考和观点，一方面作为那篇长文阅读的补充参考，并在其中的内容中标注出与其相关的阅读指针与提示。
在内容记录形式上，因为一年前自己的思考历程按时间顺序记录呈现出一定的主题割裂与内容的碎片化，我将尽量按照时间线顺序向大家呈现一年前自己的想法，内容上可能进行一些合并和整合但会保持原文内容不变。
另外大伙需特别注意哈，因为需保持之前内容不变（仅修改笔记上的笔误与错字），所以一年前的想法跟当前的认知可能会有较大的差异和改变，也会存在一些不成熟观点，千万不要被我当时片面的观点所误导。主要是也想给大家抛出一些过去技术进展当中存在的一些问题和关键点，当然如果大家针对我过去或刚完稿的那篇文章有更有建设性的意见甚至批评指正那就更好了！
最后，为了不让这个系列笔记显得不那么单调，在每一篇内容中会附上一些过去自己经历的有趣的生活照片或的图片，有吃喝玩乐，有学术美图，也有搞笑娱乐。

---

「2023年02月21日 · LLM给我们带来的Prompt世界」

背景提要 ↓

今天将回忆的时间点再尝试往前回溯1年3个月之前，ChatGPT刚刚面向公众开放服务的第5个月。在这5个月当中，除了模型其强大的内容生成能力给大众带来的持续冲击与一次又一次的惊喜之外，更多长期在这一领域从事研究或工作的人们也在逐渐接受和改变着之前自己无论从事于AI算法领域，亦或是AI工程化、AI产品设计的诸多工作内容与形式，其中有一项对于LLM来说非常特殊的关联技能，不管是对于模型在训练与推理阶段的算法建模创新来说，还是模型在推理与应用重构方面均变得尤为重要，即「prompt」。

当前，prompt技术已经成为人们围绕大语言模型·LLM的一项重要工具或技能，如不管是与在LLM的内容交互生成领域中的角色扮演、长上下文理解、COT或*OT等思维