t11383的博客

最典型的就是检索增强的学习，例如 New Bing，通过将基础模型与现有工具融合，从而使得现有工具获得更好的性能。同时，人类在不同工具间的使用经验也可以被泛化，如人类在使用剑的时候学会了刺的动作，那么在使用长枪时也可以泛化使用刺的动作，因此。大模型的工作方式类似于人类的认知系统1，而构建系统2，就是要让AI通过语言推理、记忆调用、自我思考和规划，将复杂问题拆解成由系统1组成的流程单元，分别执行不同的任务从而达到目的，并在多次实践和运用中沉淀为“经验”数据提供给系统1去训练，从而让系统1获得新的能力。

所以虽然ChatGPT已经把“调用计算力的手段”无限趋近于最合理的手段（用自然语言要求结果），但是我们已经发现，“提出信息完整的prompt”，对现在的人来说，是一个高要求。如果类比成机器学习模型，过往“鹦鹉学舌”范式的解法，是要求所有乌鸦可以共享一个大脑，它们有很清晰的优化目标，即“保住性命的前提下打开坚果”理解能力带来了举一反三的能力，逻辑推演的能力，“知错”就改的能力。“增加模型参数”这件事需要工程能力，更难的是“让大模型有效地学习到大数据中的知识”，以及如何调教模型产出人类需要的输出。

第二，人的模型，包括认知/任务模型，它是个体的，其中有专业模型，有认知模型、运动模型和人的记忆先验。人基本是这几类模型的组合，律师也好，医生也好，大量领域会有大量模型往前走。这一次大模型拐点会让所有服务经济中的人、蓝领基本都受影响，因为他们是模型，除非有独到见解，否则你今天所从事的服务大模型都有。第一是事情的模型，人类每一类需求都有领域/工作模型，其中有结构模型、流程模型、需求模型和任务模型，尤其是记忆和先验。如果你没有多大见解，你的模型能力大模型都有，或者大模型会逐步学会你所有的模型，那会怎样。

语言的转换器就是把语言的序列作为输入，然后用一个叫做编码器 encoder 的东西变成数字的表现（比如 GPT 就用 1536 个浮点数（也叫 1536 维向量）表示任何的单词，或者句子，段落，篇章等），然后经过转化，变成一串新的序列，最后再用 decoder 把它输出。在开放参考书第一部分，最吸引我的是它们对于教育科技、教育科技公司可能给教育带来的风险的清醒认知、对于教师需要“监管”AI的重要性的强调，并以此论述教师需要学习AI的缘由。「一个预先训练好的，用生成的方式，把输入文字转化成输出文字的翻译。

今天尝试了使用九章随时问，起因是看到快刀青衣的AI产品好用榜，里面这么介绍九章随时问：「它不是像其他产品那样，直接给你出答案。而是跟你语音对话，你会感觉更像是有一位老师坐在你的旁边，一步步引导你思考这道题的答案是什么。只有孩子反馈说我理解了，才会进入到下一步的讲解。如果遇到没听懂的地方，你也可以直接跟AI说我没听懂，AI会马上换种讲法再讲解一遍。而普通的搜题软件，如果题库里找不到这个题，可能就哑口无言了。所以我对它的评价是：它像是孩子的一对一数学AI家教。嘿！我顿时心中惊喜。