书生大模型实战营基础（1）——书生大模型全链路开源开放体系笔记

InternLM内容链接，点击跳转

书生·浦语的发展历程：

大海捞针实验简述：给模型提供一段非常长的背景知识，模型是否能完美定位这背景知识中的任何位置、任何信息。

20B的模型有着涌现（生成）现象，102B未开源

数据方面

预训练

讲一下智能体与大模型的区别：

大模型（Large Model）

• 定义: 大模型通常指的是训练在大规模数据集上的、参数量巨大的深度学习模型。典型的例子包括GPT-4、BERT、T5等。这些模型通过在海量数据上的训练，具备了强大的语言理解和生成能力。
• 应用: 大模型可以用于多种自然语言处理任务，如文本生成、翻译、问答、情感分析等。它们本质上是静态的，一旦训练完成，就可以用于推理任务，但不具备主动性或任务执行能力。
• 特点: 大模型的重点在于其强大的预测和生成能力，能够在给定输入的情况下生成高质量的输出。

大模型智能体（Large Model Agent）

• 定义: 大模型智能体是基于大模型构建的、具备主动性和任务执行能力的智能体。它不仅仅是一个被动的模型，还可以自主地进行推理、规划、决策和行动。
• 应用: 大模型智能体通常用于需要复杂任务管理、长期推理、动态环境适应的场景。例如，智能虚拟助手、自动驾驶系统、工业机器人等。
• 特点: 大模型智能体不仅包含大模型的语言理解和生成能力，还集成了任务管理、逻辑推理、环境感知等功能，能够自主完成一系列任务，而不仅仅是对输入做出反应。

主要区别

• 主动性: 大模型通常是被动的，只对输入进行处理。而大模型智能体具备主动性，能够自主决定行动。
• 功能集成: 大模型智能体整合了多种功能（如感知、推理、规划），而大模型主要关注语言处理能力。
• 应用场景: 大模型主要用于语言处理任务，而大模型智能体应用于更复杂、更动态的任务环境中。

两个demo

茴香豆