书生大模型全链路开源开放体系 | 书生大模型

一根老麻花

于 2024-11-11 10:36:23 发布

阅读量386

点赞数 3

文章标签： Agent 书生大模型

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.youkuaiyun.com/qq_45931691/article/details/143674040

版权

文章目录

书生·浦语 2.5 概览

在这里插入图片描述

核心技术思路

模型迭代

在这里插入图片描述

数据合成

在这里插入图片描述

基于规划和搜索解决复杂问题

在这里插入图片描述

书生·浦语开源模型谱系

在这里插入图片描述

20 B 才开始出现明显的涌现能力

在这里插入图片描述

数据

在这里插入图片描述

开源数据处理工具箱

在这里插入图片描述

预训练 InternEvo

在这里插入图片描述

微调 XTuner

在这里插入图片描述

最低只需 8 GB 显存即可微调 7B 模型

OpenCompass 评测体系

工具 - 基准 - 榜单三位一体

部署 LMDeploy

在这里插入图片描述

智能体

LLM 的局限性：

最新信息和知识的获取：不可能每出现一个新的知识，就微调一次模型，成本太高了
回复的可靠性
数学计算
工具使用和交互

在这里插入图片描述

企业级知识库构建

在这里插入图片描述

参考文献

https://www.bilibili.com/video/BV1CkSUYGE1v/?vd_source=92ae20b037ffc8aceaab1e118f74a5cc

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。