Datawhale-大模型时代的数据变革

uncle_ll uncle_ll 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 300+累计阅读 370平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄13年
关注
原创 最新推荐文章于 2026-05-17 04:52:58 发布 370 阅读 AI 写同款· GEO 优化 ›
2024 Datawhale 夏令营 零基础入门大模型技术竞赛 Task1 + Task2 AI夏令营 #Datawhale #夏令营记录自己参加 Datawhale 夏令营期间的学习心得，欢迎交流讨论这一版笔记主要是对 Baseline 跑通过程的记录、代码初步分析；直播讲解的观后心得。 阅读详情

在这里插入图片描述

大模型参数规模的研究

在这里插入图片描述

大模型参数规模的探索

在这里插入图片描述
计算量不变的话，参数量，规模，loss有一个平衡点，不一定越大越好，可能百亿模型效果优于千亿模型。

大模型预训练数据的研究

在这里插入图片描述

大模型数据配方的探索

在这里插入图片描述

大语言模型预训练数据集

在这里插入图片描述

OpenDataLab-浦数

在这里插入图片描述
在这里插入图片描述

语料基础

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
###

数据采集工具库

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

数据处理的难题

在这里插入图片描述

创新性描述语言DSDL

在这里插入图片描述
在这里插入图片描述

收录于
AIGC

当前文章被收录于：

AIGC
44 篇文章 4 人学习
订阅专栏 查看详情
DataWhale

当前文章被收录于：

DataWhale
23 篇文章 0 人学习
订阅专栏 查看详情
标签
#人工智能 #chatGPT #数据集 #OpenLab
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
DataWhale-AI+办公（初谈认识） Ai+办公技能的学习 阅读详情

相关推荐

从示波器波形看懂CAN/RS485/RS422：一个TVS管放错位置，通信全挂的教训

本文通过示波器波形分析，深入探讨了CAN/RS485/RS422通信系统中TVS管布局错误的故障诊断与解决方案。文章详细解析了错误布局导致的波形特征，如信号钳位、阻抗失配等，并提供了正确的保护电路设计方案和终端匹配技术，帮助工程师快速定位和解决通信故障。

weixin_30555515的博客 347

【Datawhale组队学习】2023年11月动手学大模型应用开发 —— 第一章 大模型简介

LangChain 框架是一个开源工具，充分利用了大型语言模型的强大能力，以便开发各种下游应用。它的目标是为各种大型语言模型应用提供通用接口，从而简化应用程序的开发流程。具体来说，LangChain 框架可以实现数据感知和环境互动，也就是说，它能够让语言模型与其他数据来源连接，并且允许语言模型与其所处的环境进行互动。LangChian 作为一个大语言模型开发框架，可以将LLM 模型（对话模型、embedding模型等）、向量数据库交互层 Prompt外部知识外部代理工具。

destiny_balabala的博客 497

python docx设置标题中文字体rPr.rFonts.set(qn(‘w:eastAsia‘),u‘黑体‘)，报错‘NoneType‘ object has no attribute ‘set‘

一、我的代码： 因为要编一个报告自动化生成的代码，所以用了python docx，在设置标题自己写了一段代码，要求将标题设置成：一级标题 黑体 小四 from docx import Document from docx.oxml.ns import qn from docx.shared import Pt def add_Head(document, level, text, font, size): # document word对象 # level 几级标题 # text 标题内容 # f

qq_40272386的博客 8859

【万字长文】Datawhale大模型入门超详细指南：通俗解析大语言模型LLM原理！

本文系统介绍了大语言模型的基础知识，从语言模型的演进历程（N-gram、RNN到Transformer）详细解析了Transformer架构的核心组件，包括自注意力机制和位置编码。同时介绍了与大模型交互的方法（提示工程、文本分词）、开源模型调用、模型选择考量因素以及大模型的缩放法则与局限性。这些内容为构建AI智能体提供了坚实的理论基础，适合初学者系统学习大模型技术。

2401_84204413的博客 1281

【医学影像】Deep Learning for Automatic Pneumonia Detection

写在前面的话： 这篇论文是北美放射学会（RSNA）在Kaggle平台上托管的肺炎区域检测挑战赛取得第二名成绩的解决方案。因为笔者需要用到其中的图像增强方案，因此本篇博客只介绍了数据集和图像增强，关于模型的改进和其它改进点没有涉及。 论文地址：https://arxiv.org/abs/2005.13899 代码地址：https://github.com/tatigabru/kaggle-rsna 比赛地址：https://www.kaggle.com/c/rsna-pneumonia-detection-c

chenzhoujian_的博客 1567

OpenHarmony + AI：深度解析 Whisper.cpp 智慧语音系统级移植与 NAPI 封装实战

【代码】OpenHarmony + AI：深度解析 Whisper.cpp 智慧语音系统级移植与 NAPI 封装实战。

m0_67505153的博客 188

数据模型篇之大数据领域建模综述

大数据领域建模综述

Listen·Rain的博客 1802

一文吃透 SAP IDoc 状态码：从 TEDS1 到 WE02 排障，再到 ABAP 自动化监控

在 SAP 集成场景里，IDoc 往往是最常见、也最容易被低估的一条生命线：采购订单、发票、主数据、库存移动……只要系统之间要稳定地交换结构化业务数据，IDoc 就经常登场。真正让人头疼的，并不是 IDoc 本身，而是它在链路里到底走到了哪一步、卡在了哪里、该找谁背锅。这篇文章把常用的 IDoc 状态码按出站、入站拆开讲清楚，并且把每个状态对应的真实世界故障现象、排查入口、以及可以落地的 ABAP 监控代码串起来，让你看到状态码就能想到动作。

2007 年 ~ 2025 年，深耕 SAP 技术 18 年 405

GPT-4发布！史上最强大模型来了

Datawhale分享最新：GPT-4，来源：量子位一觉醒来，万众期待的GPT-4，它来了！OpenAI老板Sam Altman直接开门见山地介绍说：这是我们迄今为止功能最强大的模型！有多强？根据OpenAI官方的介绍，GPT-4是一个超大的多模态模型，也就是说，它的输入可以是文字（上限2.5万字），还可以是图像。（看图）手套掉下去会怎样？它会掉到木板上，并且球会被弹飞。甚至只需要简单在纸上画...

Datawhale 491

OsgEarth —— 笔记1 - 创建地球的earth文件

效果         正文      1、准备一张全球的渲染图（tif格式）、一张全球的高程图（tif格式）        2、创建并编写.earth文件           在步骤1目录下创建china-simple.earth，并将如下内容写入。 <map name="Globe" type="geocentric" version="2"> <!-- 全球影像图 --> <image name="GlobeImage" driver="gdal"> &l

7681

基于大语言模型的学术论文阅读辅助分析系统的研究与应用

本文提出了一种基于大语言模型的学术论文阅读辅助分析系统PaperMind，旨在解决传统学术阅读方式面临的三大困境：信息定位困难、跨学科知识断层和手动整理耗时。系统采用检索增强生成(RAG)架构，通过PDF文档解析、语义分割、向量嵌入与FAISS向量检索相结合的技术路线，构建了完整的文档处理流水线。实验结果表明，系统在文档加载分割、向量检索与问答生成环节均达到预期性能指标，检索命中率最高达98%。该系统为学术文献智能化处理提供了可复用的技术方案，有效解决了通用大语言模型在学术场景中的幻觉引用、归因能力不足等问

huanghm88的专栏 94

Datawhale开源Self-LLM，人人都能玩转大模型时代！

《开源大模型食用指南》针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程。

pythonhy的博客 945

halcon与QT联合：（5.1）瓶盖检测以及QT界面搭建

halcon实现瓶盖检测与定位代码： dev_close_window() dev_open_window(0, 0, 1024, 1024, 'black', WindowHandle) list_image_files('C:/Users/TIMI/Desktop/picture/circle', 'default', [], ImageFiles) for J := 1 to 4 by 1 *read image read_image(halconImage, ImageFil

m0_37957160的博客 1044

Datawhale开源Self-LLM，人人都能玩转大模型时代！大模型入门到精通，收藏这篇就足够了！

《开源大模型食用指南》针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程。

Y525698136的博客 852

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册，内含HL7和ASTM)

Datawhale 动手学大模型应用全栈开发教程

本内容主要为Datawhale的动手学大模型应用全栈开发教程做介绍和让人实践。

2403_86973430的博客 807

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料，已经经过了本人的筛选和整理，希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助！

Datawhale出品：LLM大模型《GLM-4 大模型部署微调教程》发布！

智谱 AI 发布了最新开源模型 GLM4,通过 10T 高质量多语言数据与更先进的训练技术,达到了更加出色的生成效果。

Langchain的博客 1398

VC中sqlite的使用

在VC中对sqlite的使用，实现数据库大批数据的快速插入，读取数据库中的数据在ListCtrl中显示

Datawhale出品：《GLM-4 大模型部署微调教程》发布！

就在昨天，智谱 AI 发布了最新开源模型 GLM4,通过 10T 高质量多语言数据与更先进的训练技术,达到了更加出色的生成效果。

Langchain的博客 1787

Datawhale AI冬令营 | 大模型实战进阶

本文内容是Datawhale Al冬令营学习笔记。@August。

weixin_45092438的博客 1081

Datawhale AI冬令营 | 大模型微调入门

本文内容是Datawhale AI冬令营学习笔记。@August。

weixin_45092438的博客 1273

Datawhale AI 夏令营第四期 多模态大模型 task1 从零入门多模态大模型数据合成

赛事链接：是 Datawhale 2024 年 AI 夏令营第四期的学习活动——适合想的学习者参与：本赛事需要耗费大量的算力，跑通此baseline至少需要以上的，整个流程可能需要5小时，大家请自备算力，预留好时间，下面我们会以阿里云为例。：使用已有大模型和技术，在限定的计算资源下合成高质量训练数据，以增强多模态大模型的图像理解能力。

spring5的博客 2061

DataWhale冬令营-定制个人专属大模型(数据集构建源码思路分享)

Hello，大家好！我是GISer Liu😁，一名热爱AI技术的GIS开发者。本系列是作者参加2024DataWhale冬令营的BaseLine学习文章，希望我的分享能对各位学习者有帮助。😲在本文中，作者将通过以下几个部分，帮助读者理解整个微调LLM的流程并且分享作者自制的数据集生产代码，下面是文章主要内容大纲；LLM微调名词解释个人专属大模型定制流程构建个人数据集模型训练与部署。

极限突破者的博客 1418

[Datawhale AI夏令营 2024 第四期] 从零入门大模型微调之旅的总结

[Datawhale AI夏令营 2024 第四期] 从零入门大模型微调之旅的总结

comedate的专栏 587

Datawhale AI夏令营-大模型微调 学习记录

参与讯飞星火大模型驱动阅读理解题库构建挑战赛报名参加项目，并提交成绩参与评分，评分成功即可。如果经过学习得到的评分较高，还有机会赢取讯飞的奖金(第一名15000元、第二名10000元、第三名5000元)，非常有吸引力！

qq_44802279的博客 511

达到1k stars后，我对大模型开源教程的反思！

Datawhale干货作者：陈安东，Datawhale成员前 言“五·一”节后第一个开心的消息是我们开源的大模型基础项目(https://github.com/datawhalechina/so-large-lm)已经达到1k stars⭐️了。这个开源项目是为了提供浅显易懂且前沿的大模基础知识而打造的，能收获1k个stars⭐️也是对这个项目的肯定。我为一起付出努力的贡献者感到开心，也为这个...

Datawhale 1198
上一篇： Datawhale-基于向量检索减少chatGPT的幻觉
下一篇： Andrew Ng和OpenAI教你写prompt
点赞 0
评论 0
书签 书签 0
uncle_ll
uncle_ll 领域专家: 人工智能技术领域 领域专家: 人工智能技术领域
博客等级 码龄13年 5864粉丝 946原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

uncle_ll

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值