【AI】身为一个数据分析师,如何用LLM(大语言模型)替代你?

替代还是共生?LLM时代数据分析从业者的机遇与进化 阅读详情

如果你是一个数据分析师,或者你接触过数据分析师的工作日常,你一定知道:

数据分析师作为业务的数据支持者,往往一手握着不同来源的数据,以SQL等技术手段提取与处理他们;

另一手握着可视化方法、报表、报告等展现形式,对业务方、合作方、上级领导等展示这些数据的内涵与关系。

如果你了解近几年的AI技术,你一定知道当下人工智能已经具备非常强大的对话沟通能力(以ChatGPT为代表的大语言模型,大语言模型即LLM-Large Language Model)、文生图能力(以Stable Diffusion为代表的图生成模型)、图片理解能力(以Gemini为代表的多模态理解模型)、文生视频能力(以Sora为代表的文生视频模型)等。

这些模型已经可以让AI就像是人一样去处理许多文字、图片、视频等相关的工作。

AI将是未来发展的趋势,很多专家学者都提到,AI将会代替很多人类做的工作。居安思危,未雨绸缪,知己知彼,百战不殆。那么作为一个数据分析师,在AI可能替代掉你之前,不妨我们主动出击,先来了解了解,如何用AI替代你自己。

本文我们以LLM出发,推演AI替代一个数据分析师的几个阶段。

第一阶段:数据分析师使用LLM

使用LLM替代你的第一步,是你先要学会使用LLM。

在这一阶段,你只需要有一个和LLM可以交互的界面,就可以使用LLM强大的功能了。最初火起来的ChatGPT,或是当前前沿的GPT4都是理想的选项;国内一众大模型在中文方面的表现,于某些评测上已经超过了GPT4,故使用国内研发的大模型也是不错的选择,典型如文心一言、通义千问、讯飞星火、智谱清言等。

本文的示例LLM选择智谱清言的ChatGLM4【https://www.chatglm.cn/main/alltoolsdetail】。

数据分析师的日常工作可以大致上分为:拆解业务模式,制作数据指标体系,制作可视化看板/报表/报告。这几个步骤使用LLM均可以非常有效地提升各个环节的效率。

对于拆解业务模式,你可以直接从数据分析师的角度,向LLM提问,为自己所要分析的行业得到可靠的信息输入。例如,你做为一个电商数据分析师,在不知该如何下手的时候,就可以向LLM提问,获取一些分析思路,例如,你可能会展开如下的问答:

图片

制作数据指标及其体系,最基础的实操部分就是写SQL。

LLM是可以直接帮助你来写SQL的,你的描述足够清晰,写出的SQL就可以足够准确。例如:

图片

当然,你若是觉得还缺一些信息(如没有按照日期升序排列,日期加减没有按照预期的运算进行处理),也可以将你的需求融合到问题中,这样可以得到更为精确的答案。

数据分析师的另一个工作,就是制作报表、报告、可视化图表等展示材料。制作这些材料需要一些数据输入,这需要我们在提问时就将这些数据输入带入到问题中,让LLM根据这些数据进行扩写。例如:

图片

对于绘制图表,LLM有时可能无法帮我们直接完成,但可以帮我们生成制作图表的python代码。而在最新一版的ChatGLM4中,这些代码结果也可以被渲染出来,绘制图表就可以非常轻松地完成。

如果不使用LLM,完成以上所有步骤,可能既需要你查找资料,还需要构思SQL,或是打开一些文档软件或统计软件进行各个操作,但如今,使用LLM可以非常快速完成以上所有工作,大大提升一个数据分析师的工作效率。

第二阶段:让AI学会使用工具

完成了第一阶段,有些分析师可能就会说:AI虽然功能强大,但也并不是什么事都会做的,比如它写出了SQL,但没法读数据库吧。是的,一个崭新的LLM是不会读数据库,但如果你教会了他呢?这就需要提到一个非常著名的开源项目:LangChain[https://github.com/langchain-ai]。

LangChain 是一个用于开发由语言模型驱动的应用程序的框架。它专注于将LLM与其他数据源连接起来,并允许语言模型与其环境进行交互。LangChain 框架提供了两个主要的价值主张:

组件:LangChain 为处理语言模型所需的组件提供模块化的抽象。它为所有这些抽象提供了实现的集合,这些组件旨在易于使用,无论您是否使用 LangChain 框架的其余部分。

Chain:这些链可以被看作是以特定方式组装这些组件,以便最好地完成特定用例。这旨在成为一个更高级别的接口,使人们可以轻松地开始特定的用例。这些链也旨在可定制化。

LangChain可以以Tool的形式,将一些LLM不能直接操作的功能工具化,再将使用这些工具的时机、输入输出分析到位,就可以进行调用了。甚至,LangChain可以将上网检索集成为一个原装工具,这也构成当下很火的RAG(Retrieval Augmented Generation)LLM应用方案的主要依赖。别说是数据库了,整个互联网都会是LLM的“数据库”。

有了LangChain这类工具,LLM就可以被看作一个“大脑”,各种Tools就如同外设或四肢,AI也即可以真正被看作是一个“人”了。

图片

做为数据分析师,可以借助LangChain将一些常用的操作(如读数据库)加入到Tool集合中。国内的大模型也在开发类似的工具链,智谱AI就是其中一个不错的选择。

在教AI使用工具时,就不能仅仅依赖一个界面了。你需要将所谓的AI所暂时不会的“操作”(如读数据库)代码化,因此你需要写一些代码来完成这项工作。

关于LLM的部分,可以参照智谱AI开放平台,通过调用智谱AI的API,即可以使用大模型。具体见:https://open.bigmodel.cn/。

一个使用LLM查询的例子如下:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

以上运行结果为:根据您的请求,我已经查询到2022年1月23日从北京到广州的航班号为8321。

可见,LLM无法得知航班号,但通过函数调用的方式,即可以知道航班号,并进行阐述表达。做为数据分析师,可以把常用的像是查询数据、AB实验等做成“接口”,并在description【注意,代码中的description很重要,LLM会分析该字段来决定是否需要调用该接口】。

第三阶段:管理你的AI

有时我们向LLM提问,可以看到AI给出的答案说得是头头是道,但仔细验证会发现是有问题的。这种现象就是大模型的幻觉现象。

图片

解决幻觉现象的方法有两个主要的方向:一是把LLM训练得更加聪明,二是用多个AI配合(一个出结果,一个负责检查和质疑),以避免这种情况的发生。

图片

因此,我们在实际使用LLM时,可以实例化多个LLM助手。此时你就像一个老板,给自己的不同的LLM助手部置任务,让AI高效并且可靠地完成你的工作。

比如:

你可以让一个AI负责分析需求报告–>

一个AI负责将需求转成提数语句–>

一个AI负责取数据、清洗数据–>

一个AI负责制作报表或报告;

另创造三个AI,一个负责需求与提数的检查,一个负责提取逻辑与取数结果的核对,一个负责数据与报表或报告的一致性校验。整个过程就可以如同你多了七个助手帮你在做事,而你只需要将需求输入即可。

有一个开源项目chatdev(https://github.com/lgs/ChatDev)。以大模型为中心,构建了一个虚拟软件开发公司,在这个公司里,也有像是开发人员、测试人员、项目经理等角色,这些角色也均为AI。通过该项目我们可以见识到AI让软件开发变成了多么容易的一件事。

当然,有一点是不能忘记的。你理解AI可以为你做什么时,做为一个数据分析师同样也需要了解自己想要什么,只有将自己想要的清楚地表达出来,AI才可以理解到你的所求。

(如果AI暂时不能理解你的意图,不妨等LLM再迭代一版再试下?)

第四阶段:最后一步

如果你通过AI替代了你,最后一步就是:不要告诉你的老板。

​

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

LLM Agent之数据分析领域的应用 举个数据洞察的栗子,最早在 UG 用户增长部门工作时,每次 APP 活跃用户下降了,数据分析组收到的任务就是赶紧去分析活跃用户数据,看看到底用户为啥流失了,是被竞品抢走了,是最近上了什么新功能用户不喜欢,还是之前活动拉来的用户质量不高留存较少,基于这些数据洞察,好制定下一步挽留流式用户,激活沉默用户的具体方案。例如把活跃用户分成男女,老幼,不同城市,不同机型,渠道来源,不同阅读偏好等等维度,观察不同 subgroup 的用户他们的活跃是否发生下降,下降比例是否相同,是否有某个维度的用户组流失最显著。 阅读详情

相关推荐

LLM大语言模型:为数据分析师提供自然语言处理能力

1.背景介绍 自然语言处理(NLP)是人工智能领域的一个重要分支,它旨在让计算机理解、生成和处理人类语言。自从2018年的GPT(Generative Pre-trained Transformer)模型诞生以来,大语言模型(LLM,Large Language Model)已经成为NLP领域的主要研究方向之一。在这篇文章中,我们将探讨大语言模型如何为

AI天才研究院 463

LLM与数据分析

本文主要以LLM的应用为基础,说明LLM与数据开发、数据分析领域的相关工作以及未来可能存在的发展。搜索在传统数据库,搜索功能都是基于不同的索引方式(B Tree、倒排索引等)加上精确匹配和排序算法(BM25、TF-IDF)等实现的。本质还是基于文本的精确匹配,这种索引和搜索算法对于关键字的搜索功能非常合适,但对于语义搜索功能就非常弱。

weixin_37172178的博客 2634

GPT-4是一个好的数据分析师吗?

GPT系列等LLMs在自然语言处理(NLP)社区的各种任务上显示出强大的能力,包括数据注释器(Ding et al., 2022),数据评估器(Chiang and Lee, 2023;Luo等人,2023;Wu等人,2023b;Shen et al., 2023)等。在NLP社区之外,研究人员还评估了多个领域的LLMs能力,如金融(Wu et al., 2023c)、医疗保健(Han et al., 2023;

m0_47867638的博客 9556

如何使用 LLM 进行数据分析: 用 5 个步骤为您的数据增压

利用大型语言模型(LLMs)进行数据分析是一种改变游戏规则的方法,能够以出色的精度和效率处理和解释庞大的数据集。使用大型语言模型(LLM)进行数据分析,可以大大提高您从庞大的数据集中提取有意义见解的能力。随着技术的进步和新方法的出现,与时俱进至关重要。利用这些先进的人工智能工具,将您的数据转化为可操作的智能,推动您的业务向前发展。通过在 LLM 分析中采用这些优化技术,您可以将数据分析提升到新的高度,并获得更深入的数据洞察力。虽然 LLM 是一个强大的工具,但了解常见的误区以避免不准确的结果也很重要。

SmartGarret的博客 2139

惊艳之作!数据分析师借助AI智能体实现智能化数据洞察的惊艳之作解析

在深入技术细节之前,让我们明确什么是AI智能体(AI Agent)AI智能体是一个能够感知环境、自主决策并执行行动以实现特定目标的智能系统。在数据分析场景中,AI智能体能够理解用户的分析需求,规划并执行数据分析流程,调用必要的工具,并以人类可理解的方式呈现结果。1. 自主性(Autonomy)无需持续人工干预,能够独立完成分析任务例:自动决定数据清洗步骤,无需分析师指定每个操作2. 目标导向(Goal-directed)能够理解模糊或高层次目标,并将其分解为可执行步骤。

AI智能探索者的博客 1121

李大勇matlab密码,基于MatlabSimulink的太阳能热水系统仿真研究 沈超.doc

基于MatlabSimulink的太阳能热水系统仿真研究 沈超中国工程热物理学会 工程热力学与能源利用 编号:141090基于Matlab/Simulink的太阳能热水系统仿真研究沈 超1 1 余 鹏1 李洪欣1 魏新利2郑州大学土木工程学院,郑州 450001郑州大学化工与能源学院,郑州 45...

weixin_42298437的博客 1342

手把手教你开发“AI数据分析师”:利用IPIDEA + 智能体实现全网数据洞察

在当前人工智能的浪潮中,大语言模型(LLM)驱动的智能体(Agent)展现了巨大的潜力。理论上,它们可以自动化执行任务、分析数据,成为我们的得力助手。但在实际开发和使用中,我们常常会遇到一个瓶颈:智能体似乎“不够聪明”,无法获取最新、最真实的数据。这篇将记录并分享如何解决这一核心痛点,通过将智能体与专业的网络数据采集服务(IPIDEA)相结合,从零到一构建一个真正具备全网数据洞察能力的“AI数据分析师”。

专注于 C/C++ 后端开发,涵盖基础语法、Linux系统与网络、MySQL数据库、常见算法及项目经验。 6万+

ANSYS Discovery 2023R1 入门:手把手教你玩转几何模型参数化(附历史追踪避坑指南)

本文详细介绍了ANSYS Discovery 2023R1中几何模型参数化建模的全流程,包括基础设置、参数化实战技巧及历史追踪避坑指南。通过Workbench集成和智能参数控制,工程师可以高效完成设计迭代,特别适合需要频繁调整几何模型的仿真场景。文章还提供了参数丢失的预防策略和工业应用实例,帮助用户快速掌握这一提升设计效率的核心技能。

weixin_33693070的博客 462

LLM大语言模型私有化部署-使用Dify的工作流编排打造专属AI诗词数据分析师

本文通过使用Dify平台的工作流编排功能,结合阿里百炼的大型语言模型(如qwen2.5-14b-instruct等),成功打造了一个专属的AI数据分析师。能够根据用户提供的自然语言问题生成对应的SQL查询语句,并通过部署好的API服务执行这些查询,最终由另一个LLM节点对查询结果进行专业的数据分析和可视化展示。可以统计创作唐诗最多的作者、分析唐诗中特定元素的出现频率,以及联合查询作者信息与作品数量等,今后面对领导的取数需求,你可以直接替换数据源,轻松实现各种数据分析和可视化需求。

Heartsuit的博客 2831

OTP语音芯片SOP8的前世今生_如九齐_硕呈_钰绅等以及国产方案KT148A

语音芯片ic的其中一个品类,就是SOP8封装的OTP语音芯片,非常的经典和常用。源头的供应商基本都是台系的原厂,比如:九齐、硕呈、佑华等等,其中佑华就算是鼻祖了,早期的4位机也是在语音市场得到了升华。 OTP(One Time Programmable)是单片机的一种存储器类型,意思是一次性可编程:程序烧入单片机后,将不可再次更改和清除。

qyvhome的博客 1873

手把手教你用scATAC-seq分析拟南芥根尖染色质可及性(附代码实战)

本文详细介绍了使用scATAC-seq技术分析拟南芥根尖染色质可及性的完整流程,涵盖从实验设计、数据质控、细胞分群到差异分析和多组学整合的实战步骤。通过具体的代码示例,帮助植物研究者掌握单细胞表观组学分析的核心方法,揭示细胞异质性和基因调控动态。

weixin_29291185的博客 265

尝试搭建一个AI Agent分析师团队

​还没有完成,未完待续

su1944的博客 1110

NPP/VIIRS夜间灯光数据:从下载到应用的完整指南

本文提供了NPP/VIIRS夜间灯光数据从下载、处理到应用的完整实战指南。详细介绍了如何从官方源获取数据、解读文件结构、进行坐标校正与数据清洗,并深入探讨了其在城市扩张监测、社会经济指标估算、重大事件影响评估等领域的核心应用。文章旨在帮助研究者与从业者快速掌握这一强大的空间数据,将其转化为研究中的实用工具。

gpu4optimizer的博客 863

用LangChain和Streamlit,三小时复刻出一个“AI数据分析师”,让你的Excel数据开口说话!

作为一名正在探索大语言模型(LLM)世界的小白,我总想着能否做一个既酷炫又实用的项目,来检验自己的学习成果。在我们的工作和学习中,很多人都面临这样的场景:手里有一份数据(比如产品销售记录、用户行为日志、运营数据等),我们知道这里面有宝藏,但要挖出来却不容易。它让我们能像搭乐高一样,把LLM、工具、数据源快速地**链接(Chain)**在一起,把我们的精力聚焦在业务逻辑的创新上。代码跑通了,但我们更要理解背后的“为什么”,这才是真正的学习。最后一步,就是把用户的提问“喂”给我们创建好的Agent。

m0_54812357的博客 1913

Veeam Backup 13 通过UI界面高效备份VMware ESXi虚拟机的完整指南

本文提供了一份使用Veeam Backup 13图形化界面高效备份VMware ESXi虚拟机的完整指南。内容涵盖从环境准备、添加vCenter/ESXi主机、配置备份存储库,到创建备份任务、设置保留策略与计划,以及执行备份和验证成功的关键步骤。通过直观的UI操作,管理员可以轻松实现虚拟机数据的可靠保护与快速恢复。

weixin_29322553的博客 437

【人工智能】从零开始玩转龙虾(Openclaw):本地与云端(火山Arkcloud)部署全指南

龙虾(Openclaw)是一款海外智能体操作系统(agent operating system),可通过飞书机器人实现自动化办公、信息抓取、任务协作等功能。它支持本地部署和云端部署两种方式,适配MacOS和Windows系统(,建议优先使用MacOS)。sudo。

奶爸的编程之路,也就一周冷个三天 947

使用 MongoDB 构建 AI:Patronus 如何自动进行大语言模型评估来增强对生成式 AI 的信心

Patronus通过与MongoDB Atlas等技术集成,提供托管评估服务,确保RAG系统能够持续提供可靠的信息,并为开发者提供了工具和指南来提高系统性能和稳定性。

MongoDBChina的博客 1万+

STM32N6570-DK识别STLINK问题,如何解决?

🏆 本文收录于《全栈Bug调优(实战版)》专栏,致力于分享我在项目实战过程中遇到的各类Bug及其原因,并提供切实有效的解决方案。无论你是初学者还是经验丰富的开发者,本文将为你指引出一条更高效的Bug修复之路,助你早日登顶,迈向财富自由的梦想🚀!同时,欢迎大家关注、收藏、订阅本专栏,更多精彩内容正在持续更新中。让我们一起进步,Up!Up!Up!    备注: 部分问题/难题源自互联网,经过精心筛选和整理,结合数位十多年大厂实战经验资深大佬经验总结所得,数条可行方案供所需之人参考。

**My Coding Family** 2209

【人工智能】彻底搞懂AI技术:AI、AGI、LLM、Agent

LLM的全称是Large Language Model大语言模型。是一种基于海量文本训练的深度学习模型,核心能力是理解和生成自然语言。就像Web开发里的React、Spring Boot一样,LLM是AI领域当前最主流的技术路径,但不是AI的全部。LLM是AI的语言处理引擎。它非常擅长说话、理解语言、推理逻辑,但它只会说话。常见的 LLM 产品:• Claude (Anthropic 公司)• ChatGPT (OpenAI 公司)• 文心一言(百度)• Kimi(月之暗面)

千月星跡 532

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

LLM漫谈(一)| LLM可以取代数据分析师吗?

为了更方便地定义函数,我们可以利用Pydantic。Pydantic是用于数据验证的最流行的Python库。我们已经使用Pydantic定义了LangChain输出解析器。首先,我们需要创建一个继承自BaseModel类的类,并定义所有字段(函数的参数)。

wshzd的博客 1384

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

深度解读!AI应用架构师深度剖析数据分析师AI智能体智能化数据洞察解读

每天花60%以上时间做数据清洗、取数、格式对齐,真正用于洞察的时间少得可怜;面对业务方的模糊问题(比如“为什么最近用户留存下降?”),需要反复沟通确认需求,效率极低;处理非结构化数据(比如用户评论、客服录音)时,缺乏高效工具,只能抽样分析,结论偏差大。数据量的爆炸式增长与分析师“人力处理能力”的天花板。而AI智能体(Data Analyst AI Agent)的出现,正是为了将分析师从重复劳动中解放,让他们聚焦于“真正有价值的洞察”——即连接数据与业务的“可行动结论”。本文将从架构设计到。

项目管理的博客 768

用 Node.js 和 OpenAI 打造你的 AI 数据分析师:从零开始构建智能数据报告系统

你敢相信吗?让AI当你的数据分析师,只需几行代码和一段“咒语”!本文带你用Node.js和OpenAI打造一个会看数据、能写报告的AI助手。不用写SQL,不用学Python,只要会提问,就能让大模型帮你算销售额、做分析、出结论。从“你是一名数据分析师”开始,让AI为你打工,轻松实现“对话即分析”的未来工作方式。准备好了吗?一起用Prompt点燃数据的智慧之火!

zjy_bjyxszd的博客 1372

Crawlab AI: 借助大语言模型 (LLM) 打造智能爬虫

当我初入职场时,作为数据分析师的我,偶然体验到了网络爬虫(Web Crawler)自动化提取网页数据的能力,自此我一直对这个神奇的技术充满好奇。随着后来我不断钻研爬虫技术,逐渐了解到网络爬虫的核心技术,其中就包括网页解析(Parsing),即通过分析网页 HTML 结构而构建基于 XPath 或 CSS Selector 数据提取规则的过程。这个过程长期以来都需要人工介入,虽然对于爬虫工程师来说相对简单,但如果需要大规模抓取,这个过程是非常消耗时间的,而且随着网页结构变化会增加爬虫维护成本。

2401_85375151的博客 2211

投行分析师会被替代吗?AI在金融研报中的实战应用

摘要: 本文探讨了AI技术在金融分析领域的应用潜力,特别是对投行分析师工作的影响。文章拆解了分析师的工作流程,指出数据采集、财务建模等环节已可被AI自动化,而商业判断和客户沟通仍需人类主导。通过Python代码示例,展示了如何利用AI工具自动获取财务数据(如yfinance库)、进行情绪分析(FinBERT模型),显著提升效率。AI并非完全取代分析师,而是通过人机协同重塑行业,将人类推向更高价值的决策层面。

千淘万漉虽辛苦,吹尽狂沙始到金 2万+
上一篇: 大模型LLM量化 , 5个基础技术知识
下一篇: ChatGLM 集成进LangChain工具
冻感糕人~
博客等级 码龄3年 8925粉丝 2379原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值