再见Numpy,Pandas!又一个数据分析神器横空出现!

2026年AI大模型学习路线与核心技术解析 深度学习与自然语言处理(NLP)作为人工智能的核心技术,正在推动大模型技术的快速发展。从基础的Python编程、数据处理到复杂的Transformer架构,大模型技术栈涵盖了广泛的知识领域。关键技术如RAG(检索增强生成)和LoRA(低秩适应)等优化方法,显著提升了模型效率与实用性。这些技术在企业级AI应用、智能客服、医疗诊断等场景展现出巨大价值。随着多模态和边缘计算的发展,掌握大模型微调、部署优化等实战技能,将成为AI工程师的核心竞争力。本文基于最新行业实践,系统梳理从基础到进阶的学习路径。 阅读详情

点击上方“菜鸟学Python”,选“星标”公众号

重磅干货,第一时间到达

对于数据分析的工具,想必大家都或多或少的有一定的了解,常见的像是numpy和pandas更是大家日常使用的数据分析工具。但是面对大数据的处理时,像是numpy和pandas的在加载数据时,会看到内存用量的飙升,而dask却可以将这些大的数据进行并行计算。

今天小编就带领大家学习一个并行的计算库——dask。dask可以帮助我们并行化处理pandas的DataFrame和numpy的计算,甚至是并行化处理机器学习算法。

01.dask库的使用介绍

dask库可以很好的兼容pandas的DataFrame数据和numpy的array数据,此外,像是Sklearn、XGBoost等机器学习库,dask也能够支持。dask的官网(https://dask.org/)对于支持的库有一个全面的展示,下图是部分支持库的展示:

dask库的强大之处在于它拥有丰富的已有库的兼容性,而且只需要改动很少的程序,就可以在自己的电脑上使用并行计算。

02.dask的安装

对于dask库的安装,也非常的简单,大家只需要在anaconda环境下运行conda install dask即可安装。

03.dask库的使用介绍

1).Numpy的array数据

dask库对于numpy的array数组操作也非常的简洁。dask是将numpy的数组进行切分,切分成许多的block进行操作,对于小数据来说,可能优势不明显,但是当数据集达到几十G后,就能显示出dask的优势。

上图是利用dask进行array的操作,可以看到dask对于numpy数组的处理与numpy的操作并没有很大的区别,如果对于numpy数组操作熟悉的话,那么上手dask的numpy数组也是非常简单的。

2).Pandas的DataFrame数据

对于DataFrame数据,dask的操作同样与pandas非常的类似。需要注意的是,当求分组的“x"列均值时,dask并没有直接输出结果,而是在运行s的compute()函数后,才得到结果,这是与pandas不同的一点。

04.dask的Delayed

对于dask库,Delayed模块是它进行并行计算的核心,delayed 通过将需要计算的任务记录在计算图中,并在之后,将其并行运行在硬件上得到结果。由于不能立即得到结果,所以该模块被称为delayed。对于delayed模块的使用,如下图所示:

可以看到,通过delayed装饰器来修饰函数,在下一个计算框图中定义z的计算,然后通过visualize函数来查看z的计算图,如上图右侧所示。同时可以看到z的计算图只需要不到1ms的时间即可完成。而z值的计算,同样采用z.compute()进行计算即可。

05.对于机器学习算法的支持

对于dask机器学习的应用,可以安装Dask-ML,Dask-ML是将Dask与流行的机器学习库(例如sklearn,XGBoost等)进行结合,提供的并行化机器学习处理库。可以利用pip install dask-ml进行安装。

有兴趣的小伙伴可以安装试一下,用惯了Pandas ,也可以试试换个口味了!欢迎在留言区点评,来个三连哦!

推荐阅读2021编程语言「后浪」趋势预测:JavaScript、Python热度不减,但崛起最快的却是它
955 不加班公司名单:955.WLB
抖音创始人张一鸣:10 年面试 2000 人,我发现混的好的人,全都有同一个特质
卧槽!没想到,用Python竟能做五仁月饼
Python 初学者进阶的九大技能
终于,Flask 迎来了真正的对手!
7个最佳的学习Python编程的开源库
每个程序员都是从菜鸟开始成长起来的,没有人生下来就是程序员高手。菜鸟编程大本营,专注于分享趣味的编程技巧,不限于Java, Python ,Go, Javascript等语言,让菜鸟爱上编程,进阶成为高手。菜鸟编程本营,从菜鸟进阶高手
点这里,获取新手福利
DeepSeek-R1如何用H800实现高效训练与开源突围 大模型训练正从‘堆算力’范式转向‘算法-硬件协同优化’新阶段。当GPU算力边际效益递减,FlashAttention、动态稀疏激活、AWQ量化等关键技术成为突破瓶颈的核心路径。DeepSeek-R1以H800为基准硬件,通过硬件感知算子融合、通信-计算重叠优化与零拷贝数据管道,在代码生成、数学推理和超长上下文任务中实现错位领先;其全栈开源策略更降低了企业微调与部署门槛,推动AI从封闭黑箱走向可验证、可定制、可落地的工程化实践。 阅读详情

相关推荐

Python 教程之使用 Dask 预处理大型数据集:初学者指南

Dask 是一个功能强大的 Python 库,可让您对大型数据集并行执行复杂计算。在本教程中,我们将介绍使用 Dask 预处理数据的过程,并演示如何使用它来高效处理大型数据集。通过本教程,您现在应该对如何使用 Dask 预处理数据以及如何使用它有效地处理大型数据集有一个基本的了解。现在我们有了 Dask DataFrame,我们可以开始预处理数据了。Dask 是一个功能强大的库,可让您并行地对大型数据集执行复杂的计算。通过使用 Dask,您可以轻松地预处理大型数据集并扩展您的数据处理管道。

code2day的博客 1938

猫头虎 分享:Python库 Dask 的简介、安装、用法详解入门教程

Dask 是一个灵活并且易于使用的并行计算库,可以在小规模计算机上进行大规模数据处理。:与 NumPy 类似,但支持计算超大数组。:与 pandas 类似,处理无法完全载入内存的大型数据集。:允许将 Python 函数并行化,适合灵活的任务调度。功能Dask 替代方案主要优势pandas处理无法装载到内存的大型数据集Dask ArrayNumPy处理超大数组并行计算普通函数并行化优化延迟执行、任务调度。

猫头虎技术团队:授渔优于赠鱼,兴趣引领智慧,探索之乐尤显珍贵。商务合作+:Libin9iOak ,万粉变现+:优快云WF,猫头虎承诺每年免费为100名C站创作者做账号流量诊断服务!全网搜:猫头虎技术团队,点击文章底部名片或直接私信我一切皆可谈,快找虎哥! 1万+

嵌入式开发也玩“全家桶”?手把手教你用CLion+PyOCD调试APM32,比OpenOCD更简单

本文详细介绍了如何使用CLion和PyOCD组合进行APM32嵌入式开发,提供从环境配置到实战调试的完整指南。相比传统工具如Keil和OpenOCD,这套方案更轻量、易用,特别适合现代开发者需求,涵盖CMake配置、PyOCD调试技巧及常见问题解决。

weixin_42543046的博客 464

终极移动端OCR部署指南:让PaddleOCR在你的手机应用上飞起来

还在为移动端文字识别功能开发而头疼吗?想要在Android和iOS应用中集成强大的OCR能力,却不知道从何下手?今天,我将为你揭秘PaddleOCR移动端部署的完整实战方案,让你轻松为应用添加文字识别功能,就像搭积木一样简单! ## 为什么选择PaddleOCR移动端方案? 想象一下这样的场景:用户用手机拍照就能识别名片信息、扫描文档就能提取文字、实时翻译外文菜单……这些功能背后都离不开OCR

gitblog_00948的博客 558

SAP-ABAP:SAP ABAP 深度解析:BAPI 从入门到精通 —— 原理、实战与自定义开发全指南

SAP ABAP BAPI 深度解析摘要 本文全面介绍了 SAP ABAP 中的 BAPI(业务应用程序编程接口)技术,涵盖以下核心内容: BAPI 定义与特点:BAPI 是 SAP 为业务对象提供的标准化编程接口,具有面向对象、封装业务逻辑、标准化错误处理和版本兼容性等特点。 BAPI 与 RFC 关系:所有 BAPI 都是 RFC,但需额外满足业务对象注册、标准化参数和错误处理等要求。 BAPI 核心作用:包括业务逻辑封装、系统集成、标准化错误处理、版本兼容和审计合规。 实战演示:通过创建销售订单的完整

baidu_35680696的博客 1034

STM32F103+AX58100 EtherCAT从站SPI移植实战:CubeMX配置避坑指南

本文详细介绍了STM32F103与AX58100 EtherCAT从站控制器的SPI接口移植实战,重点解析CubeMX配置中的关键参数与常见陷阱。内容涵盖硬件连接规范、SPI模式设置、中断优先级规划及协议栈对接技巧,帮助开发者高效实现工业自动化领域的实时通信方案。特别强调CPOL/CPHA配置与AX58100的匹配要求,避免数据错位问题。

weixin_29230865的博客 331

工具系列:PyCaret介绍_基于Dask搭建分布式计算集群

一般单个机器的内存在64G,由于建模需要,可能数据量级别可能再100G以上超过单机限制,所以需要分布式集群去处理大规模数据。为了提升计算效率,充分利用已有计算资源,可以调用多个服务器多核去处理大规模数据。Dask是基于资源管理器下游的应用,可以把虚拟机的资源整合成分布式集群,Pycaret通过dask做机器学习计算。https://www.dask.orghttp://www.pycaret.org/ 2、配置Dask集群 (1)主服务器配置 (2)从服务器配置 3、安装Pycar

数智笔记 774

解决RocketMQ中@Bean配置DefaultMQProducer时的MQClientException问题

本文针对Spring Boot整合RocketMQ时,因在@Bean配置中手动调用DefaultMQProducer的start()方法而引发的MQClientException问题,深入剖析了其根本原因在于生命周期管理冲突。文章提供了简洁有效的解决方案——移除手动启动,让Spring容器自动管理,并给出了完整的配置示例与生产环境最佳实践。

rnn9storyteller的博客 690

Dask-ML:大规模机器学习的高效解决方案

Dask-ML 是一个基于 Dask 的机器学习库,它允许在分布式计算环境中运行常见的机器学习算法。Dask 提供了一种灵活的方式来并行处理大数据,而 Dask-ML 则在此基础上扩展了对机器学习的支持,使得数据科学家能够利用其熟悉的 Scikit-Learn 风格接口来处理超出单机内存限制的数据集。 Dask-ML 的设计初衷是将复杂模型训练的任务分解到分布式计算资源中,从而实现高效的计算能力...

gitblog_00196的博客 1190

【AHE数据集】中国2019年多源热排放数据集-500m空间分辨率

【AHE数据集】中国2019年多源热排放数据集

WW、forever的博客 412

英飞凌TC3xx之一起认识GTM系列(六)如何实现GTM与VADC关联的配置

本文给出了GTM与EVADC之间关联的细节,并通过两个实例分别说明了如何对寄存器进行配置。

无所适从的我的博客 2933

python Dask库安装方法

关于这个库,我一开始担心这个东西会比较大,所以去搜索了下关于这个东西的安装。结果没有人在上面有任何有关的信息,虽然在Dask官网上有安装的过程,但是却没有写详细的大小~ 我试了一下,发现库的大小没有多大,而且安装的时候也比较简单~ 在官网上也是有的,我附上链接 http://dask.pydata.org/en/latest/install.html 其实输入下面的命令就可以安装好了~(而...

gc.collect() 6721

Flink 运维监控与指标采集实战(Prometheus + Grafana 全流程)

Flink运维监控在实时计算场景中至关重要,因为Flink作业需要7×24小时稳定运行,对性能、资源、故障感知和状态变化的实时监控是保障系统稳定的关键。Flink自带的Metrics系统提供了基本的监控能力,但为了更全面的监控,Prometheus+Grafana成为最主流的解决方案。通过配置PrometheusReporter和Grafana仪表盘,可以实现对Flink作业的全面监控,包括CPU、内存、吞吐量、Checkpoint状态、KafkaSink性能等关键指标。此外,自定义指标采集和报警机制的配置

晴天彩虹雨的博客 1370

python神器pandas_再见Numpy,Pandas!又一个数据分析神器横空出现!

对于数据分析的工具,想必大家都或多或少的有一定的了解,常见的像是numpy和pandas更是大家日常使用的数据分析工具。但是面对大数据的处理时,像是numpy和pandas的在加载数据时,会看到内存用量的飙升,而dask却可以将这些大的数据进行并行计算。今天小编就带领大家学习一个并行的计算库——dask。dask可以帮助我们并行化处理pandas的DataFrame和numpy的计算,甚至是并行化...

weixin_39614704的博客 176

SAP资产模块(FI-AA)与总账(FI-GL)数据不一致是财务顾问和会计人员最常遇到的棘手问题之一

SAP资产模块(FI-AA)与总账(FI-GL)数据不一致问题主要源于四大原因:1)违规手工记账(最常见),直接通过总账录入资产科目凭证而未通过资产模块;2)折旧运行问题,包括执行失败、跨年度问题或配置冲突;3)主数据与配置错误,如科目确定或折旧键设置不当;4)业务流程遗漏,如单据未生成凭证或汇率差异。解决方案包括运行对账报表、检查凭证来源、补跑折旧及核对配置。关键预防措施是坚持"资产模块发起→自动生成凭证→总账审核"的标准流程。

金牌架构师 428

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

pandas 菜鸟_再见Numpy,Pandas!又一个数据分析神器横空出现!

点击上方“菜鸟编程大本营”,选“星标”公众号后台输入:福利,领取一波福利对于数据分析的工具,想必大家都或多或少的有一定的了解,常见的像是numpy和pandas更是大家日常使用的数据分析工具。但是面对大数据的处理时,像是numpy和pandas的在加载数据时,会看到内存用量的飙升,而dask却可以将这些大的数据进行并行计算。今天小编就带领大家学习一个并行的计算库——dask。dask可以...

weixin_39601056的博客 93

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

【建议收藏】Python 江湖兵器谱:从入门到入土,这篇万字长文让你玩转各大神库!

return "准点下班,走向人生巅峰!else:print(f"还有 {bugs} 个 Bug,继续肝!")return "头发掉光,但代码终于跑通了!编程是一场没有终点的修行。Python 生态的繁荣,给了我们最好的武器库。但真正决定你能走多远的,永远是你解决问题的思维和持续学习的心。别犹豫了,打开你的终端,输入(或者uv add),开始你的江湖之旅吧!🚀你在 2026 年最离不开的 Python 库是哪个?或者有什么"冷门但超好用"的神库?欢迎在评论区留言交流,看看谁的兵器最锋利!

热爱技术与前沿创新,深耕科技领域,在科创中精进自我;探索技术乐趣,分享技术干货与成长心得,以技术为伴,热爱生活,在科创与生活中双向成长。 813

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Python深度学习:从入门到实战

亲爱的读者,欢迎您翻开这本书。我们即将探索的,是深度学习的宇宙——一个由数据、算法与算力构筑的奇妙世界。它既是严谨的科学,也是创造的艺术,更是一条通往未来智慧的修行之路。本书将带您从最基础的数学原理出发,亲手搭建神经网络,驾驭Transformer等前沿模型,最终将智慧转化为现实世界的价值。请放下畏惧,保持好奇。这不仅是一次知识的学习,更是一场思维的远行。来,随我一起,开启这趟非凡的旅程吧。

weixin_45747731的博客 300

《Python开发 - Python库》Dask安装与使用(轻量级并行计算库)

Dask手册 1 Dask简介 Dask是一个并行计算库,能在集群中进行分布式计算,能以一种更方便简洁的方式处理大数据量,与Spark这些大数据处理框架相比较,Dask更轻。Dask更侧重与其他框架,如:Numpy,Pandas,Scikit-learning相结合,从而使其能更加方便进行分布式并行计算。 Dask存在三种最基本的数据结构,分别是:Arrays、Dataframes以及Bags。 Dask中的Arrays(位于包dask.arrays下),其实就是对Numpy中的ndarray的部分接口进

不问归期的博客 7750
上一篇: 太可怕了!人工智能逐渐取代客服?原因竟然是这个
下一篇: 太好玩了!Github 上的这个库也能帮你逛 B站!
菜鸟学Python
博客等级 码龄9年 8088粉丝 571原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值