Python数据处理过程中一些方法记录

Python统计学一数据的概括性度量 一、数据的概括性度量 1、统计学概述:   统计学是应用数学的一个分支,主要通过利用概率论建立数学模型,收集所观察系统的数据,进行量化的分析、总结,并进而进行推断和预测,为相关决策提供依据和参考。   统计学主要又分为描述统计学和推断统计学。给定一组数据,统计学可以摘要并且描述这份数据,这个用法称作为描述统计学。另外,观察者以数据的形态建立出一个用以解释其随机性和不确定性的数学模型, 阅读详情

开帖目的:记录一些在写Python工作中经常遇到的一些问题和解决办法,以防遗忘。

开发环境:Ubuntu16.04+Python3

1. lambda

我们在coding过程中提到的 lambda 表达式,通常是在需要一个函数,但是又不想花费精力去构造一个函数的场合下使用,通常也称作它是指匿名函数。

通过一个简单的例子了解其用法

def g1(x):
    return float(x)
    
g2 = lambda x : float(x)
print (g1(6),g2(6))
>>> 6.0 6.0

我们看到g1与g2的功能一样

2.zip函数

迭代函数,日常工作使用频率还是很高的
在这里插入图片描述

3.数据统计量计算

import numpy as np
import stats as sts
scores = [31, 24, 23, 25, 14, 25, 13, 12, 14, 23,
          32, 34, 43, 41, 21, 23, 26, 26, 34, 42,
          43, 25, 24, 23, 24, 44, 23, 14, 52,32,
          42, 44, 35, 28, 17, 21, 32, 42, 12, 34]
#集中趋势的度量
print('求和:',np.sum(scores))
print('个数:',len(scores))
print('平均值:',np.mean(scores))
print('中位数:',np.median(scores))
print('众数:',sts.mode(scores))
print('上四分位数',sts.quantile(scores,p=0.25))
print('下四分位数',sts.quantile(scores,p=0.75))
#离散趋势的度量
print('最大值:',np.max(scores))
print('最小值:',np.min(scores))
print('极差:',np.max(scores)-np.min(scores))
print('四分位差',sts.quantile(scores,p=0.75)-sts.quantile(scores,p=0.25))
print('标准差:',np.std(scores))
print('方差:',np.var(scores))
print('离散系数:',np.std(scores)/np.mean(scores))
#偏度与峰度的度量
print('偏度:',sts.skewness(scores))
print('峰度:',sts.kurtosis(scores))

python groupby 站总体百分比

import pandas as pd
import numpy as np
df = pd.DataFrame({'state': ['CA', 'WA', 'CO', 'AZ'] * 3,
                   'office_id':list(range(1,7)) * 2,
                   'sales': [np.random.randint(100000, 999999)
                             for _ in range(12)]})
 
df1=df.groupby(['state','office_id']).aggregate({'sales':np.sum})
 
df2=df1.groupby(level=0).apply(lambda x: x*100/float(x.sum()))

在这里插入图片描述

数据分析服务

可以私信、或者加微:一八五五六五二五六零八

待续…

【YOLO】记录训练输出并对结果评估 YOLO记录训练输出并对结果评估 阅读详情

相关推荐

数据处理头疼日记(一)

数据处理日记——填补缺失数据

qq_39037909的博客 261

【Python入门系列】第九篇:Python数据分析和处理

Python数据分析和处理是当今数据科学领域中的重要技能之一。随着大数据时代的到来,越来越多的组织和企业需要从海量数据中提取有价值的信息。Python作为一种功能强大且易于上手的编程语言,提供了丰富的数据分析和处理工具和库,如pandas、numpy、matplotlib等。本文将介绍Python数据分析和处理的基础知识和常用操作。

杰西笔记 1万+

【医学图像处理】PET数据处理记录

初次尝试处理PET数据,写此笔记记录,可能某些地方存在问题,欢迎大家指正。

大白的博客 3128

python数据处理——史诗级最全版本!

本实验生成三组数据,对各组数据进行统计量计算,统计量计算公式有:总数x.count()、最小值 x.min()、最小值位置 x.idxmin()、25%分位数x.quantile(.25)中位数x.median()、75%分位数 x.quantile(.75)、均值 x.mean()、最大值 x.max()、最大值位数 x.idxmax()、平均绝对偏差 x.mad()、方差x.var()、标准差 x.std()、偏度x.skew()、峰度x.kurt();plt.show()方法是将所绘制的图显示出来。

九筠的博客 2627

⭐⭐⭐全网最详细YOLOv8教程,从环境配置到自己训练,再到数据集的制作,包的各位⭐⭐⭐

问题原因:当你“pip install ultralytics” 时,torch和torchvision会作为它的依赖一起安装了,当执行“pip install torch torchvision torchaudio --index-url。”时,会卸载torch,然后再安装torch+cuda版本,但是不会自动卸载torchvision已有版本,然后再安装torchvision+cuda版本。🎉🎉🎉恭喜各位道友,已经可以训练模型了,现在就是制作自己的数据集,所谓申神通秘境,随心所欲,万物皆可识别也

weixin_74840239的博客 7493

YOLO11实战 第056期-基于yolo11的无人机航拍铁路障碍物检测实战-数据集&源码&系统

召回率曲线帮助评估模型在目标检测任务中,检测到真正目标的能力。通过这条曲线,可以评估模型在目标检测任务中的整体性能,并找到合适的置信度阈值,以在精确率和召回率之间做出最佳平衡。PR曲线越接近右上角,模型性能越好,曲线下方的面积越大,说明模型在不同置信度下的。这条曲线显示了随着置信度的增加,每个类别的召回率先变化较小,然后在某个点之后迅速下降。通过这条曲线,可以选择合适的置信度阈值,以优化模型的检测结果,平衡精确率和召回率。曲线都显示了随着召回率的增加,精确度略有下降的趋势,但整体上精确度保持在很高的水平。

深度学习算法工程师,专注于前沿算法研究与实战应用。在这里,我将分享深度学习领域的实战经验、优质数据集资源以及最新论文解读与精度分析,旨在与广大技术爱好者共同探索人工智能的奥秘,助力技术成长与创新。 159

【Python数据处理】10个常用工具,让你的数据处理更高效!

Python是一种高级编程语言,它在数据处理和分析方面非常流行。Python有许多数据处理工具,这些工具可以帮助你处理和分析数据。在本文中,我们将介绍10个常用的Python数据处理工具,并提供使用案例。Pandas是一个开源的Python数据分析库,它提供了高效的数据结构和数据分析工具。Pandas可以处理各种类型的数据,包括时间序列、结构化和非结构化数据。Pandas的核心数据结构是DataFrame和Series。

xx16755498986的博客 5762

了解你的GPU:深入探讨AMD SMI

2024年9月17日 作者:Matt Elliott对于使用AMD硬件的系统管理员和高级用户来说,性能优化和高效的资源监控至关重要。AMD系统管理界面命令行工具`amd-smi`正是为了解决这些需求而设计的。amd-smi是一个多功能的命令行工具,专门用于管理和监控AMD硬件,主要侧重于GPU。作为未来取代`rocm-smi`的工具,`amd-smi`有望成为跨广泛设备的AMD硬件管理的主要工具。

数字人生 4525

python的数据处理

python的数据相关操作

m0_49586319的博客 1502

二、频率调制光谱(FMS)技术——error信号的数学模型及其他推论

一些推论。

qq_41111336的博客 1606

台球 PCOL:极致物理还原的网页斯诺克引擎(附源码深度解析)

*完整源码地址**:[https://github.com/billiards/pcol-core](https://github.com/billiards/pcol-core)(包含详细文档与示例)通过这个项目,我们不仅创建了一个游戏,更构建了一个**可扩展的物理引擎框架**,为网页端复杂物理模拟开辟了新的可能性。**在线体验**:[https://pcol.billiards](https://pcol.billiards)(支持移动端触控操作)clone.velocity.x *= -0.92;

Loving_enjoy的博客 2802

【python 数据处理】分组求和、合并

# encoding: utf-8 import sys reload(sys) sys.setdefaultencoding('utf-8') import time import pandas as pd import xlsxwriter time1 = time.time() import numpy as np #############读取数据######################

赖德发的博客 9959

【01】总目录——软件设计师50讲通关地图|从零基础到工程师职称

本文是《软件设计师·50讲通关|从零基础到工程师职称》专栏的01篇总目录,系统梳理了50篇博文的完整架构与核心逻辑。专栏覆盖软考软件设计师(中级)全部考点,分为导学规划、基础知识、设计模式、下午题专项、算法实战、冲刺模拟、收官进阶七大模块,既兼顾上午题75道单选题的理论攻坚,也聚焦下午题案例分析的解题能力提升。每篇博文均包含考点精讲、真题解析、实战技巧与速记方法,配套可运行代码、解题模板及备考资源。无论你是零基础转行、在校学生还是在职程序员,都能通过这份学习地图明确进度、精准定位薄弱环节,高效搭建知识体系

专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域,希望和大家共同进步! 1281

python数据记录_python 处理数据的一些记录

最近莫名其妙同时处于浑浑噩噩和工作到深夜两个状态,当然干的还是男朋友的工作,至于我自己的学业,可能已经毁了吧。在给他整理数据过程中,学习到一些技巧,这边记录下来,不然以后又要忘记。我写代码太喜欢复制粘贴,导致后来连最简单的打开文件都不会写,我现在在有意改正这个习惯,多手打几次,希望能记住吧。1.按照某一列的值,分组,fillna有这个需求是因为这个数据是以年和公司名作为一行记录的关键词,就是一个公...

weixin_39802784的博客 365

医院批量排班实战指南(三)日期列表生成与时段批量操作

在上一篇《批量排班功能实现指南(二):日期与时段设置》中,我们完成了日期范围选择和重复规则配置的界面搭建,实现了从第一步到第二步的跳转功能。现在我们已经可以选择日期范围和重复规则,但还缺少最关键的功能——根据规则生成日期列表并进行时段配置。本篇将继续深入批量排班的核心功能——日期列表生成与时段批量操作。根据日期范围和重复规则智能生成日期列表为每个日期配置上午、下午、夜诊时段批量时段操作提升配置效率日期列表的展示与管理。

低代码布道师的博客 1347

医疗数据采集:Python爬虫爬取医学文献与药品信息(2026合规与伦理版)

医疗数据采集不同于爬取新闻或房价,它直接关系到人的生命健康和法律底线。技术层面:优先使用官方 API (PubMed E-utilities, BioThings),避免解析复杂HTML。法律层面:严守“不碰隐私、不破付费、不传谣言”三条红线。伦理层面:保持对生命的敬畏,确保数据的准确性和用途的正当性。在2026年,一个优秀的医疗数据工程师,不是那个能爬取最多数据的人,而是那个能在合规框架下,利用公开数据解决真实医疗问题的人。请务必珍视您的职业生涯和法律责任,切勿以身试法。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 287

水文相关数据处理步骤记录

摘要:本文介绍了LAI和CRU气候数据的下载及处理方法。LAI数据从GLASS网站获取,使用Python批量生成HDF文件下载链接,通过浏览器扩展下载后,利用ArcGIS将8天分辨率数据转换为年均TIFF格式。CRU数据(PET、TMP、VAP等)从CRUTS网站下载NC文件,通过Python脚本将NC文件转换为逐月TIFF格式。处理过程包括数据下载、格式转换和时间尺度调整,最终得到可用于分析的栅格数据。两种数据处理方法均提供了详细的代码实现步骤。

2201_75300626的博客 342

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

Python学习流水账Day7——有关Python操作Excel

不是用来教学的,上班没劲,主打一个本科毕业没竞赛没技术证一般路过路人,感觉停下学习的日子有焦虑症和死感,遂写点学习日记流水账来维持脑子一般性生命活动(?。第七天了!利用Python操作点文档(Python操作基础内容今天复习了Python操作Excel的基本方法,上班果然消耗精力,原本还想记录一下数据处理的步骤(留个flag之后应用篇再摘。

今天也在乱爬的博客 537

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

表格数据处理 数据处理高阶技巧的常见误区

常见反模式、失败案例与修正方式没有脱离场景的标准答案。保留任务范围、样本、规则版本和未解决的问题,下一次调整时才知道该延续哪项选择、该推翻哪项前提。

2401_85575345的博客 5434

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

用python进行数据分析:记录(一)

python数据分析记录 用python进行数据分析:记录(一) 主要记录一些语法语句的使用 Seaborn的joinplot图无法显示pearson相关系数 如何让sns.joinplot显示pearson相关系数: 1.按自己的思路写的代码显示的图标没有r p系数的显示 2.如图 3.导入stats,写函数 4.如图 关于zip()函数和enumerate()函数 zip() 1.该函...

Edenn的博客 990

python 日志处理

平时做数据处理基本离不了日志记录功能。每次都配置一堆挺烦人,索性封装个模块,这里记录一下,与大家共享。 本日志模块目前只有一个方法getLogger,其他配置项通过参数传递,包括日志文件名,等级,日志文件划分方式,日志清除配置,日志格式等。 logger.py import logging from logging import handlers # 日志级别字典 __level_dict...

浅醉樱花雨的专栏 780

目标检测之数据处理

一 检查环境 自己的电脑要安装该版本的torch(实际上该版本并不适合我的电脑) conda install pytorch torchvision torchaudio cudatoolkit=11.3 -c pytorch 1.查看 CUDA 和 cuDNN 版本 import torch print(torch.version) ​ print(torch.version.cuda) print(torch.backends.cudnn.version()) 不可以直接使用imp..

qq_45919731的博客 676

基于Python的微信聊天记录分析——数据处理与分析

本篇为《基于Python的微信聊天记录分析》系列的第二篇,主要讲解在获取到聊天记录数据之后,在Python环境下对其进行数据处理、分析和可视化,涉及库的安装、相关操作的Python代码等内容。希望和大家多多交流,共同进步!

Henryli1202的博客 7729

数据处理方法整理【目前最全】

在大数据技术、深度学习方法广泛应用中,对于具有大容量、多样性、信息丰富和价值高等特点的海量数据进行处理分析是一个重要步骤,因此汇总一些数据处理的方法及操作,来对于数据进行统计、分析和充分挖掘,分析数据的价值信息。

creeper的博客 2万+

python pytorch 自制数据集实现图像二分类(包含数据处理过程详细代码)

这是一篇亲试可行的文章,记录了我在完成对自制数据集进行二分类的过程。我很开心自己的能感受到自己的进步~话不多说,直接开始吧。 一、数据处理 我的数据集是两个文件的图片,由于文件的名字十分复杂不太好用,所以我用python对其进行了批量重命名。 file_path = "/Users/***/Tooth-Detection/data/" # 原文件路径 new_path = "/Users/***/Tooth-Detection/data/" # 新文件路径 def rename(path):

Lyndsey的博客 1万+

python数据处理常用方法记录

本文仅为记录在日常工作中学到的一些常用数据处理方法,后期会持续进行更新。

宿夏星 805
上一篇: Ubuntu下安装Oracle sqldeveloper记录
下一篇: 一种基于颜色统计和特征指纹的图片相似度计算方法
奥特曼不秃头
博客等级 码龄10年 24粉丝 24原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

奥特曼不秃头

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值