使用Python+BI爬取数千条车厘子相关数据,最终发现了这些秘密

python如何爬取网站数据并进行数据可视化 主要介绍了python爬取拉勾网数据并进行数据可视化,爬取拉勾网关于python职位相关的数据信息,并将爬取的数据已csv各式存入文件,然后对csv文件相关字段的数据进行清洗,并对数据可视化展示,包括柱状图展示、直方图展示,需要的朋友可以参考下 立即下载

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

PS:如有需要Python学习资料的小伙伴可以点击下方链接自行获取

Python免费学习资料、代码以及交流解答点击即可加入


听说最近车厘子的价格突然猛跌,之前很多人梦寐以求的“车厘子自由”,现在都能实现了。其实车厘子的价格下降,主要原因是进口货运成本的大大降低,为了找到车厘子最佳的购买方式,我决定用python+BI进行数据分析。

因此我在淘宝上用python爬取了3000条数据,然后导入到了FineBI中进行可视化分析,最终制作出了下面这样一份可视化报告:

 

 

下面我展示一下操作过程:

一、数据获取

用Python在淘宝上进行数据爬取是老生常谈的操作了,直接在淘宝上搜索“车厘子”,在下面的商品页中可以看到,我们这次主要爬取的标签是“商品名称”、“价格”、“付款人数”、“店铺名称”、“发货地址”等:

 

 

按下F12,调出后台查看源代码,找到不同的商品标签代码,比如价格是“price g_price g_price-highlight">”,付款人数是“deal-cnt”等:

 


了解了网页的代码结构之后,下一步就可以在python里直接编写代码了,具体过程不详细介绍了,部分代码如下:

 

爬取完数据之后导入到Excel里,然后在Excel里经过简单的数据清洗和处理,最终得到一份完成的数据表:

 

二、数据分析

python虽然也能实现数据分析的功能,但是需要敲代码,学习成本和难度都比较大,不如直接利用专业的数据分析工具进行分析,比如常见的比如FineBI、Tableau、PowerBI等。

下面我直接以FineBI为例,FineBI是国内知名度比较高的本土数据分析工具,比起tableau这些国外工具最大的优点就是简单、灵活,只需要用鼠标拖拽就能实现各种分析操作,基本不需要写代码,对新手非常友好。

 

 

其实FineBI本质上属于企业级的业务数据分析平台,除了数据分析之外,还能实现数据管理、数据平台搭建等功能。

有了excel源表,首先我们将Excel导入到FineBI中:

 

 

然后直接点击页面左上角的“创建仪表板”,就可以进入到可视化后台:

 


下一步进入到仪表板进行可视化操作,基本步骤是“选择图表类型——选择指标和维度——拖拽到指定坐标轴——美化细节”,比如我想要创建一张可视化地图,首先要先选择图表类型为“区域地图”,然后要选择指标和维度,但是原数据表里没有地理纬度,因此需要自己创建:

 

最后,我们再拖拽到指定坐标轴,然后美化细节就可以完成一张可视化地图了:

 


以此类推,其他的可视化图表也能够按照我们自己的需求进行制作,这里不详细讲了。

三、数据可视化

1、车厘子销量分布情况

 

可以看出来国内车厘子最大的销量来自上海,以及浙江、广东两省,西藏、青海、内蒙古等省份都没有销量,基本上来说沿海地区的销量要高于内陆。

2、各省份销量情况

 

通过条形图就更明显了,上海的销量有20多万,几乎是浙江、广东、四川的总和。

3、各城市的销量情况

 

筛选出了销量前十的城市,以及每个城市平均的车厘子价格,可以看出来上海的销量和价格都是最高的,可以看出上海的购买力有多强了;

4、车厘子的价格区间情况

 

数据表里将价格区间分为“50以下”、“50-100”、“100-150”、“150-200”、“200-500”、“500以上”等,可以看出来占比最大的价格区间是“50-100”,这应该属于平民价格了;值得注意的是“200-500”的价格占比也高于“100-150”。

5、各门店的销量与价格情况

 

 

可以看出销量最高的基本都是旗舰店,最高的平均价格基本在600-800左右;

四、总结

因为数据不算多,所以这次没有做太深的数据分析,大家可以自己拿数据,在FineBI里进行更多的分析。

Python+Flask爬虫数据可视化分析大作业(说明文档+爬虫笔记+数据库文件) Python爬取疫情数据,利用Flask+Echarts对数据进行分析与多样化展示。 Python + Flask + Echarts制作的新冠肺炎疫情实时监控项目,完成的功能主要有: 1、统计全球各国疫情数据 2、统计全国各省市地区每日疫情数据,并以图表形式展现 3、统计全国疫情历史数据,并以图表形式展现 4、统计百度热搜数据,并以词云图形式展现 里面有具体的使用说明和爬虫笔记,使用的是mysql数据库,有完整的数据库文件,可直接下载使用。 立即下载

相关推荐

Python爬取数据并实现可视化代码解析

这次主要是爬了京东上一双鞋的相关评论:将数据保存到excel中并可视化展示相应的信息 主要的python代码如下: 文件1 #将excel中的数据进行读取分析 import openpyxl import matplotlib.pyplot as pit #数据统计用的 wk=openpyxl.load_workbook('销售数据.xlsx') sheet=wk.active #获取活动表 #获取最大行数和最大列数 rows=sheet.max_row cols=sheet.max_column lst=[] #用于存储鞋子码数 for i in range (2,rows+1): s

15分钟,教你用Python爬网站数据,并用BI可视化分析!

作为一名在数据行业打拼了两年多的数据分析师,虽然目前收入还算ok,但每每想起房价,男儿三十还未立,内心就不免彷徨不已~两年时间里曾经换过一份工作,一直都是从事大数据相关的行业。目前是一家企业的BI工程师,主要工作就是给业务部门出报表和业务分析报告。回想自己过去的工作成绩也还算是不错的,多次通过自己分析告,解决了业务的疑难杂症,领导们各种离不开。但安逸久了总会有点莫名的慌张,所以我所在的这个岗位未来会有多大发展空间,十年之后我能成为什么样的人呢?自己的收入空间还有多少?

m0_59162248的博客 2552

20个闭环渗透测试项目:从漏洞发现到简历突围

渗透测试不仅是工具使用,更是对系统设计缺陷与实现偏差的深度推演。理解OWASP Top 10、Burp Suite等基础能力只是起点,真正具备工程价值的是能复现、可验证、可协作的完整攻击链。本文聚焦真实业务场景下的SSRF协议绕过、JWT签名机制缺陷、Redis未授权利用、Kong网关配置风险及etcd存储结构分析等核心热词,揭示漏洞本质在于架构决策与配置偏差的叠加态。适用于红队实战、甲方安全建设与乙方渗透审计等多类岗位,帮助从业者将技术动作升维为技术叙事。

weixin_32234493的博客 414

当我用数据分析工具说服了丈母娘...

大家好,我叫xxx,在一家互联网公司做BI工程师。大学毕业三年,年龄28,身高175,体重75KG,长相...... 我眼中的我是这样的: 但在我女朋友眼里我是这样的: 和女朋友谈恋爱一年多了,年纪也都老大不小了,令人紧张又害怕的环节终究还是来了,素未蒙面的准丈母娘前几天提出来要见见我,这一下让我慌乱了阵脚,不怕天,不怕地,就怕丈母娘突如其来的关心...... 网上搜索一了一下见丈母娘必备攻略: 多方面总结,以下几个问题是逃不掉的: ...

帆软商业智能技术 930

从零到一:Zephyr RTOS 在 STM32F4 上的移植与实战(含设备树配置详解)

本文详细介绍了如何从零开始将Zephyr RTOS移植到STM32F4开发板,涵盖开发环境搭建、硬件抽象层分析、设备树配置及系统裁剪等关键步骤。通过实战案例,帮助开发者掌握Zephyr RTOS在嵌入式设备中的应用,提升物联网边缘计算设备的开发效率。

weixin_26976635的博客 591

透传产品上报AEP平台数据流程

1. 什么是数据透传 数据透传:指的是在通讯中不管传输的业务内容如何,只负责将传输的内容由源地址传输到目的地址,而不对业务数据内容做任何改变。 这篇文章描述了如何将一台NB设备通过透传方式将数据传输到AEP平台,再通过数据订阅的方式获取到这些数据。 2. 步骤 2.1 设备在AEP平台创建 AEP:https://dm.ctwing.cn/ 新建产品 添加设备 根据模组的15位IMEI添加设备 开启内网穿透 具体可参照我的这篇博客:内网穿透-如何进行本地数据调试 设置数据推送

qq_42265394的博客 2297

Python + Power BI,高效完成股票分析!

你好,我是坚持分享干货的 EarlGrey,翻译出版过《Python编程无师自通》、《Python并行计算手册》等技术书籍。如果我的分享对你有帮助,请关注我,一起向上进击。利用 Python 和 Power BI 分析股票投资组合,结合 Python 的强大数据处理能力和 Power BI 的强大可视化功能,为股票投资提供全面的见解。首先,我们需要导入一些必要的库,如 os、pandas 和 yf...

codingpy的博客 892

MobaXterm详细使用教程

当然MobaXterm的功能远不止这些,但这些是最基本,最常用的,因此先拿出来讲。点击确定后,输入密码(输入密码时并不会显示,只管输入后按确定即可,第一次登陆成功后会提示保存密码,一般选择同意),就可以连接上虚拟机了。(2) 我们可以直接apt-get安装vim等常用功能(或者官网下载插件),实现在windows下模拟linux环境,这样就可以使用vi命令准备INCAR文件,也可以使用Gnuplot进行绘图。支持 Unix 命令(bash,ls,cat,sed,grep,awk,rsync,…

博客 4万+

python数据分析图表展示_NBA数据分析_python数据爬取_可视化图形_python数据可视化案例-帆软...

之前手痒做了一次NBA可视化分析,发个微头条,好多人追着我问教程,这两天终于闲下来了,花时间整理这篇NBA可视化分析教程,手把手教大家做一次炫酷的数据可视化分析!先部分展示本次教程的作品:数据获取本次可视化分析的数据来自于网络,有一部分是从外网下载的,还有一部分是python从NBA官网爬取的,数据集包含从上世纪90年代开始到16-17赛季,包括NBA所有球员、球队的常规赛,季后赛数据,球员各赛季...

weixin_39763953的博客 846

POWER SI仿真流程

一、打开软件Power SI二、加载PCB,可以直接使用brd文件,不用再进行格式转换三、check Stackup,与原来的PCB叠层对照一遍,检查数据加载后有没有出错。四、select Nets,加载brd文件后,可能所有的网络都处于使用状态,先在右侧net manager下面右键disable all nets,再使能需要仿真的电源网络(如果要仿真的网络没有归属到电源网络,在其上右键,选classfy as power \ground nets)

lx5213的博客 1321

RSA 2048/4096 签名校验算法

RSA算法是一种非对称密码算法,所谓非对称,就是指该算法需要一对密钥,使用其中一个加密,则需要用另一个才能解密。 RSA是目前最有影响力和最常用的公钥加密算法,它能够抵抗到目前为止已知的绝大多数密码攻击,已被ISO推荐为公钥数据加密标准。 今天只有短的RSA钥匙才可能被强力方式解破。到2008年为止,世界上还没有任何可靠的攻击RSA算法的方式。只要其钥匙的长度足够长,用RSA加密的信息实际上是不能...

qq_38769551的博客 9499

Python爬虫+BI分析,我做了一份酷炫的A股牛市可视化!

自打15年一波牛市,这几年里,股票市场的表现可谓是令广大股民心力交瘁,股价一路走低。 我几次入场,都不一而同当成韭菜,割了一茬又一茬,致富发财的梦绝望到谷底。 但是仍然有一部分股民们毅然坚守着信念,继续奋战在持续走低的股票市场。终于,在2019年开春之后,中国的股票市场迎来了开门红,上周大盘一度突破3000点,2019年牛市真的要来临了吗? 然而,就在各位同事纷纷入场,赚的钵满体满的时候,我...

hualalalalali的博客 2728

C++多线程 task--std::promise和std::future

本文主要讲解C++11/14/17中所提供的应用于多线程编程中的Task机制。Task可由如下几部分取得而本文主要讲解std::promise和std::future相关的内容。std::promise和std::future通过一个数据管道进行交流,可以将std::promise看作生产者,std::future看作消费者,其两者形成如下的方式交互std::promise本身是一个模版类,通过std::promise可以像数据管道中设置value,异常和相应的通知信息。std::promise提供了如下接

qls315的博客 1818

200817 python + BI

jupyter shift+tab 执行 ctrl+回车

LAJIANGJIADEXIANGYE的博客 1434

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

Python+BI分析5000条招聘数据,原来数据分析工作在这儿最好找

这两年的大数据热潮带火了数据分析这个职业,很多人想转行干数据分析,但是又不知道现在这个行业的求职环境和前景如何,动了心却不敢贸然行动。 前两天有个干运营的妹子找我聊天,也是问我数据分析岗位前景的问题,看在妹子长得实在好看的份上,我花了一晚上时间,去智联招聘上面爬了一下数据分析岗位的招聘数据,对数据分析岗位的薪水,需求情况,以及要求的工作年限做了个分析。 python数据爬取我就不多说了,可以参...

Leo的博客 4047

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

python+BI数据分析汽车品牌的保值率,有的车买3年亏近6成?

爱车的朋友肯定听过“汽车保值率”这个词,它是指一款车型使用一段时间后,出售价格与购入价格的比值,是反映汽车性价比的重要部分。 相比较于外观、内饰甚至动力表现,一辆车的可靠性、用车成本以及耐用度往往是车辆“硬实力”的体现,基于此,保值率成为了衡量一辆车综合水平的关键指标。 汽车更新换代的速度越来越快,车主们换车的周期也越来越短,而且,由于政策限制,想把一辆车开到报废也并不容易。所以,汽车的保值率就显得尤其重要。 样本数据 本文将以汽车之家17万条二手车信息,来分析主流汽车品牌的保值率,直接比较挂牌价格

Leo的博客 1238

牛市该理智还是疯狂?python+BI可视化的股票分析,都是你想看的

最近的市场行情有点好,很多人都出来梭哈了,无论是互联网公司的腾讯员工,还传统企业的大爷大妈,有的甚至拿出自己的积蓄,一下子都投入.... 我觉得这个哥们离去拼多多工作不远了... 在高点的时候选择加入,其实有待考究。 其实,从15年的那场牛市到现在,市场行情真的不好,偶然碰上大爆发,会让很多“韭菜”产生一种会发财的错觉。显而易见,普通人要在这个市场里得到点什么,是很难的。 但是靠数据分析+大数据+可视化技术,是能做点什么的。 我03年接触到人工智能的时候,就有很多人在分析股票走..

Leo的博客 2132

97.5%准确率的深度学习中文分词(字嵌入+Bi-LSTM+CRF)

本文转载自:http://www.17bigdata.com/97-5%E5%87%86%E7%A1%AE%E7%8E%87%E7%9A%84%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E4%B8%AD%E6%96%87%E5%88%86%E8%AF%8D%EF%BC%88%E5%AD%97%E5%B5%8C%E5%85%A5bi-lstmcrf%EF%BC%89.h

ch的专栏 2万+

python BI工具Supperset

SupersetApache Superset (incubating) is a modern, enterprise-readybusiness intelligence web application[this project used to be named Caravel, and Panoramix in the past]Screenshots & GifsView Dash...

vitaair的博客 8157

python bi_这5款BI工具,Python工程师最爱用

原标题:这5款BI工具,Python工程师最爱用大家可能普遍认为的BI,就是一个数据展现工具,看起来没有太多有技术含量的操作,但其实懂的人知道,想要找到一个好用的BI工具是不太容易的。今天小编就给大家分享5款好用的BI工具,都是数据可视化的哦。 1、FF ChartwellFF Chartwell能够将简单数字串转换会可编辑的数据可视化,并进一步自定义使用OpenTy功能。它是能够用于标准设计套件...

weixin_39829501的博客 1978

python爬取+BI分析5000条内衣数据,发现妹子最爱这款文胸

生活中我们经常会用python进行数据爬取,但是爬取简单分析难,很多人喜欢用echarts图表接口或者是python的第三方库进行数据可视化,甚至是用matlab,基本上都需要用代码实现,在数据展示上十分繁琐,效率不高。 于是,我就想到用一种更简单的方式进行数据分析,那就是python爬取+BI分析,python强大的数据获取能力,配合轻量级BI简单快捷的可视化操作,分析效果奇佳。原理也很简单,...

Leo的博客 4万+

Python大作业——爬虫+可视化+数据分析+数据库(爬虫篇)

Python大作业——爬虫+可视化+数据分析+数据库(爬虫篇) 以上是这次大作业的大致内容,可以看到其中需要爬虫实现的主要有四个方面: 根据搜索内容爬取搜索结果的信息(包括歌词) 爬取热门歌曲 爬取热门歌手及其歌曲 一、根据搜索内容爬取搜索结果的信息 获得具体歌曲网址 这个部分我们爬取的网站地址为:https://www.8lrc.com/search 尝试在这个页面进行搜索后我们很容易发现**,搜素框输入的结果直接作为get请求的参数,键为‘key’** 那么就很简单了,我们通过在界面搜索框的

qq_25046827的博客 3万+

我用 Python 分析1585家电商车厘子销售数据,发现这些秘密

众所周知,中国是智利车厘子最主要的出口对象,占据了其95%的市场份额。 智利驻华大使馆商务参赞娜塔曾表示:“2020-2021产季车厘子实现了丰收,预计今年有50万吨左右的车厘子进入中国市场。”自2020年12月中旬开始,智利海运车厘子陆续到达中国,运输成本较此前空运方式大幅下滑。这意味着,国内消费者将能以更低的价格买到车厘子。然而,近日国内已有多地进口车厘子核酸检测结果为阳性,在这种情况下,你还敢大呼“车厘子自由”吗? 01.数据获取 本文利用Python采集了淘宝网1585个商家车...

weixin_46737755的博客 550

python爬虫疫情数据及可视化_python爬虫及数据可视化分析

python爬虫及数据可视化分析1.前言2.数据爬取2.1定位到爬取数据2.2爬虫实现方法3.数据可视化分析3.1将短文学网的各类文章做一个统计3.2对某一类文章进行分析1.前言2.数据爬取2.1定位到爬取数据打开我们要爬取的网页,右键选择检查,在窗口中单击左上角箭头,即可查看我们需要爬取的内容:2.2爬虫实现方法我们要爬取一个网页,首先我们需要向网页发送一个请求,然后用get方法抓取数据(例如我...

weixin_39552317的博客 4827
上一篇: 使用python爬取股票基金的最新数据消息,并用Excel绘制树状图一目了然
下一篇: python面试中面试官问你什么是闭包(closure)?该如何回答?
酸菜鱼编程
博客等级 码龄6年 155粉丝 63原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值