我用Python全网分析今年的双十一,看看大家都想干啥

数据可视化(推荐Tableau、 PowerBI 、FineBI、Echarts、ggplot、PYTHON、R)---数据分析领域的万金油技能 首先,这是一篇扩大知识面的文章,适合收藏起来,在地铁,公交,厕所,睡前,吃饭时看。。。。(耶,恶趣味) 其次,本文不放图,节省大家的阅读时间(但还是很有必要看的,它教会你如何做图的主人!)。 我们常用的可视化视图超过 20 种,分别包括:文本表、热力图、地图、符号地图、饼图、水平条、堆叠条、并排条、树状图、圆视图、并排圆、线、双线、面积图、双组合、散点图、直方图、盒须图、甘特图、靶心图、气泡图... 阅读详情

640?wx_fmt=jpeg

一年一度的双十一又要到了,相比往年而言,今年的商家似乎更加“别出心裁”,各种平台纷纷推出开团拉新、瓜分红包等预热项目,游戏规则也是超前复杂。那么商家们精心策划的活动最终起到了什么样的效果,各路买家究竟买不买账?今天这篇文章我们就来一起分析一下。

文章要点:

  • 分析百度指数

  • 获取微博观点

  • 网民情感分析

640

1

百度指数分析

百度指数是个好东西,它以百度网民行为数据为基础,提供了关键词搜索趋势的基础性分析,使用简单方便,在对事物进行初步的宏观分析时很有帮助。

首先来看双十一关键字的百度搜索指数,这个数据会在每年的11月11日前后达到峰值。从下图中历年数值趋势来看,2015年以前年度峰值呈递增趋势,2015年至2017年趋势相对平稳,2018年该数值出现大幅下降。

640?wx_fmt=png

如果按照这个趋势发展,今年的双十一搜索指数峰值将低于2018年的水平,也就意味着大量网民对双十一已经不再那么热情。

当然,这样下结论未免过于武断,我们再来对比下今年和去年的同期数值,从下图中可以看到,在过去的一个周内双十一的搜索指数是6369,而去年的同期数值是6805。从这个角度来说,近期网民对双十一的关注程度要略低于去年

640?wx_fmt=png

但是从资讯指数来看,今年过去一周的数值(3727558)又要远高于去年的同期水平(下图)。

640?wx_fmt=png

但是,资讯指数包含了网民转发、点赞、不喜欢等所有的相关信息,指数数值高不代表认可度就高,要得到更加精确的结论还需要做进一步的分析。

640

2

获取微博观点 

要看网民对某件事物的看法就要去找各类观点汇集的地方,说起观点的集散地,个人感觉非微博莫属,于是就去微博搜索了下双十一(下图),看看大家都发表了哪些观点。

但是,资讯指数包含了网民转发、点赞、不喜欢等所有的相关信息,指数数值高不代表认可度就高,要得到更加精确的结论还需要做进一步的分析。

640?wx_fmt=png

随便一搜就找出一大堆评论,其中有表示期待的、有吐槽的、当然也少不了大量的推销和广告,为了进行定量分析,还得把这些评论都爬下来。因为只需要对评论内容进行分析,因此涉及用户ID、发布时间等其他信息我们就不去费力爬取了。

至于如何分析微博页面、如何寻找cookie方面的内容,之前很多大神都写过教程,本文不再详述,下图是经过分析后得到的数据url页面内容,可以看到呈现的是一组json格式的数据,其中的“text”对应的就是评论内容(网页中看到的是编码后的数据,解析后可以得到真实评论内容)。

640?wx_fmt=png

在爬微博之前提醒大家两点:

  • 听说PC端很难搞定,所以我直接尝试了移动端;

  • 在爬取的时候务必降低频率,以免给服务器造成太大压力(更重要的是防止被封)。

下面这段代码实现了爬取所有评论内容并存储到txt文本的功能。

headers = {'Cookies':'your cookie',
       'User-Agent': 'your user-agent'}
result = ''
try:
  for i in range(1, 120):
    url = 'https://m.weibo.cn/api/container/getIndex?containerid=100103type%3D1%26q%3D%E5%8F%8C%E5%8D%81%E4%B8%80&page_type=searchall&page={}'.format(i)
    j = requests.get(url, headers=headers).json()
    for item in j['data']['cards']:
      try:
        txt = item['mblog']['text']
        txt = re.sub('[^\u4e00-\u9fa5]', '-', txt)
        result += txt
      except:
        print('no mblog')

    time.sleep(3)
finally:
    result = list(filter(None, result.split('-')))
  with open('content.txt', 'w') as f:
    f.write('|'.join(result))

其中,headers中的Cookies和UA需要替换为你自己的信息;爬取评论信息后我们会发现存在大量的特殊符号,为了避免对分析结果产生干扰,直接使用正则表达式筛选出所有中文字符并做规范化处理,一起来看下获取到的评论信息:

640?wx_fmt=png

以上信息都是以句为单位的评论内容,下面我们用jieba进行分词并制作词云图,看看其中都包含了哪些关键字。

640?wx_fmt=png

从词云图的分析结果来看,出现频率较高的词语无非是双十一、盖楼、挑战、助力这类词语,仔细查找还会发现一些品牌名称和代言明星,这些词语的出现,要么是商家的广告推送,要么是网友在参加购物活动。

今年双十一的氛围还是很浓厚的,说明仍有很多人对这个网购节抱有期待。

640

3

评论情感分析

仅仅通过双十一的受关注程度还不足以判断网民的期待值,于是想到利用情感分析来进行更深一步的探索。

随着机器学习和深度学习的迅速发展,自然语言情感分析再也不是少数人的专利,以前我们常说调包侠、调参侠,现在连调参都可以省去,直接调用API就能实现语言的情感分类分析,这次我选用的是一款叫做jiagu的工具。

640?wx_fmt=png

jiagu的安装只需要一条命令:pip install -U jiagu,通过它可以很方便地开展关键词提取、文本摘要、情感分析等工作,今天只使用其中的情感分析功能。

举个例子,对于很讨厌还是个懒鬼这句话,调用jiagu的sentiment函数进行识别,代码和结果如下:

import jiagu
text = '很讨厌还是个懒鬼'
sentiment = jiagu.sentiment(text)
print(sentiment)
# 输出结果:
# ('negative', 0.9957030885091285)

可以看到,输出结果分为两部分,第一个值表示情感倾向,negative表示负面情感、positive代表正面情感;第二个值表示情感强烈程度,取值范围是0~1,数值越接近1说明情感越强烈。

好了,情感分析工具搞定了,现在就来使用它对上文中获取到的评论文字进行观点分析。经过试验发现,jiagu对经由jieba切分后的词语进行情感分类效果并不理想,因此我们采用分词之前的内容作为情感分析的文本。构建核心代码如下:

txt_list = txt.split('|')
posi = 0
nega = 0
for txt in txt_list:
  result = jiagu.sentiment(txt)
  print(result)
  if result[0] == 'negative':
    nega += result[1]
  elif result[0] == 'positive':
    posi += result[1]

上面这段代码的基本思想是:对每一句评论内容逐一进行情感分类分析,并将其情感强烈数值累加到对

应的类别标签中(negative或者positive),从而得到微博评论观点的情感分布图:

640?wx_fmt=png

从分析结果来看,正面情绪和负面情绪的比例基本为1:1,负面情绪值甚至要更高一些,看来今年大家对双十一的吐槽力度着实不小啊。

小结:感觉近几年越来越多的人已经认识到了双十一的各种“坑”,但是不得不说有一些商品确实很划算,如何甄别真假优惠对买家来说真心不容易,个人认为有效避坑的最好方法就是不要去买那些当下用不到的东西。

至于今年双十一折扣力度到底如何,我们后面会有一篇文章详细分析,敬请期待哈!

往期热门,好玩有趣:

你在 B 站看番剧,别人在 B 站学 Python ! B 站想必大家都不陌生,全名哔哩哔哩,可以说是中国最大的二次元视频网站,爱看动漫的同学没有不知道的。小编也是个动漫迷,当然现在除了动漫,不管啥类型的视频我都愿意去b站看,与其说追剧,我看的更多的是弹幕。 最开始只是为了看番剧,后来无意中发现了关于编程的视频教程之后,看了几集,视频质量还挺高,让我对 B 站开始好奇,这种不是娱乐网站吗,还有这操作? 经过我不断的探索发现,B 站简直就是一个知识宝藏啊。什么二次元什么动漫,只是冰山一角好不好。其内部简直各种类型的视频都有,更别说 Python 这种火得一塌糊 阅读详情

相关推荐

20天拿下华为OD笔试之【双指针】2025C-双十一【Py/Java/C++/C/JS/Go六种语言OD独家2025C卷真题】【欧弟算法】全网注释最详细分类最全的华子OD真题题解

可上练习华子OD、大厂真题绿色聊天软件戳od1441了解算法冲刺训练(备注【优快云】否则不通过)

weixin_48157259的博客 246

python分析双十一数据

根据历年双十一数据进行多项式回归:分别用R、Spss、python进行了实现,发现Spss结果更好解释,拟合度达到0.99,将时间数据进行转为1,2,... python的多项式回归结果还没太看懂,因为与R运行结果的回归系数不一样,希望看到的小伙伴能帮忙解释下;plt.scatter(x,y):圆形点;plt.plot(x,y,'*'):星形点 import matplotlib.pyp...

qq_41081716的博客 2372

Jiagu深度学习自然语言处理工具

Jiagu深度学习自然语言处理工具 知识图谱关系抽取 中文分词 词性标注 命名实体识别 情感分析 新词发现 关键词 文本摘要 文本聚类

【NLP论文】03 基于 jiagu 的情感分析

Jiagu情感分析是一种中文自然语言处理工具,用于识别和分析文本中的情感倾向,它可以根据文本的内容和语义,判断文本中的情感是积极的、消极的还是中性的。它使用机器学习算法和自然语言处理技术来处理文本,并通过训练模型来识别情感。该工具可以应用于各种文本数据,如社交媒体评论、新闻文章、产品评论等。Jiagu情感分析具有以下特点:高准确性、快速处理和多种应用场景。

尹煜的博客 2116

分享一个N-MOS管和P-MOS管驱动应用实例

大家好,我是『芯知识学堂』的SingleYork,今天给大家分享一下MOS管驱动相关的知识。 MOS管在电路设计中是比较常见的,按照驱动方式来分的话,有两种,即:N-MOS管和P-MOS管。MOS管跟三极管的驱动方式有点类似,但又不完全相同,那么今天笔者将会给大家简单介绍一下N-MOS管和P-MOS管的工作原理,并结合自己实际的应用来给大家分享一下如何来驱动N-MOS管和P-MOS管。 首先,我们先来看一下N-MOS管和P-MOS管分别在电路中的电气符号: 咋一看上面两个电气符号,似乎非常的相似,可能让很

『芯知识学堂』SingleYork 的博客 3万+

[Pytorch案例实践001]手写MNIST数字识别

Pytorch实现手写数字识别,带完整数据集。

2403_83044722的博客 1114

一文了解知识图谱能做什么、本文含Jiagu自然语言处理工具试用、知识图谱实战。

知识图谱(Knowledge Graph)作为大数据时代的重要设施基础,已经在下一代搜索引擎、智能问答系统,文本处理,自然语言处理等智能应用中有了广泛应用。知识图谱规范地定义了知识的存储,并且可以较为方便和高效的进行知识推理和决策。面向特定领域的知识图谱应用研究也越来越多。当前,基于机器人领域的知识图谱应用热度持续升高,但配套的智能问答系统相关技术尚不成熟。本文另外有自然语言处理相关的内容。

blink182007的博客 5200

UE游戏引擎材质简单入门

什么是物体的材质,材质属性定义了物体的某些特性,从而决定了物体表面是如何与光线相作用的。UE中物理基础渲染(Physically Based Rendering OR PBR)几乎可以让我们模拟显示世界中的任何材质。那么如何在UE中制作出真实的PBR材质,基于我们提供的游戏引擎插件,如何将这些材质资源导出,并应用到 SuperMap iClient3D for Cesium/WebGL 平台上,提升模型的显示效果呢,下面小编将详细讲解一下。

m0_71055362的博客 2510

淘宝双十一最新文案来袭

导语 写文案的目的就是刺激顾客消费,只有让顾客一眼看懂,才能在双十一的各大电商竞争中脱颖而出,怎么样才能让消费者一眼看懂你是卖的什么,有哪些优惠,性价比如何,下面我就准备了几个词云形式的文案。 1 面膜 别人是老样子,你是样子老。 图片来自于微词云 2 运动鞋 为平凡,突破极限 图片来自于微词云 ...

YUXIAOHONGS的博客 446

STGCN实战:从零构建PyTorch时空图卷积网络预测城市交通流

本文详细介绍了如何使用PyTorch从零构建时空图卷积网络(STGCN)进行城市交通流预测。通过将交通网络建模为图结构,并融合时间卷积与空间图卷积,STGCN能有效捕捉交通流的时空依赖性。文章提供了从数据预处理、核心模块(TimeBlock与STGCNBlock)搭建、模型训练到实战技巧的完整指南,帮助开发者快速掌握这一前沿的交通速度预测技术。

wasm7browser的博客 247

[CARLA系列--01]CARLA 0.9.15 在Windows下的安装教程(一)

Carla是一款开源的自动驾驶仿真器,它基本可以用来帮助训练自动驾驶的所有模块,包括感知系统,Localization, 规划系统等等.Carla这个产品目前已经更新到了最新的0.9.15版本,目前遇到好多人在windows系统上如何安装可编辑版的Carla遇到了好多问题,所以针对在windows上的安装,推出此列教程.

汽车ECU自动化测试 4650

【python】python双十一美妆数据分析(源码+报告)【独一无二】课程设计-毕业设计

在本次研究中,致力于深入分析双十一淘宝美妆数据,以解密美妆市场的种种奥秘,为商家和消费者提供更为深刻的市场认识和决策依据。数据分析的过程首先涉及对美妆产品价格分布的细致研究。通过对价格分布的深入剖析,可以揭示出不同价格区间内商品的销售情况,进而洞察消费者对于价格的敏感度和购物偏好。这一步骤将为商家提供有力的定价策略建议,帮助其更好地调整价格,提高商品在市场中的竞争力。其次,将关注销售排名前十的店铺,通过深入分析其销售表现,探究其成功的原因。

测试开发自动化 1万+

PLC凸轮开关指令编程应用——控制算法

凸轮开关指令的作用是在PLC程序中根据凸轮开关(Cam Switch)的状态执行不同的操作。凸轮开关通常是机械式的开关装置,它的位置会随着机械运动的变化而改变。凸轮开关的状态可以用来检测机器的位置、角度或其他相关信息,从而触发相应的控制动作。总结起来,凸轮开关指令是PLC编程中常用的一种控制算法,通过检测凸轮开关的状态来触发相应的操作。本文将介绍凸轮开关指令的应用和相应的控制算法,并提供相关的源代码示例。在这个示例中,凸轮开关状态的值代表不同的位置,根据凸轮开关状态的不同,执行相应的动作。

LiJavascript的博客 1034

python可视化2025双十一:消费降级了吗

综合趋势总结图表fig.suptitle('双十一综合趋势分析', fontsize=16, fontweight='bold')# 6.1 平台竞争格局演变 [citation:4][citation:9]platforms = ['天猫', '京东', '拼多多', '其他平台'][40, 32, 20, 8] # 2026预测])ax1.set_title('电商平台市场份额演变', fontsize=14, fontweight='bold')

weixin_40637477的博客 918

实战篇| app爬虫不用真机

之前写过一篇基于真机app爬虫《App爬虫实战篇-以华为真机手机爬取集换社的app为例》,如果大家有用真机爬虫的经历,会深刻认识到真的不方便,一是自己的手机,经常会被电话、微信等打断,二是闲置手机,面对小批量数据还能勉强,大批量爬虫,会导致成本指数级上升,并且控制起来相对麻烦。以下就是常见的模拟器。emulator -avd my_avd -no-snapshot-save # 启动时不保存 snapshot。emulator -avd my_avd -wipe-data # 清除数据(恢复到出厂)

youbingchen的博客 596

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

毕业设计实战:双十一消费者购物行为分析(Python + 数据可视化)

本文基于淘宝双十一商品数据,通过爬取、清洗和分析10万+条记录,揭示了消费者购物行为规律。研究采用Python技术栈(Requests/BeautifulSoup爬取数据,Pandas/NumPy处理数据,Matplotlib/Seaborn可视化),重点分析了价格分布、店铺销量占比和价格-评论关系。结果显示:消费者偏好100-500元的中端女装(占比超60%),市场呈现头部集中效应(前3名店铺占35%销量),且价格与评论数呈弱相关性。研究为商家定价策略和平台流量分配提供了数据支持,建议中小商家走差异化路线

1201

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

教你用ActiveReports分析京东双十一数据的价值

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34232617的博客 90

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

【全网详解】从0到1搭建双十一实时交易数据展示平台——Spark+Kafka构建实时分析系统

万事具备之巧借东风 预备知识 Linux系统命令使用、了解如何安装Python库、安装kafka。 熟悉Linux基本操作、Pycharm的安装、Spark安装,Kafka安装,PyCharm安装。 环境搭建 Spark安装 至于如何安装好spark,我这里就不详细介绍了,请点击标题,即可跳转到文章详情页,里面有spark的安装资料和教程。 Kafka安装 点击此处下载,下载kafka_2.11-2.4.0.tgz。此安装包内已经附带zookeeper,不需要额外安装zookeeper.按顺

迷茫与徘徊只会让你陷入绝境,欢迎私信博主,带你开始提升变现价值! 1万+

2020年双11全网销售数据分析报告

via:星图数据本文为转载分享&推荐阅读,若侵权请联系后台删除-----------------长按识别下方二维码,并关注公众号1.回复“PY”领取1GBPython数据分析资...

菜鸟学Python数据分析 3689

给刚入行Python的福利,一个Python高效薅羊毛工具,请低调使用。

mac和猴米系统不兼容? 网盘最近不好用了,还有什么好用的获取资源的途径? 有什么软件能秒抢限量数码产品吗? 不知道有多少朋友是想要借助工具和软件来提升自己获取资源的速度,以及获得免费资源。 但有句话说得好,授人以鱼不如授人以渔。 今天就想和大家分享一个一劳永逸的工具,学会了你绝对就是未来资源届的“王者”。 影视\小说\动漫资源获取 一些国外或者一些小众电影,找起来总是很麻烦,各种网站都翻遍了还不一定找得到。 但用这个叫Python的黑科技去搜,绝对都是小意思。 那天我想看找国外的电影,通过Python.

libaiup的博客 6174

全网最详细,性能测试场景模型分析,从0到1实施性能测试...

性能测试,需求分析是重中之重——分析不到位会导致场景不符合实际,做无用功;工具+监控没太多学习成本;真实的性能需求,才是影响最终测试结果的关键因素;相信很多做性能测试的同学,都遇到过下面这些问题:需求不明确,有时候甚至是“我们有个XXX接口,你给我压一下”这种伪需求;需求不明确导致无法对测试点&测试场景进行详尽完善的分析,最终的测试结果与实际需要的结果差距很大,无法对瓶颈定位和线上容量规划提供精确的参考;工作结果没有正向有效的反馈机制,出了问题甚至需要背锅这种蛋疼的事情;

大佬云集技术答疑交流群:743262921(进群暗号:222) 1257

记一次Web逆向私活接单的全过程

朋友们好,我是皮皮!一年一度的“双十一”已经到来,大家的尾款结完了吗?其实双十一是一个很有趣的时间节点,是我一年中最期待的节日之一。之所以说“有趣”,是因为双十一不仅是电商折扣季这么简单,这更是Python技术兼职接单的超级高潮期!随着AI、大数据、物联网的广泛应用,与之紧密关联的Python开始受到人们的极大关注,各行业对Python技术服务的需求量呈指数级暴增。其中,尤以爬虫技术服务为甚,在双...

pdcfighting的博客 563

下班接私活,赚麻了!哈哈

时间来到11月,我们正处在一个Python界的兼职接单旺季。业界对Python爬虫技术服务有着极大的需求,越靠近“双十一”需求越大,当下早已供不应求。供需的失衡,使爬虫服务的价格变高,几乎所有的圈内人都在趁此好机会接私活赚钱。正好,我昨天就做了一单爬虫逆向私活,中午接单下午交付:↑接到接口逆向的定单,了解客户需求,确认细节↑完成订单并交付,客户确认无误完成收货,报酬到手按照往年经验,在“双十一”前后,做爬虫逆向类私活赚几个W是轻松的。

aobulaien001的博客 994

两天赚1w,用Python接私活真香!

朋友们好!一年一度的“双十一”已经到来,大家的尾款结完了吗?其实双十一是一个很有趣的时间节点,是我一年中最期待的节日之一。之所以说“有趣”,是因为双十一不仅是电商折扣季这么简单,这更是Python技术兼职接单的超级高潮期!随着AI、大数据、物联网的广泛应用,与之紧密关联的Python开始受到人们的极大关注,各行业对Python技术服务的需求量呈指数级暴增。其中,尤以爬虫技术服务为甚,在双十一这种数...

纯洁的微笑 459

python为什么叫爬虫编程-Python是个什么鬼?为何周围的人都抢着学

7月份我看中了一款显卡,迟迟都没有入手。想等到双十一,找个信号满格的房间,再搞事情。哥们儿老杨问我,双十一竞争那么激烈,你怎么知道自己能走那狗屎运?我说,那就只好找你们集点资了。"骂我可以,借钱不行!”说完老杨就丢了我几张200元优惠券。"可以啊,老杨,想不到你这么宝藏!”在我的"仰慕”下,老杨把他的秘密告诉我了。原来,他是利用Python去抢券的。"用Py...

weixin_37988176的博客 495
上一篇: 重磅!微软发布 Visual Studio Online:Web 版 VS Code + 云开发环境
下一篇: 揭秘了!双十一手机真的优惠吗?我爬取了京东近3000部手机,深度分析!
菜鸟学Python
博客等级 码龄9年 8042粉丝 571原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值