用 Python 爬了猫眼3000+《指环王》影评,看看20年前的魔幻电影鼻祖在当下影迷眼中的样子...

Python中的爬虫实战:猫眼电影爬虫 通过发送网络请求、解析HTML代码、保存数据等步骤,我们可以轻松地获取到目标电影相关数据,并将其存储到本地。Requests是Python HTTP库,可以轻松发送网页请求,而BeautifulSoup是Python的HTML解析库,可以快速解析HTML页面。将获取到的HTML代码转化为BeautifulSoup对象,使用BeautifulSoup库解析HTML代码,获取目标数据。猫眼电影作为国内领先的电影数据平台,为用户提供了全面的电影信息服务。打开猫眼电影网站,找到目标电影的链接,并将其复制下来。 阅读详情

指环王三部曲,可以说是魔幻电影的开山鼻祖,二十年前的特效下,森林、大山、魔王、高塔,城堡等等都栩栩如生的呈现在我们眼前。虽然这次重映,票房不高,也因为电影时长等原因被各种诟病,但是还是不影响魔戒迷们冲进电影院,来弥补二十年的遗憾!

本文获取了猫眼上三部曲的全部影评,一起来看看大陆影迷对于这系列“老”片的评价吧

数据获取

我们先来看看爬取数据的部分代码,由于猫眼采取了一定的反爬措施,一个比较重的措施就是对于请求中 header 的 UA 数值的校验,所以我们这里使用了 Python 第三方库中比较好用的生成随机 UA 的库 fake_useragent

from fake_useragent import UserAgent

ua = UserAgent()

接下来我们就可以根据评论的接口来获取数据了

def fire(num):
    page = 0
    for i in range(15, 135, 15):
        print("开始爬取第 %s 页" % page)
        headers["User-Agent"] = ua.random
        url1 = 'http://m.maoyan.com/review/v2/comments.json?movieId=1220&offset={}&limit=15&type=2'.format(
            i)  # rings 1
        url2 = 'http://m.maoyan.com/review/v2/comments.json?movieId=1221&offset={}&limit=15&type=2'.format(
            i)  # rings 2
        url3 = 'http://m.maoyan.com/review/v2/comments.json?movieId=428&offset={}&limit=15&type=2'.format(
            i)  # rings 3
        try:
            if num == 1:
                print(url1)
                res = requests.get(url1, headers=headers).json()
            elif num == 2:
                print(url2)
                res = requests.get(url2, headers=headers).json()
            else:
                print(url3)
                res = requests.get(url3, headers=headers).json()
        except Exception as e:
            print(e)
            time.sleep(120)
            # continue
        # if not to_json['paging']['hasMore']:
        if not res['paging']['hasMore']:
            print("爬取完成")
            # driver.close()
            break
        data = get_json(res)
        # data = get_json(to_json)
        save_to_csv(data, num)
        time.sleep(20)
        page += 1

这里还是进行了比较长的 sleep,毕竟如果请求发送的太快,我们的 IP 还是很容易被识别的

获取到数据之后,我们就来看看每一部电影的相关数据吧

护戒使者

对于第一部,在魔幻电影界来说绝对是横空出世的感觉,我们抓取到的数据如下

性别分布

先来看看评论者的性别分布吧,一般来说,这列电影,肯定男孩子比较多啦

可以看到,在填写了性别信息的数据当中,男生占比还是比较大的,不过还是有大部分人选择了不公开性别

用户级别分布

还是很正常啊,大部分都是 level-0 的用户,毕竟万万千千的普通人才是社会主体

评分分布

对于电影的喜爱程度,评分才是最为直接的选择

可以看到,有60%多的用户给出了10分,有接近80%的用户给出了9或10分,看了护戒使者还是很受观众喜爱的!

用户评论

再来看看用户的评论

这就是大型的夸夸现场,毕竟经典永远不会过期!

对于另外两部电影,我们直接来看下用户评论吧

双塔奇兵&王者归来评论

从用户的评论来看,指环王三部曲还是非常给力的,经典永流传!

不少影迷还表示,拖欠的电影票终于补上啦

推荐阅读:入门: 最全的零基础学Python的问题  | 零基础学了8个月的Python  | 实战项目 |学Python就是这条捷径干货:爬取豆瓣短评,电影《后来的我们》 | 38年NBA最佳球员分析 |   从万众期待到口碑扑街!唐探3令人失望  | 笑看新倚天屠龙记 | 灯谜答题王 |用Python做个海量小姐姐素描图 |碟中谍这么火,我用机器学习做个迷你推荐系统电影趣味:弹球游戏  | 九宫格  | 漂亮的花 | 两百行Python《天天酷跑》游戏!AI: 会做诗的机器人 | 给图片上色 | 预测收入 | 碟中谍这么火,我用机器学习做个迷你推荐系统电影小工具: Pdf转Word,轻松搞定表格和水印! | 一键把html网页保存为pdf!|  再见PDF提取收费! | 用90行代码打造最强PDF转换器,word、PPT、excel、markdown、html一键转换 | 制作一款钉钉低价机票提示器! |60行代码做了一个语音壁纸切换器天天看小姐姐!|年度爆款文案1).卧槽!Pdf转Word用Python轻松搞定!2).学Python真香!我用100行代码做了个网站,帮人PS旅行图片,赚个鸡腿吃3).首播过亿,火爆全网,我分析了《乘风破浪的姐姐》,发现了这些秘密 4).80行代码!用Python做一个哆来A梦分身 5).你必须掌握的20个python代码,短小精悍,用处无穷 6).30个Python奇淫技巧集 7).我总结的80页《菜鸟学Python精选干货.pdf》,都是干货 8).再见Python!我要学Go了!2500字深度分析!9).发现一个舔狗福利!这个Python爬虫神器太爽了,自动下载妹子图片
点阅读原文,领AI全套资料!
【爬虫学习】实战篇1:猫眼电影票房爬虫 使用python自带的urllib库编写一个小程序,我们只需启动小程序,就可以实时爬取猫眼的电影票房数据,并自动将数据生成一个excel保存至本地文件夹。接下来,我将尽可能详细地介绍爬虫编写的步骤,希望大家可以跟着我一步步操作,全部编写完成之后,我们可以展开想象的翅膀,触类旁通,使用相同的技巧去获取自己需要的公开数据吧! 阅读详情

相关推荐

猫眼爬虫三-终极篇:破解滑动验证,动态字体加密

前面两节我们对猫眼网站进行了爬取,中间,我们会遇到各种反爬虫,包括滑动验证和字体加密等等,今天,我们就对这些反爬虫进行一一破解,实现猫眼网站的全信息爬取! 1、滑动验证:滑动验证类似于极验证(滑块验证,电脑的B站登陆要滑动的哪个),但是原理不一样,目前来说,12306的相关抢票的脚本已经实现了自动加载滑块滑动,但大多数情况还得手动,在这里也是。 破解流程: 1、先尝试着获取数据,如果遇到爬取链接与...

qq_42105477的博客 7337

【python】猫眼爬虫Top100电影信息

最近做了猫眼爬虫和数据分析,收获很多,记录在此。爬虫和数据分析是两个模块,可以参考目录: 目录 一、猫眼爬虫 1. 猫眼爬虫第一步——找到我们需要的数据 2. 猫眼爬虫第二步——获取数据 3. 猫眼爬虫第三步——解析数据 4. 猫眼爬虫第四步——存储文件 数据分析是第二块,以后有空了再更新。 一、猫眼爬虫 1. 猫眼爬虫第一步——找到我们需要的数据 打开网站猫眼验证中心:https://www.maoyan.com/board/4, 就是我们想要.

qq_44665162的博客 5875

【Python爬虫】猫眼电影榜单Top100

Python爬虫大作业,本文是根据实验报告修改,内容与实验报告基本一致。【作业2020年11月20号前提交,本文于21号开放】 一、目标 爬取猫眼电影榜单Top100,将数据存入Excel文件中,并利用pyecharts库进行数据可视化得到.html文件和.png文件。 二、内容 主要包括四个阶段:爬取网页全部数据、获取数据并进行处理、数据存储、数据可视化。 1、 爬取网页全部数据 通过requests.get()获得页面数据,使用etree.HTML()将字符串数据转变成_Element对象,并存储在.

weixin_43983431的博客 1万+

Python爬虫实战案例一:爬取猫眼电影

笔者上一篇文章《基于猫眼票房数据的可视化分析》中爬取了猫眼实时票房数据,用于展示近三年电影票房概况。由于数据中缺少导演/演员/编剧阵容等信息,所以爬取猫眼电影数据进行补充。关于爬虫的教学内容,网络上一搜就有很多了,这里我以个人的爬虫习惯,介绍此次过程中所用到的库和代码。

2201_75362610的博客 4508

猫眼电影专业版数据爬取

猫眼电影专业版数据爬取

2201_75777145的博客 1740

Python爬虫实战:实时抓取猫眼电影票房数据的终极指南

使用 Playwright 模拟浏览器访问猫眼电影抓取实时票房排行榜前列电影数据自动存储为 CSV + SQLite可视化票房数据趋势。

2201_76125261的博客 1518

Python—猫眼电影票房爬虫实战 轻松弄懂字体反爬!

目标 1.爬取猫眼票房信息 2.将信息保存起来(MySQL、Redis、MongoDB或者Excel等等),我们保存的是Excel 爬取网址 https://piaofang.maoyan.com/?ver=normal&isid_key=2d9aacd2f26d4d0dba63 分析 1.打开chrome,输入网址我们看到的效果如下 2.我们要获取的信息如下图 3.右击检查打开开发者工具,选择左下角鼠标按钮,然后点击一个电影的标题 可以看到这个标签里面就是我们想...

爬遍所有网站 6596

深入解析Gerber RS274X文件格式:从基础语法到实战应用

本文深入解析PCB制造的核心标准Gerber RS274X文件格式,详细介绍了其基础语法、坐标系统、功能码以及嵌入式光圈定义等关键特性。通过实战案例演示了如何解析和手写Gerber指令,并总结了常见错误与调试技巧,帮助PCB工程师掌握这一与制造工厂沟通的“通用语言”,确保设计准确无误地转化为实体电路板。

weixin_29252171的博客 97

偶然发现的Python自学宝藏地带!

大家好最近发现一个自学python的好地方,这里全部都是原创文章,涉及爬虫、可视化、Python Web、数据分析、自动化办公、机器学习,应有尽有;而且每篇文章都有源码分享,大家一起来看看...

weixin_43373042的博客 381

Windows下用Anaconda安装d2l库避坑指南(附PermissionError解决方案)

本文详细介绍了在Windows系统下使用Anaconda安装d2l库的完整指南,特别针对常见的PermissionError问题提供了多种解决方案。从环境准备到库安装,再到VSCode配置和数据路径处理,帮助读者顺利搭建深度学习环境并运行《动手学深度学习》的代码示例。

3a9bq4r8t2y的博客 226

Eclipse 数据空间组件(EDC)项目介绍

在当今数字经济的背景下,数据成为了新的“石油”。但与石油不同的是,数据可以无限共享且再生。然而,如何在保持数据主权的前提下实现高效、安全的数据共享,成为了企业和组织面临的主要挑战。这时,**Eclipse 数据空间组件(Eclipse Dataspace Components, EDC)**应运而生,它为企业在多方参与的数据交换中提供了一个标准化、可扩展的解决方案。数据空间不仅是一个多组织间的数据共享协议,还是一套支撑这些协议运行的技术基础设施。

m0_74331272的博客 4602

Python爬虫入门实战之猫眼电影数据抓取(理论篇)

导入 re 模块import re# 待匹配文本h1 = 'Chapter 3.2.1 - 介绍正则表达式'# 将正则字符串编译成正则表达式对象,方便在后面的匹配中复用# re.search 扫描整个字符串并返回第一个成功的匹配# 匹配的整个表达式的字符串,group() 可以一次输入多个组号,在这种情况下它将返回一个包含那些组所对应值的元组。# 匹配的第一个括号内的字符串,group() 可以一次输入多个组号,在这种情况下它将返回一个包含那些组所对应值的元组。

mate1357的博客 2340

Rk3128投影仪救砖操作和固件分享思路

大家搞一条比较硬的东西,插入耳机口,就可以进入刷机模式了的,我的机器是这样的,大家也可以试试。(看不懂可以往下看)

MMX7088的博客 1万+

爬虫实战(一)猫眼电影基础数据爬取

看完爬虫基础,是不是有点心动手痒了呢?那么接下来就让我们一起学习如何爬虫吧。 写在爬虫之前 选这个题目的初衷:本人是一个学生党,经济来源较少但平时又特别爱看电影,又没时间关注电影票价的变动,有了这个爬虫之后,这将会极大的缓解我的苦恼。 爬取网页的说明:我们选择美团旗下的猫眼电影页面进行爬取,但不得不承认美团网站页面的反爬虫机制还是很厉害的。所以,我们将目标锁定在了它的客户端页面。 页面地址...

yeverwen的博客 1万+

DEM高程数据的获取、合并与坐标转换

DEM高程数据的获取、合并与坐标转换一、DEM数据的获取二、数据合并三、投影转换方法一四、投影转换方法二 今天用DEM数据做了一个坡度分析,数据使用过程中涉及到投影坐标转换,由于不是很熟悉所以费了一番功夫。经过一番折腾总结出两个方法,方法一自认为比较便捷的方法,即通过BIGMAP软件中工具列表中的投影转换功能进行。方法二为传统方法,即在Arcgis中用投影栅格工具进行转换。 一、DEM数据的获取 在地理空间数据云网站下载DEM数据(精度包括30米和90米),数据格式为tif格式或img格式,坐标为WGS_1

weixin_48625651的博客 1万+

PX4固件下VTOL固定翼的3种起飞方式对比:手抛vs弹射vs跑道

本文深度解析PX4固件下VTOL固定翼的三种起飞方式:手抛、弹射与跑道起飞,对比其技术差异与适用场景。通过详细的参数配置和工程实践指南,帮助开发者优化起飞性能,提升无人机在不同环境下的适应性和可靠性。文章特别针对PX4飞控系统的最新特性进行了技术探讨。

weixin_30296405的博客 87

Python爬虫之三:抓取猫眼电影TOP100

今天我要利用request库和正则表达式抓取猫眼电影Top100榜单。 运行平台: Windows Python版本: Python3.6 IDE: Sublime Text 其他工具: Chrome浏览器 1. 抓取单页内容 2. 正则表达式提取有用信息 3. 保存信息 4.下载TOP100所有电影信息 5.多线程抓取 1. 抓取单页内容 浏览器打开猫眼电影...

C与Python实战 1万+

【WPF】渲染失败甚至程序崩溃,D3DImage.Lock卡死,报COMException异常和UCEERR_RENDERTHREADFAILURE消息

最近遇到WPF程序抛出ystem.Runtime.InteropServices.COMException异常,异常消息UCEERR_RENDERTHREADFAILURE (Exception from HRESULT: 0x88980406),或者先在D3DImage.Lock卡死,然后再出异常的问题。 现象和复现方法 出现了标题中的现象,你很可能有至少两个屏幕,并且可能在你的程序中直接或间接用了如下的库或技术: 1、WpfD3D这个开源库 2、自行使用了WPF中的D3DImage类,实现D3D

几罗星人的专栏 8254

Python网络爬虫入门篇

Beautiful Soup提供一些简单的、python式的函数用来处理导航、搜索、修改分析“标签树”等功能。它是一个工具箱,通过解析文档为用户提供需要抓取的数据,因为简单,所以不需要多少代码就可以写出一个完整的应用程序。Beautiful Soup自动将输入文档转换为Unicode编码,输出文档转换为utf-8编码。你不需要考虑编码方式,除非文档没有指定一个编码方式,这时,Beautiful Soup就不能自动识别编码方式了。然后,你仅仅需要说明一下原始编码方式就可以了。

2401_86078658的博客 2123

COSMO-RS理论:流体相热力学预测的核心模型与技术突破

摘要:COSMO-RS模型通过量子化学计算分子表面电荷分布,实现了从微观量子尺度到宏观化工过程的热力学预测。该模型基于介电连续介质理论,将分子表面片段化处理,通过σ-剖面描述电荷分布,并计算片段间的静电失配能和氢键能。其核心算法通过自洽化学势方程求解活度系数,克服了传统模型依赖实验参数的局限。随着技术进步,模型引入了高阶描述符和色散力修正,提升了预测精度。在药物研发、化工分离等领域广泛应用,但仍存在对长程有序结构预测不足等局限性。该模型为复杂体系的热力学性质预测提供了重要理论工具。

ASKCOS博客 975

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

多种方法爬取猫眼电影并分析(附代码)

数据科学俱乐部中国数据科学家社区♚作者:苏克,零基础转行python爬虫与数据分析博客:https://www.makcyun.top摘要: 作为小白,爬虫可以说是入门p...

Python中文社区 1万+

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

Python爬虫入门实战之猫眼电影数据抓取(实战篇)

项目实战 静态网页实战   本节我们将为大家展现一个完整爬虫的大致过程,此次项目内容为提取猫眼电影TOP100榜中的所有电影信息并存储至CSV文件中,其首页地址为http://maoyan.com/board/4,在3.2.2中我们已经获取过第一页中的所有电影名了,但是如何获取第二页、第三页的数据呢,即获取第二页第三页对应的URL,那么我们可以在浏览器中不断翻页寻找地址栏中URL的...

若数的博客 5374

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

【python爬虫实战】——爬取猫眼电影票房排行榜+可视化(附完整代码)

在当今数据驱动的时代,获取和分析电影票房数据对于电影行业从业者、数据分析师以及电影爱好者来说至关重要。本文将介绍如何使用Python编写一个简单的爬虫程序,从猫眼电影网站上爬取2011年至2025年的电影票房排行榜数据,并将数据保存到CSV文件中。

weixin_65147810的博客 5112
上一篇: 知乎热议!谷歌员工,在家办工要降薪25%?
下一篇: Python 最好用的8个VS Code扩展
菜鸟学Python
博客等级 码龄9年 8087粉丝 571原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值