使用Python的requests库和xpath爬取豆瓣top250每部电影的详细信息

数据采集——爬虫篇(一):豆瓣电影TOP250详细信息采集 数据采集——爬虫篇(一):豆瓣电影TOP250详细信息采集 . 1.分析豆瓣url换页变化 打开 https://movie.douban.com/top250?start=0&filter= 来到豆瓣主页 此处可以观察到电影是在第1个序号开始的,暂时记住url,观察后续变化 切换第二页,发现url变化: https://movie.douban.com/top250?start=25&filter= 第二页如下: **url第一页:https://movie.douban.com/to 阅读详情

最近在做毕设,需要很多电影数据,手动输入很麻烦,所以想到了用python爬取,但本人很少接触python而且网上关于top250爬取的基本都是top250界面的信息,很少有爬取每一部详细信息的,于是自己花了点时间搞了一个,下面直接贴代码和结果,大家需要的话就用(第一次用python大家写的不好大家见谅)。

#引库,爆红点击安装即可
import requests
import uuid
from lxml import etree
import csv
#总体思想就是先取得每页25部电影的链接,再对每部电影链接进行访问并取得信息

#请求头设置一般都是这个
headers={
   
   
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.93 Safari/537.36'
}
#列表用于存储下面字典中的数据
VedioList=[]
#top250每一页网址的地址都是有规律的例如第一页start=0,第二页start=25以此类推,所以下面通过循环改变网址,range(0,26,25)即循环两次
for i in range(0,26,25):
    #i=0时对应top250的第一页网址
    url='https://movie.douban.com/top250?start='+str(i)+'&filter='
    #请求(固定写法)
    resp=requests.get(url=url,headers=headers)
    data=etree.HTML(resp.text)
    #xpath定位到本页每一部电影的链接位置并取出存放到src1中(可自行输出查看)
    src1=data.xpath('//div[@class="item"]/div[@class="pic"]/a/@href')
    #接着循环25次分别访问本页面每个电影的链接
    for k in range(0,25):
        print(k)
        #访问第k部电影链接
       
python爬取豆瓣网站TOP250 UA(user-agent)伪装,是我本次采用的伪装策略,也是最简单的伪装策略,有些网站的反爬机制比较复杂,则需要采用更加复杂的反反爬机制来进行伪装,不过,对于豆瓣来说,UA伪装就够用了。状态码是418,意思是服务器拒绝了我们的请求。这是因为服务器没有识别到我们是用户端,所以为了保证网站数据的安全,将我们拒之门外。可以看到电影的信息都在<li>.....<li>中的,我们拿到本页面的html代码之后开始解析数据。可以看到,我们已经得到了整个页面的html代码,那么下一步我们就需要从中提取我们需要的信息。 阅读详情

相关推荐

Python 爬虫之爬豆瓣TOP250电影 爬虫超详细讲解 零基础入门

先看后赞,养成习惯!!! 点赞收藏,人生辉煌!!! 讲解我们的爬虫之前,先概述关于爬虫的简单概念(毕竟是零基础教程) 爬虫 网络爬虫(又被称为网页蜘蛛,网络机器人)就是模拟浏览器发送网络请求,接收请求响应,一种按照一定的规则,自动地抓取互联网信息的程序。 原则上,只要是浏览器(客户端)能做的事情,爬虫都能够做。 为什么我们要使用爬虫 互联网大数据时代,给予我们的是生活的便利以及海量数据爆炸式的出现在网络中。 过去,我们通过书籍、报纸、电视、广播或许信息,这些信息数量有限,且...

LYD521000的博客 1万+

Python爬虫之豆瓣TOP250爬取

@ 1.

fuyao2209的博客 3912

零基础爬虫----python爬取豆瓣电影top250的信息

今天利用xpath写了一个小爬虫,比较适合一些爬虫新手来学习。话不多说,开始今天的正题,我会利用一个案例来介绍下xpath如何对网页进行解析的,以及如何对信息进行提取的。 python环境:python3.5 先看看网页的样子先看看网页的样子先看看网页的样子 豆瓣电影网站链接 我们下面将要对电影的名字、链接、评分、评价人数和一句话描述这些信息进行提取 1、检查并复制电影名字的xPa...

云南省高校数据化运营管理工程研究中心的博客 9236

豆瓣电影TOP250抓取

豆瓣电影TOP250抓取 本文是Python爬取豆瓣的top250电影的分析和实现,具体是将电影的标题、电影描述、电影的评分、电影的评论数以及电影的一句影评抓取下来,然后输出csv文件。 第一步:打开豆瓣电影top250这个页面。 第二步:分析网页源代码,找到我们需要爬取的信息的标签,例如电影title的标签等等是什么。 第三步:写代码了,将整个html请求下来,然后解析网页,获取我们需要的...

dta0502的博客 4565

使用xpath,正则表达式爬取豆瓣top250电影信息

今天使用xpath爬取豆瓣电影top250的电影信息,使用了xpath,和正则表达式,最近学习爬虫感觉xpath是相对较简单一点的(相对于正则表达式),xpath有时候提取的数据不是自己全部需要的,所以配合着正则表达式一起用效果较好。 今天爬取的网站是豆瓣电影top250(https://movie.douban.com/top250?start=0&filter=),进行翻页之后发现它的url变化情况 它们在翻页时候,start一次变化25,我们可以使用range(0,226,25)获取到10

weixin_46539246的博客 3478

Qlib上手学习记录

Qlib 是一个面向人工智能的量化投资平台,其目标是通过在量化投资中运用AI技术来发掘潜力、赋能研究并创造价值,从探索投资策略到实现产品化部署。该平台支持多种机器学习建模范式,包括有监督学习、市场动态建模以及强化学习等。真的是走了很多弯路step 1. 使用 ananconda 建立环境,要主要必须是 python 3.8失败的下了以后 进入 glib folder 后执行是会报错的,不管你还什么source 都一样,整了很久使用前最好看下这个。

chenchihwen的专栏 3100

【接口自动化测试】cookie绕过验证码自动登录?(保持登录状态)

在编写接口自动化测试用例或其他脚本的过程中,经常会遇到需要绕过用户名/密码或验证码登录,去请求接口的情况,一是因为有时验证码会比较复杂,比如有些图形验证码,难以通过接口的方式去处理;再者,每次请求接口前如果都需要先去登录一次,这样不仅效率低,还耗费资源。 有些网站是使用cookie辨别用户身份的,此时我们便可以先登录一次,拿到登录成功后的cookie,后续请求时在请求头中加入该cookie,便可保持登录状态直接请求。

weixin_67553250的博客 2071

Cadence 16.6与17.4双版本共存避坑指南:从安装顺序到环境变量配置

本文是一份详细的Cadence 16.6与17.4双版本共存实战指南。针对硬件工程师和PCB设计者同时处理新旧项目的需求,文章深入剖析了版本冲突根源,并提供了从安装顺序、环境隔离到故障排查的完整解决方案。核心在于通过环境变量精细化管理与脚本控制,实现两个版本的稳定共存与无缝切换,有效解决了文件关联混乱、交互布局失效等常见问题。

html8的博客 979

机器学习算法 —— LightGBM

本次我们选择英雄联盟数据集进行LightGBM的场景体验。英雄联盟是2009年美国拳头游戏开发的MOBA竞技网游,在每局比赛中蓝队与红队在同一个地图进行作战,游戏的目标是破坏敌方队伍的防御塔,进而摧毁敌方的水晶枢纽,拿下比赛的胜利。现在共有9881场英雄联盟韩服钻石段位以上的排位比赛数据,数据提供了在十分钟时的游戏状态,包括击杀数、死亡数、金币数量、经验值、等级……参考项目:机器学习系列入门系列[七]:基于英雄联盟数据集的LightGBM的分类预测。

ZShiJ的博客 708

NPC 三电平逆变器中点电位平衡算法详解

最常用:零序电压注入(简单、计算量小)最可靠:虚拟空间矢量调制(VSVPWM)及其改进形式(全范围平衡)趋势:结合模型预测控制(MPC)或智能算法(模糊、神经网络)进一步提升动态性能和鲁棒性。NPC 三电平逆变器中点电位平衡算法的 C# 实现示例(零序电压注入法 + 闭环补偿)在 NPC(Neutral Point Clamped)三电平逆变器中,中点电位平衡最常用且易于软件实现的方案是零序电压注入法。

专注于前沿技术的探索与实践,热衷于从代码逻辑、架构设计到行业应用等多维度深挖技术本质。期待在技术之路上与你共同成长~ 325

RK3588芯片USB OTG模式切换:Device到Host的驱动奥秘之旅

摘要:本文详细介绍了RK3588芯片USB OTG模式从Device到Host的完整驱动流程,包括硬件电路设计、内核驱动配置、模式切换机制及验证方法。RK3588芯片凭借强大的性能和灵活的USB OTG特性,在工业控制、智能家居等领域具有广泛应用前景。文章重点分析了Type-C接口设计、USBPHY芯片选型、Linux内核模块配置等关键技术要点,并提供了模式切换脚本使用方法和常见问题解决方案,为开发者实现RK3588 USB OTG功能提供了全面指导。

远程部署调试 运行安装 项目调试 二次开发 项目技术新 持续迭代 部分源码免费分享 741

YOLOv8改进:基于EfficientNetV2均衡缩放网络的特征提取层优化【YOLOv8】

YOLO(You Only Look Once)系列模型以其高效的实时目标检测能力而闻名。YOLOv8作为该系列的最新版本,通过引入改进的网络结构和算法优化,进一步提升了目标检测的性能。然而,YOLOv8在特征提取阶段的网络结构仍有改进的空间。EfficientNetV2是一种基于均衡缩放的卷积神经网络,它通过优化网络的宽度、深度和分辨率来实现高效的特征提取。与之前的EfficientNet版本相比,EfficientNetV2在速度和精度上都有显著提升,尤其在处理复杂目标检测任务时表现尤为突出。

博客 1582

【深度学习新浪潮】气候预测模型的研发进展一览(2025年版)

模型类型核心优势适用场景不足ARIMA(统计模型)简单高效、可解释性强短期单变量预测非线性、长时依赖建模差随机森林(机器学习)多特征融合、抗噪声中短期多因素预测空间相关性、时序趋势捕捉弱LSTM(深度学习)长时依赖建模、端到端中长期时序预测物理一致性差、数据需求量大物理知情AI物理规律约束、高可靠性极端天气、长期气候变化模型复杂、计算成本高。

专注:太空算力、AI infra、异构调度、大模型成本工程 528

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

DIIIIIIIO
博客等级 码龄6年 3粉丝 1原创
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值