Python爬虫入门 | 5 爬取小猪短租租房信息

A超级简单!用Python爬取租房信息 这里以小猪短租北京区域为例,展示如何爬取租房信息,为北京居住的小伙伴们提供便利的信息比对,找到合适自己的房子,哈哈!!! 打开小猪短租的北京区域的页面,从列表页点进第一个详情页,我们需要爬取如下信息: 在这里我们需要用到requests,BeautifulSoup两个主要函数,time函数是用来控制访问的频率,设置为两秒钟爬取一次,以免被反扒程序禁止。 我们用一个for循环和格式化的输入语句来爬取前5个列表页的内容: urls = ['http://bj.xiaozhu.com/search-duanzu 阅读详情

小猪短租是一个租房网站,上面有很多优质的民宿出租信息,下面我们以成都地区的租房信息为例,来尝试爬取这些数据。

小猪短租(成都)页面:http://cd.xiaozhu.com/

 

1.爬取租房标题

按照惯例,先来爬下标题试试水,找到标题,复制xpath。

 
多复制几个房屋的标题 xpath 进行对比:

//*[@id="page_list"]/ul/li[1]/div[2]/div/a/span
//*[@id="page_list"]/ul/li[2]/div[2]/div/a/span
//*[@id="page_list"]/ul/li[3]/div[2]/div/a/span

瞬间发现标题的 xpath 只在

  • 后序号变化,于是,秒写出爬取整页标题的 xpath:
  • //*[@id=“page_list”]/ul/li/div[2]/div/a/span

     
    还是固定的套路,让我们尝试把整页的标题爬下来:

    小猪在IP限制方面比较严格,代码中务必要加入 sleep() 函数控制爬取的频率

     
    好了,再来对比下 xpath 信息

    image.png

    顺着标题的标签网上找,找到整个房屋信息标签, xpath 对比如下:

    //*[@id=“page_list”]/ul/li   #整体
    //*[@id=“page_list”]/ul/li/div[2]/div/a/span   #标题

     
    你应该知道该怎么来改代码了吧,写一个循环:

    file=s.xpath(‘//*[@id=“page_list”]/ul/li’)
    for div in file:    
      title=div.xpath("./div[2]/div/a/span/text()")[0]

     
    好了,来运行一下试试:

     

    2.爬取多个元素的信息

    对比其他元素的 xpath:

    //*[@id=“page_list”]/ul/li   #整体
    //*[@id=“page_list”]/ul/li/div[2]/div/a/span   #标题
    //*[@id=“page_list”]/ul/li/div[2]/span[1]/i   #价格
    //*[@id=“page_list”]/ul/li/div[2]/div/em   #描述
    //*[@id=“page_list”]/ul/li/a/img   #图片

     
    然后可以写出代码:

    file=s.xpath(“//*[@id=“page_list”]/ul/li”)
    for div in file:    
      title=div.xpath(“./div[2]/div/a/span/text()”)[0]          
      price=div.xpath(“./div[2]/span[1]/i/text()”)[0]    
      scrible=div.xpath(“./div[2]/div/em/text()”)[0].strip()    
      pic=div.xpath(“./a/img/@lazy_src”)[0]

     
    来尝试运行一下:

     

    3.翻页,爬取更多页面

    看一下翻页时候 url 的变化:

    http://cd.xiaozhu.com/search-duanzufang-p1-0/    #第一页
    http://cd.xiaozhu.com/search-duanzufang-p2-0/    #第二页
    http://cd.xiaozhu.com/search-duanzufang-p3-0/    #第三页
    http://cd.xiaozhu.com/search-duanzufang-p4-0/    #第四页
    ……………………

     
    url 变化的规律很简单,只是 p 后面的数字不一样而已,而且跟页码的序号是一模一样的,这就很好办了……写一个简单的循环来遍历所有的url。

    for a in range(1,6):    
      url = ‘http://cd.xiaozhu.com/search-duanzufang-p{}-0/’.format(a)
      # 我们这里尝试5个页面,你可以根据自己的需求来写爬取的页面数量

     
    完整的代码如下:

    from lxml import etree
    import requests
    import time
    
    for a in range(1,6):
        url = 'http://cd.xiaozhu.com/search-duanzufang-p{}-0/'.format(a)
        data = requests.get(url).text
    
        s=etree.HTML(data)
        file=s.xpath('//*[@id="page_list"]/ul/li')
        time.sleep(3)
    
        for div in file:
            title=div.xpath("./div[2]/div/a/span/text()")[0]
            price=div.xpath("./div[2]/span[1]/i/text()")[0]
            scrible=div.xpath("./div[2]/div/em/text()")[0].strip()
            pic=div.xpath("./a/img/@lazy_src")[0]
    
            print("{}   {}   {}   {}\n".format(title,price,scrible,pic))
    

     
    看一下爬了5个页面下来的效果:

     
    相信你已经掌握爬虫基本的套路了,但你还需要去不断熟悉,能独立写出代码为止。

    写代码不仅要细心,也需要耐心。很多人从入门到放弃,并不是因为编程这件事情有多难,而是某次实践过程中,遇到一个小问题。

     
    好了,这节课就到这里!

    白白~

    如果你想有专业老师授课、有系统性知识、有实时在线答疑的老师的话,可以加入我们的课程《Python爬虫(入门+进阶)》。

    下节预告:Python爬虫入门 | 6 将爬回来的数据存到本地

    完整7节课程目录:
    Python爬虫入门 | 1 Python环境的安装
    Python爬虫入门 | 2 爬取豆瓣电影信息
    Python爬虫入门 | 3 爬虫必备Python知识
    Python爬虫入门 | 4 爬取豆瓣TOP250图书信息
    Python爬虫入门 | 5 爬取小猪短租租房信息
    Python爬虫入门 | 6 将爬回来的数据存到本地
    Python爬虫入门 | 7 分类爬取豆瓣电影,解决动态加载问题

Python爬虫:使用Selenium爬取携程民宿列表 爬取携程民宿列表的数据不仅可以帮助研究旅游市场,还可以进行趋势分析、价格预测等。本文将通过使用 Python 和 Selenium 爬取携程民宿列表,教你如何模拟浏览器行为,获取实时数据,并处理反爬虫机制。本文详细介绍了如何使用 Python 和 Selenium 爬取携程民宿列表数据,涵盖了如何打开网页、提取民宿信息、翻页爬取数据以及如何绕过反爬虫机制。携程民宿是其中的一项重要业务,用户可以通过携程预订到各类风格、价位的民宿,成为许多人出行时的首选。爬取的数据可以存储到多种格式中,如 CSV、数据库等。 阅读详情

相关推荐

python爬虫爬取58租房信息

使用python对58同城租房信息进行爬取

python爬虫实践——零基础快速入门(四)爬取小猪租房信息

上篇文章我们讲到python爬虫实践——零基础快速入门(三)爬取豆瓣电影 接下来我们爬取小猪短租租房信息。进入主页后选择深圳地区的位置。地址如下: http://sz.xiaozhu.com/ 一,标题爬取 按照惯例,我们先复制标题的xpath信息,多复制几个进行对比: //*[@id="page_list"]/ul/li[1]/div[2]/div/a/span //*[@id

MTbaby的博客 8217

用python提取PDF中各类文本内容的方法

用python提取PDF中各类文本内容的方法

安静的软件工程师 6086

Python中的爬虫实战:58同城爬虫

在爬虫实现前,首先对58同城租房页面进行了分析,确定了获取租房信息的URL和需要提取的数据。通过爬虫,我们成功地获取了58同城租房页面的租房信息,并将其封装到变量中,方便后续的数据处理。根据页面结构可知,每条租房信息包含在class为"des"的div标签中,包含标题、租金、面积、地理位置、房屋类型等信息。因此,爬虫成为一种获取数据的重要手段。通过以上代码,我们已经成功地获取了58同城租房页面的每条租房信息,并将其封装到变量中。租房信息列表包含了每条租房信息的标题、租金、面积、地理位置、房屋类型等信息。

Ob2024的博客 1735

深入了解 Google Gemini:主要功能是什么以及我们为什么要使用它?

Google Gemini开启AI新纪元,以其独特的多模式功能重塑技术未来。

KompasAI的博客 4066

STM32H750实战:如何用CubeMX配置NAND Flash时序(附常见问题排查)

本文详细解析了STM32H750通过CubeMX配置NAND Flash时序的实战技巧,包括硬件连接、时序参数计算与优化策略,以及常见问题如RGB屏幕干扰、多片选冲突的解决方案。特别针对NAND Flash的时序配置和抗干扰设计提供了实用代码示例和优化建议,帮助开发者提升系统稳定性和性能。

weixin_29176179的博客 363

疫情过去女朋友想去重庆玩,python批量爬取小猪短租重庆民宿信息

疫情过去女朋友想去重庆玩,python批量爬取小猪短租重庆民宿信息 随着时间的流逝,在中国共产党的领导,全国人民的共同努力下,疫情逐渐受到了控制,逐渐好转,复工,开学有望。最近在和女朋友的闲聊当中得知她想五一去重庆你玩儿,上完网课后,闲来无事,就想的能不能直接把小猪短租上的重庆住宿信息批量爬取下来,顺便为自己的爬虫能力做做练习,话不多说,直接开整! 首先打开小猪短租的网页,给出第一页的 url: ...

cc的博客 1544

【阿里云大模型高级工程师ACP习题集】2.9 大模型应用生产实践(下篇)

【摘要】这是我精心整理出对应的习题集,里面足足有 30 道题目,从基础概念到深度拓展,全方位覆盖章节重点、难点。不管你是想检验自己的学习成果,还是想针对薄弱环节进行强化训练,它都能完美适配!

davidkorhenn的博客 2237

计算机毕业设计|基于Python的民宿可视化分析+随机森林预测算法 民宿爬虫 酒店爬虫 民宿可视化分析(新出)(爬虫美团)

计算机毕业设计|基于Python的民宿可视化分析+随机森林预测算法 民宿爬虫 酒店爬虫 民宿可视化分析(新出)(爬虫美团)在民宿行业,爬虫技术同样重要。特别是在个性化推荐系统中,需依赖大量实时数据提供精准服务。爬虫可以系统地从美团等平台收集民宿信息,如房源详情、用户评价、价格变化和图片等。以某民宿管理系统为例,使用Scrapy框架的爬虫从美团等平台抓取数据。爬虫自动抓取最新民宿信息,包括房源名称、图片、价格、评分等。这些数据经过清洗处理,确保质量和可用性,为个性化推荐提供基础。

计算机源码之家的博客 2465

PX4固件下VTOL固定翼的3种起飞方式对比:手抛vs弹射vs跑道

本文深度解析PX4固件下VTOL固定翼的三种起飞方式:手抛、弹射与跑道起飞,对比其技术差异与适用场景。通过详细的参数配置和工程实践指南,帮助开发者优化起飞性能,提升无人机在不同环境下的适应性和可靠性。文章特别针对PX4飞控系统的最新特性进行了技术探讨。

weixin_30296405的博客 87

IMX335摄像头原理图设计,已量产

从工程组织上看,IMX335 模组和 IMX415 模组属于同一类产品:核心矛盾不是外设多,而是高速图像链路、电源域和调试接口要同时兼顾。ATK-MCIMX335 这张图的结构也很直接,三路 LDO、本地 24MHz 可选时钟、4-lane MIPI 数据对和一组主板侧标准接口,构成了一张非常典型的量产摄像头子板。

不脱发的程序猿 437

python爬取网上租房信息_Python爬虫入门 | 5 爬取小猪短租租房信息

小猪短租是一个租房网站,上面有很多优质的民宿出租信息,下面我们以成都地区的租房信息为例,来尝试爬取这些数据。1.爬取租房标题按照惯例,先来爬下标题试试水,找到标题,复制xpath。多复制几个房屋的标题 xpath 进行对比://*[@id="page_list"]/ul/li[1]/div[2]/div/a/span//*[@id="page_list"]/ul/li[2]/div[2]/div/...

weixin_39525255的博客 405

【异常】Cursor 模型服务地域访问限制报错的完整排查与解决方案This model provider doesn‘t serve your region

其本质是:Cursor客户端依赖的上游大语言模型服务提供商,基于自身服务的合规运营范围,对客户端发起的请求进行了来源地域权限校验;当系统检测到请求的网络来源地域,不在该模型服务商官方授权提供服务的地域范围内时,会触发服务访问拦截策略,拒绝响应本次模型调用请求,最终在客户端抛出该报错。合规声明:本文所提供的所有方案,均仅用于技术问题排查与解决,请您在使用过程中严格遵守当地法律法规,以及对应软件与模型服务提供商的用户协议与合规要求。更多关于AI+教育领域的干货,可以关注我的微信公众号一时间获取哦~

奶爸的编程之路,也就一周冷个三天 1134

为什么用xpath爬取标签是空的_Python爬虫入门 5?爬取小猪短租租房信息

小猪短租是一个租房网站,上面有很多优质的民宿出租信息,下面我们以成都地区的租房信息为例,来尝试爬取这些数据。1.爬取租房标题按照惯例,先来爬下标题试试水,找到标题,复制xpath。多复制几个房屋的标题 xpath 进行对比://*[@id="page_list"]/ul/li[1]/div[2]/div/a/span//*[@id="page_list"]/ul/li[2]/div[2]/div/...

weixin_39796116的博客 695

【LE Audio】CAP精讲[1]: 从理论到实操,CAP 协同流程入门全攻略

LEAudio生态中的CommonAudioProfile(CAP)是一个关键协同框架,它通过整合基础音频协议(BAP/VCP/MICP等)构建多设备协同能力。CAP定义了三大核心功能:音频流管理、设备组控制和统一交互服务,解决了传统蓝牙音频在多设备场景下的协同痛点。其规范历经v1.0到v1.0.1的优化,修正了角色定义、连接流程等关键模块,提升设备兼容性。CAP采用严格的语言约定(shall/must/should)和术语体系(ContextType/CCID/协同集),确保不同厂商设备能相互理解。

byte轻骑兵的技术小窝 2万+

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

爬虫练习-爬取小猪短租网北京地区短租房信息

爬取小猪短租网背景地区短租房信息,网页无反爬手段,代码简单易懂,文档详实,注释清晰,适合刚入门爬虫或想学习爬虫的朋友

莫莫先生的博客 2699

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

Python爬取小猪短租全网数据

爬取时需要进行的操作: 1:输入你是要爬取国内的还是海外的,1表示国内,2表示海外; 2:然后输入你要爬取的城市名称,就可以了; 每个函数的功能: choose_area函数根据你输入的是国内还是海外,输出不同的区域名称 url_list函数根据你输入的城市名称,来爬取城市有多少房源,来判断有几页数据,因为小猪短租网上面只显示13页数据,超过了的话页只显示1...

人生苦短, 还不用Python? 2282

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

利用python爬取租房信息网_Python3爬虫实战:以爬取小猪短租租房信息为例

本文以爬取小猪短租租房信息为例。首先进入主页后选择深圳地区的位置。地址如下:http://sz.xiaozhu.com/一、标题爬取按照惯例,我们先复制标题的xpath信息,多复制几个进行对比://*[@id="page_list"]/ul/li[1]/div[2]/div/a/span//*[@id="page_list"]/ul/li[2]/div[2]/div/a/span//*[@id="...

weixin_39846378的博客 505

爬取小猪网的短租房信息

爬取小猪网的短租房信息的实现 #小猪网爬虫2.0 #功能:实现爬取多页面,并将图片和CSV文件存入桌面文件夹 from PIL import Image import requests from bs4 import BeautifulSoup import re import os from io import BytesIO import csv import pandas as pd imp...

HeroAchilles的博客 618

爬取北京地区短租房信息

题目 爬取http://bj.xiaozhu.com/ 中北京地区短租房13页的信息(标题、地址、价格、房东名称、房东性别和房东头像的链接)。 注意:这个小猪网址,第一次打开需要验证,所以先在浏览器上打开这个网页,完成验证后,再运行代码,以及多次爬取后,可能需要再次打开网页进行验证。 code import requests from bs4 import BeautifulSoup impo...

低到尘埃,仰望星空 563

网络爬虫:爬取某地区短租房信息

1、爬虫思路分析 (1)原来的北京短租房的地址规则如下: http://bj.xiaozhu.com/ http://bj.xiaozhu.com/search-duanzufang-p2-0/ http://bj.xiaozhu.com/search-duanzufang-p3-0/ http://bj.xiaozhu.com/search-duanzufang-p4-0/ (2)需要爬取的信息有:标题、地址、价格、房东名称、房东性别和房东头像的链接 """ # 案例要求: # 将利用到 Reques

protoc使用报错 401

爬小猪短租发布的房子信息

通过输入国内,国外,城市名只能抓取13页的信息。。。木鸟短租可以尝试抓取,主要里面有文章 import requests,re,time from lxml import etree #城市列表: #https://www.cnblogs.com/114811yayi/p/7061674.html #获取每个城市的url headers={"User-Agent":"Mozilla/5.0...

行走的小菜头 673

第一次爬虫之Select 小猪短租

第一次爬虫之select 小猪短租 因为我是在成都 当然爬的是成都 短租房 http://cd.xiaozhu.com 需要爬取的是这些信息: 短住房的标题信息 短住房的地址 当然还有价格 还有房东信息(头像,性别)hh 工具 个人喜欢用Pycharm, Select 方法 360 极速浏览器(chrome)同样 requests time BeautifulSoup 以上是所用的库。...

a1161510735的博客 551
上一篇: Python爬虫入门 | 4 爬取豆瓣TOP250图书信息
下一篇: Python爬虫入门 | 6 将爬回来的数据存到本地
DataCastle
博客等级 码龄10年 870粉丝 202原创
评论 11
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值