关于python selenium翻页错误的问题:element is not attached to the page document

当爬虫在抓取网页数据时,如果在页面翻页后立即获取数据,可能会因页面未完全加载而导致错误。为避免这种情况,可以在翻页后使用time.sleep()方法让程序暂停一段时间,确保数据加载完成后再进行抓取。这样可以有效防止重复获取上一页数据或爬空的问题。通过设置适当的延迟时间,能确保正确获取每个页面的内容。
部署运行你感兴趣的模型镜像

爬虫错误日志
在爬取的过程中,有时需要翻页操作时,如果响应时间不够,容易会出现以上错误。
这个错误主要是因为响应下一页时,下一页界面的包还没有加载完成就进行页面的获取,这样就会重复获取上一个页面的数据(如果没有保存缓存,可能会爬空),此时编辑器判断出未更新重复获取而报错,因此我们需要给页面加载完成后再对这个页面的数据进行获取。

可以利用time中的sleep方法,强制使页面等待一定时间,这样就可以等待数据传输完成后,正常获取,不出现错误。

	# 等待两秒后,再进行页面数据的获取
	time.sleep(2)
    # 获得第一页面信息#root > div > div.js-responded-list > div > div > div.box-bd
    # js-live-list > li:nth-child(64) > a.title
    temp = self.driver.find_elements(by=By.XPATH, value='/html/body/div[1]/div/div[2]/div/div/div[4]/ul/li')
    # 对页面信息进行整理,保存照片url         /html/body/div[1]/div/div[2]/div/div/div[4]/ul/li[1]/a[2]
    # print(len(temp))                 /html/body/div[1]/div/div[2]/div/div/div[4]/ul/li[119]/a[2]

总结:
页面翻页数据获取错误,只需要在页面翻页后等待几秒钟,等数据加载完毕后,再获取页面数据即可。

您可能感兴趣的与本文相关的镜像

Python3.11

Python3.11

Conda
Python

Python 是一种高级、解释型、通用的编程语言,以其简洁易读的语法而闻名,适用于广泛的应用,包括Web开发、数据分析、人工智能和自动化脚本

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Single_minde

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值