有的网页需要鼠标下滑滚动加载剩余内容,这个时候需要模拟下滑滚动加载,不然获取的数据不全或报错。
解决办法:
1.通过模拟浏览器,把高度设置足够长,最后能使之全部加载出来
- import time
- from selenium import webdriver
- driver = webdriver.Chrome()
- driver.set_window_size(1000,30000)
- driver.get(url)
- time.sleep(5)
7
二,通过selenium模拟浏览器下拉操作
from selenium import webdriver
import time
browser.execute_script(“window.scrollBy(0,3000)”)
time.sleep(1)
browser.execute_script(“window.scrollBy(0,5000)”)
time.sleep(1)
browser.execute_script(“window.scrollBy(0,8000)”)
time.sleep(1)
原文:https://blog.youkuaiyun.com/wumxiaozhu/article/details/81351828