Python 爬虫实例（8）—— 爬取动态页面

最新推荐文章于 2025-01-16 16:08:41 发布

weixin_33923148

最新推荐文章于 2025-01-16 16:08:41 发布

阅读量210

点赞数

文章标签： python 爬虫 javascript ViewUI

本文介绍了一种利用Python和Selenium进行动态网页爬虫的方法，通过不断刷新页面获取实时金价数据。具体实现中，使用了正则表达式来解析所需信息。

今天使用python 和selenium爬取动态数据，主要是通过不停的更新页面，实现数据的爬取，要爬取的数据如下图

源代码：

#-*-coding:utf-8-*-
import time
from selenium import webdriver
import os
import re
#引入chromedriver.exe
chromedriver = "C:/Users/xuchunlin/AppData/Local/Google/Chrome/Application/chromedriver.exe"
os.environ["webdriver.chrome.driver"] = chromedriver
browser = webdriver.Chrome(chromedriver)

#设置浏览器需要打开的url
url = "https://www.jin10.com/"
# 使用for循环不停的刷新页面，也可以每隔一段时间刷新页面
for i in range(1,100000):
    browser.get(url)
    result= browser.page_source
    gold_price = ""
    gold_price_change = ""
    try:
        gold_price = re.findall('<div id="XAUUSD_B" class="jin-price_value" style=".*?">(.*?)</div>',result)[0]
        gold_price_change = re.findall('<div id="XAUUSD_P" class="jin-price_value" style=".*?">(.*?)</div>',result)[0]
    except:
        gold_pric = "------"
        gold_price_change = "------"

    print gold_price
    print gold_price_change
    time.sleep(1)