python爬取分析超级大乐透历史开奖数据！你中奖了吗？

最新推荐文章于 2024-08-23 09:32:52 发布

原创

最新推荐文章于 2024-08-23 09:32:52 发布 · 2.9k 阅读

7 ·

CC 4.0 BY-SA版权

文章标签：

#数据分析 #csv #数据挖掘 #web #人工智能

爬取网站：http://datachart.500.com/dlt/history/history.shtml —500彩票网（分析后发现网站源代码并非是通过页面跳转来查找不同的数据，故可通过F12查找network栏找到真正储存所有历史开奖结果的网页）

如图：

爬虫部分：

from bs4 import BeautifulSoup   #引用BeautifulSoup库
import requests                 #引用requests
import os                       #os
import pandas as pd
import csv
import codecs

lst=[]
url='http://datachart.500.com/dlt/history/newinc/history.php?start=07001&end=21018'
r = requests.get(url)                     
r.encoding='utf-8'
text=r.text
soup = BeautifulSoup(text, "html.parser")
tbody=soup.find('tbody',id="tdata")
tr=tbody.find_all('tr')
td=tr[0].find_all('td')
for page in range(0,14016):
    td=tr[page].find_all('td')
    
    lst.append([td[0].text,td[1].text,td[2].text,td[3].text,td[4].text,td[5].text,td[6].text,td[7].text])
    with open("Lottery_data.csv",'w') as csvfile:
        writer = csv.writer(csvfile)