python3 爬取网页表格例子

最新推荐文章于 2025-07-12 09:23:38 发布

原创

最新推荐文章于 2025-07-12 09:23:38 发布 · 2.3w 阅读

40 ·

CC 4.0 BY-SA版权

文章标签：

#python #爬虫

本文适合Python爬虫初学者，通过实例演示如何使用BeautifulSoup库爬取并展示2016年中国企业500强排行榜的数据，包括企业名和营业收入。

我是初学者，希望对跟我一样的 “小白”有帮助

#网址如下：http://www.maigoo.com/news/463071.html

from bs4 import BeautifulSoup

import requests
import csv
import bs4


#检查url地址
def check_link(url):
try:

r = requests.get(url)
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
print('无法链接服务器！！！')


#爬取资源
def get_contents(ulist,rurl):
soup = BeautifulSoup(rurl,'lxml')
trs = soup.find_all('tr')
for tr in trs:
ui = []
for td in tr:
ui.append(td.string)
ulist.append(ui)


#保存资源
def save_contents(urlist):
try:
with open("数据.csv",'w') as f:
writer = csv.writer(f)
writer.writerow(['2016年中国企业500强排行榜'])
for i in range(len(urlist)):
writer.writerow([urlist[i][1],urlist[i][3],urlist[i][5]])
except:
pass

def main():
urli = []
url = "http://www.maigoo.com/news/463071.html"
rs = check_link(url)
get_contents(urli,rs)
&nb