菜鸡爬虫入门——爬取全国大学排名

Python爬虫初学者教程：全国大学排名抓取

最新推荐文章于 2024-07-13 23:51:16 发布

原创最新推荐文章于 2024-07-13 23:51:16 发布 · 221 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#python

本文介绍了使用Python爬虫获取全国大学排名的步骤。首先获取目标网页的HTML，接着利用BeautifulSoup解析HTML，筛选tbody中的tr元素，并通过isinstance函数过滤非标签内容，将td数据存入列表。最终展示爬取结果。

思路：

1.先获得url链接的html
2.再用BeautifulSoup库将html解析，在tbody中寻找tr，其中利用isinstance函数把不是标签类型的给剔除，然后把td存放到ulist列表里
3将ulist列表打印出来
三步思路对应着三个函数

代码：

import requests
from bs4 import BeautifulSoup
import bs4
def getHTMLText(url):
    try:
        r=requests.get(url)
        r.raise_for_status()
        r.encoding=r.apparent_encoding
        return r.text
    except:
        print("错误")
    

def fillUnivList(ulist,html):
    soup=BeautifulSoup(html,"html.parser")
    for tr in soup.find('tbody').children:
        if isinstance(tr,bs4.element.Tag):
            tds=tr('td')
            ulist.append([tds[0].string,tds[1].string,tds[3].string])

def printUnivList(ulist,num):
    
    tplt = "{0:<10}\t{1:<69}\t{2:{3}^20}"
    print("{0:<10}\t{1:<68}\t{2:{3}^20}".format("排名","学校名称","总分",chr(12288)))
    for i in range(num):
        u = ulist[i]
        print(tplt.format(u[0],u[1],u[2],chr(12288)))


def main():
    uinfo=[]
    url="https://m.university-list.net/paiming/dx-160001.html"
    html=getHTMLText(url)
    fillUnivList(uinfo,html)
    printUnivList(uinfo,20)
main()