python网络爬虫，用正则表达式拔取网页

最新推荐文章于 2024-07-21 21:39:32 发布

原创最新推荐文章于 2024-07-21 21:39:32 发布 · 1k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#python #爬虫 #开发语言

该博客展示了如何使用Python的urllib和re模块进行网页抓取及内容解析。通过定义URL，设置请求头，打开网页并读取响应，然后利用正则表达式匹配HTML中的特定信息。博客内容涉及网络爬虫基础和网页内容提取，是Python初学者入门网络爬虫的好材料。

部署运行你感兴趣的模型镜像

from urllib import request
import re
#定义URL
url='https://tieba.baidu.com/fkw=%B6%CE%D7%D3&fr=ala0&tpl=5&dyTabStr=MCw2LDIsNCw1LDMsMSw4LDcsOQ%3D%3D'
try:
    #定义请求头
    headers={'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/99.0.4844.74 Safari/537.36'}
    #传入请求头
    req=request.Request(url,headers=headers)
    #打开网页
    resp=request.urlopen(req)
    #打印响应，解码
    content=resp.read().decode('utf-8')
    print(content)
    #正则表达式
    pattern=re.compile(r'<a rel="noopener".*?title=(.*?)\s.*?>(.*?)</a>')
    #匹配html
    items=re.findall(pattern,content)
    #打印解码的内容
    for i in items:
        print(i[0]+'\t'+i[1])
except request.URLError as e:
    if hasattr(e,'code'):
        print(e.code)
    if hasattr(e,'reasson'):
        print(e.reason)

您可能感兴趣的与本文相关的镜像

Python3.8

Conda

Python

Python 是一种高级、解释型、通用的编程语言，以其简洁易读的语法而闻名，适用于广泛的应用，包括Web开发、数据分析、人工智能和自动化脚本