python request+正则爬取百度贴吧狗吧上的标题（200页）

最新推荐文章于 2023-10-28 13:38:56 发布

阿朱__

最新推荐文章于 2023-10-28 13:38:56 发布

阅读量306

点赞数

CC 4.0 BY-SA版权

分类专栏： python 文章标签： python requests

本文链接：https://blog.youkuaiyun.com/qq_41371858/article/details/90044501

python 专栏收录该内容

8 篇文章

订阅专栏

本文介绍了一种使用Python的requests库和正则表达式从百度贴吧抓取帖子标题的方法。通过设置User-Agent并循环请求不同页数的贴吧页面，解析出每个帖子的标题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

https://rifngah.github.io/-requests-/   这是一些其他笔记。

import requests
import re
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3724.8 Safari/537.36'

}
i=0
while(i<1000):
    response = requests.get("http://tieba.baidu.com/f?kw=%E7%8B%97&ie=utf-8&pn={}".format(i),
                        headers=headers)
    i+=5
    response.encoding = response.apparent_encoding
    t_concleafix = re.findall(r'<a\s+rel="noreferrer".*?</a>', response.content.decode())
    # print(t_concleafix)
    for i in range(0, t_concleafix.__len__()):
        # print(t_concleafix[i])
        gro = re.search(
            r'<a\s+rel="noreferrer"\s+href=".*?"\s+title="(.*?)"\s+target="_blank"\s+class="j_th_tit\s+">.*?</a>',
            t_concleafix[i])
        if(gro):
            print(gro.group(1))