腾讯招聘

最新推荐文章于 2022-01-17 23:59:00 发布

网友大夸

最新推荐文章于 2022-01-17 23:59:00 发布

阅读量2.2k

点赞数

CC 4.0 BY-SA版权

文章标签： python 爬虫

本文链接：https://blog.youkuaiyun.com/qq_40801683/article/details/93139675

此博客围绕Python爬虫展开。Python是强大的后端开发语言，爬虫可高效抓取网络数据。借助Python进行爬虫开发，能满足多种数据采集需求，在信息技术领域有广泛应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import requests
import json
from pymongo import MongoClient

def get_response(page):
    url = 'https://careers.tencent.com/tencentcareer/api/post/Query?timestamp=1561037805684&countryId=&cityId=&bgIds=&productId=&categoryId=&parentCategoryId=40001&attrId=&keyword=&pageIndex='
    print("=========爬取第%d页========="%(page+1))
    response = requests.get(url + str(page+1) + '&pageSize=10&language=zh-cn&area=cn')
    content = json.loads(response.text)
    for i in range(len(content["Data"]["Posts"])):
        data = {
            "title":content["Data"]["Posts"][i]["RecruitPostName"],
            "place":content["Data"]["Posts"][i]["LocationName"],
            "BGName":content["Data"]["Posts"][i]["BGName"],
            "LastUpdateTime":content["Data"]["Posts"][i]["LastUpdateTime"],
            "Responsibility":content["Data"]["Posts"][i]["Responsibility"],
        }
        save_MongoDB(data)
        print(data)
def save_MongoDB(data):
    MongoClient("localhost")['tencent']['tx'].insert(dict(data))

if __name__ == "__main__":
    for i in range(5):
        get_response(i)