Python采集网站数据内容, 并把详情信息保存PDF

本次内容:

Python采集网站数据内容, 并把详情信息保存PDF

本次使用开发环境:

• Python 3.8
• Pycharm 2021.2专业版
• 保存PDF 需要 wkhtmltopdf 安装包
  以上环境都可以点击领取

模块使用:

需安装模块

• requests 数据请求模块
  安装方法：pip install requests
• parsel 数据解析模块 pip install parsel
• pdfkit PDF模块 pip install pdfkit

---

内置模块（不许安装）

• re 正则表达式 内置模块
• json 字符串转Json数据 内置模块
• csv 保存csv模块 内置模块
• time 时间模块 内置模块

如何安装模块

1. win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车
2. 在pycharm中点击Terminal(终端) 输入安装命令

本节课的案例思路(爬虫最基本思路流程):

一. 数据来源分析

1. 确定我们想要数据内容是什么? 音乐
2. 通过开发者工具进行抓包分析, 分析数据来源 >>> 音乐播放地址是从哪里的

二. 代码实现步骤 爬虫四部曲: 发送请求 >>> 获取数据 >>> 解析数据 >>> 保存数据

1. 发送请求, 对于什么url发送什么请求, 携带headers伪装
   网址
   发送请求get请求
2. 获取数据, 获取服务器返回响应数据
3. 解析数据, 提取我们想要数据内容 职位相关信息数据
4. 保存数据, 保存文本/数据库/表格… csv表格数据
5. 多页数据采集

代码展示

相对应的安装包/安装教程/激活码/使用教程/学习资料/工具插件 可以点击免费领取

首先导入模块

import requests
import parsel  # 数据解析模块 pip install parsel
import pdfkit  # pip install pdfkit
# 导入正则表达式模块
import re  # 内置模块
# 导入json
import json  # 内置模块
# 导入格式化输出模块
import pprint  # 内置模块
# 导入csv模块
import csv  # 内置模块
# 导入时间模块
import time

1. 发送请求

def get_job_content(title, html_url):
    # url = '详情页网址自己复制一下哦~'  # 招聘详情页
    html_str = """
    <!doctype html>
    <html lang="en">
    <head>
        <meta charset="UTF-8">
        <title>Document</title>
    </head>
    <body>
    {article}
    </body>
    </html>
    """
    headers = {
   
   
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=