【python3】简单多线程爬取小说

import requests
import time
import re
import os
import threading
from bs4 import BeautifulSoup

#用户配置
novalUrl = "https://www.example.com/10086/10000"
novalPath = "F:/noval/"

#系统配置,无需修改
novalWeb = "https://www.example.com/"
novalName = ""
urls = []

def get_chapters_urls():
    global novalName
    web=requests.get(novalUrl, timeout=30)
    soup = BeautifulSoup(web.content,'html.parser',from_encoding='utf8')
    lis = soup.find_all('a', class_="novalList")
    for li in lis:
        urls.append(li.attrs['href'])
    novalName = soup.find('div',class_='book').find('a').get_text()
    print(novalName,"total",len(urls), "chapters")

def pre_check():
    if os.path.exists(novalPath+"TEMP/"):
        pass
    else:
        os.makedirs(novalPath+"TEMP/")

def downl
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值