爬虫中常用的几种数据持久化方式和Django与vue的交互

本文探讨了爬虫数据的多种持久化方法,包括CSV、MongoDB、Text、MySQL和JSON,以及在Scrapy框架中处理JSON数据的步骤,同时涉及Django与Vue.js的后端交互。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

爬虫中常用的几种数据持久化方式和Django与vue的交互

这里我们说到爬虫中数据持久化方式和Django与vue的交互

Django与vue的交互后端:

CORS_ORIGIN_ALLOW_ALL = True    #开启接口
'corsheaders.middleware.CorsMiddleware',    #放进配置里
就可以完成Django与vue的交互了

第一种存入csv

from lxml import etree
from selenium import webdriver
from time import sleep
import csv    #导入csv模块

ww = webdriver.Chrome(executable_path=r'E:\人工智能\第六个月爬虫\chromedriver.exe')
ww.get('https://xueqiu.com/')
js = 'window.scrollTo(0, document.body.scrollHeight)'
for i in range(3):
    ww.execute_script(js)
    sleep(5)

html = ww.page_source
tree = etree.HTML(html)
p_list = tree.xpath('//div[@class="AnonymousHome_auchor_1RR"]')
# 在这里定义你需要的字段
with open('./a4.csv', 'w', encoding='utf-8') as f:
    w = csv.writer(f, delimi
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值