python爬取大众点评评论_python爬取大众点评评论

该博客介绍了一个Python爬虫程序,用于抓取大众点评网站上的店铺评论。程序通过获取IP列表和请求头,利用requests库进行HTTP请求,分别针对不同URL结构抓取评论并保存为TXT和JSON文件。最后,程序读取并整合抓取到的数据,生成CSV文件。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

import os

import random

import time

import requests

from spider.get_ip import getIpList, getHeader

from utils.read_write import writeOneCsv, readCsv, writeOneJson, readJson, writeCsv, writeOneTxt

from utils.time_change import timestamp_datetime

save_dir = r"F:\data\other\meituan\txt\\"

proxys = getIpList()

headers = getHeader()

os.chdir(r"F:\data\other\meituan")

def search(id):

url = "http://www.dianping.com/ajax/json/shopDynamic/allReview?shopId={}&cityId=1474&shopType=35&tcv=0qu8u5dlnr&_token=eJxVj1tvgkAQhf%2FLPhPYhUVZEh%2FUaipCKSxso40PFKwiFwU2XDT9711TfWgyyTnzzZlk5gbqVQJMBCHESALtvgYmQDKUR0ACvBETnYwxQtgYYc2QQPyfEUIk8FWzF2B%2BIqJCiWjj3Z34AvwRBA24k54eC69iUffUSoTAkfOLqShd18lJGpWXtDzI8blQmuP5orzq%2FuLEr%2By9HVWGWvbiKCA2i0BsCs0eGj2UP3tHfCGyTXoohdtbfUAb3FTfvtMEIXSCxB8GsqZUHewY2TT

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值