抓取某新发地数据

网站首页

请求的URL

数据乱码

代码

import requests
import pandas as pd

url = "http://www.xinfadi.com.cn/getPriceData.html"

# 表单数据
payload=(
         'limit=1000&' # 每页条数
         'current=1&' #当前页数
         'pubDateStartTime=2025/01/01'
         '&pubDateEndTime=2025/01/28&'
         'prodPcatid=&' # 一级分类
         'prodCatid=&' # 二级分类
         'prodName='
)
# 请求头
headers = {
   'X-Requested-With': 'XMLHttpRequest',
   'User-Agent': 'Apifox/1.0.0 (https://apifox.com)',
   # 参数为表单形式
   'Content-Type': 'application/x-www-form-urlencoded; charset=UTF-8',
   'Accept': '*/*',
   'Host': 'www.xinfadi.com.cn',
   'Connection': 'keep-alive'
}

# 发起请求
response = requests.request("POST", url, headers=headers, data=payload)


if response.status_code == 200:
    # 解决乱码
    response.encoding = "utf-8"
    # 将结果转为DataFrame表格数据
    df = pd.json_normalize(response.json()["list"])
    df.to_excel("F:\Code\数据集\\xinfadi.xlsx", index=False)
else:
    print("请求失败:%d" % (response.status_code))

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值