链家二手房100页Xpath爬取保存csv

满天星☞

于 2021-06-27 14:37:22 发布

阅读量466

点赞数

分类专栏： python 网络爬虫 xpath

本文链接：https://blog.youkuaiyun.com/sunjiaxing_1/article/details/118274155

版权

本文介绍如何使用XPath解析技术，爬取链家网站上的二手房信息，并将数据整理存储为CSV文件，便于进一步的数据分析和处理。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import random
import time
import csv
import requests
from fake_useragent import UserAgent
from lxml import etree


class House:
    def __init__(self):
        self.url = 'https://bj.lianjia.com/ershoufang/pg{}/'
        self.f = open('链家100.csv','w')
        self.write = csv.writer(self.f)

    def get_html(self, url):
        headers = {
   'UserAgent': UserAgent().random}
        html = requests.get(url=url, headers=headers).text
        self.parser_html(html)

    def parser_html(self, html):
        eobj = etree.HTML(html)
        li_list = eobj.xpath("//li[@class='clear LOGVIEWDATA LOGCLICKDATA']")
        for li in