存储html为json格式

关注

原创最新推荐文章于 2026-05-07 09:10:53 发布 391 阅读 AI 写同款· GEO 优化 ›

Python数据分析NumPy和pandas（十六、文本格式数据的读取与存储：csv、json、xml和html） JSON 除了一些null值和一些小的差别外（例如不允许在列表末尾使用尾随逗号），非常接近的 Python 代码格式，但其 null 值、null 和其他一些细微差别（例如不允许在列表末尾使用尾随逗号）除外。我们来看一个小的csv文件ex7.csv，内如如下。在处理非常大的文件时，未找到合适的数据处理方法前，我们一般希望只读取文件的一小部分或遍历文件的较小块来做预处理或参考。，使我们能够读取任意大小的片段，例如上面代码中的chunker.get_chunk(10) 可以获取ex6.csv的前10行。阅读详情

import requests
from bs4 import BeautifulSoup
import json
user_agent = 'Mozilla/5.0 (X11; Linux x86_64; rv:78.0) Gecko/20100101 Firefox/78.0'
headers = {'User-Agent': user_agent}
r = requests.get('http://seputu.com/', headers=headers)
soup = BeautifulSoup(r.text, 'html.parser')

content = []
for mulu in soup.find_all(class_="mulu"):
    h2 = mulu.find('h2')
    if h2 != None:
        h2_title = h2.string
        list = []
        for a in mulu.find(class_='box').find_all('a'):
            href = a.get('href')
            box_title = a.get('title')
            list.append({'href':href,'box_title':box_title})
        content.append({'title':h2_title,'content':list})
with open('qiye.json','wb') as fp:
    json.dump(content,fp=fp,indent=4)

收录于