python 爬虫（lxml与jsonpath）使用示例

归来巨星

于 2024-10-24 09:42:18 发布

阅读量386

点赞数 3

CC 4.0 BY-SA版权

分类专栏： python 文章标签： 1024程序员节爬虫 python

本文链接：https://blog.youkuaiyun.com/clli_Chain/article/details/143200568

一、lxml主要是用来爬取html数据

from lxml import etree

html = '''
<html>
  <body>
    <div>
      <h1>Hello World</h1>
      <p>This is a paragraph.</p>
      <ul>
        <li class="item-0"><a href="link1.html">first item</a></li>
        <li class="item-1"><a href="link2.html">second item</a></li>
        <li class="item-inactive"><a href="link3.html">third item</a></li>
        <li class="item-1"><a href="link4.html">fourth item</a></li>
        <li class="item-0"><a href="link5.html">fifth item</a></li>
      </ul>
    </div>
  </body>
</html>
'''

selector = etree.HTML(html)

# 选择所有带有class属性的li标签
items = selector.xpath('//li[@class]/a/text()')
print(items)

# 选择所有带有class属性为item-0的li标签
items = selector.xpath('//li[@class="item-0"]')
print(items)

# 选择所有带有class属性为item-0的li标签，并获取其文本
texts = selector