python lxml xpath 使用实例!

本文通过一个具体的XML文档示例,展示了如何使用Python的lxml库配合XPath进行数据抓取与节点定位。介绍了绝对路径、相对路径及谓词筛选等常用技巧。

python lxml xpath 使用实例

目标:使用xpath定位节点,也可以说好像在sql 上提取数据!
例子
#-*- coding:utf-8 -*-
import lxml.html

html='''
<html>
<body>
<bookstore position="cn">
    <book category="A">
        <title lang="en">Everyday Italian</title>
        <author>Giada De Laurentiis</author>
        <year>2005</year>
        <price>30.00</price>
    </book>
    <book category="B">
        <title lang="en">Harry Potter</title>
        <author>J K. Rowling</author>
        <year>2005</year>
        <price>29.99</price>
    </book>
</bookstore>
<bookstore position="pk">
    <book category="A">
        <title lang="en">Learning XML</title>
        <author>Erik T. Ray</author>
        <year>2003</year>
        <price>39.95</price>
    </book>
</bookstore>
<bookstore position="jp">
    <book category="C">
        <title lang="en">XQuery Kick Start</title>
        <author>James McGovern</author>
        <author>Per Bothner</author>
        <author>Kurt Cagle</author>
        <author>James Linn</author>
        <author>Vaidyanathan Nagarajan</author>
        <year>2003</year>
        <price>49.99</price>
    </book>
</bookstore>
</body>
</html>
'''
doc = lxml.html.document_fromstring(html)
#使用绝对值
print "总共有%d本书" %(len(doc.xpath('/html/body/bookstore/book')))
#使用相对法,这果同文件路径表示法有出入,//在这里表示相对,在文件路径表示为没效果
#只要匹配book就可以了
print "使用相对"
print "总共有%d本书" %(len(doc.xpath('//book')))
print "总共有%d本书" %(len(doc.xpath('//bookstore/book')))
print "总共有%d本书" %(len(doc.xpath('//body//book')))

#使用上级表示 ..
print "使用上级"

print "总共有%d本书" %(len(doc.xpath('//../title')))
# 使用*来限制等级
print "总共有%d本书" %(len(doc.xpath('/html/body/*/book')))
#反映用层的用法
print "这个不成功的,总共有%d本书" %(len(doc.xpath('/html/body/*/*/book')))


#使用谓词(筛选表达式)
#类似 一些语言表达式  1 > 2 && 3 < 4
#已知文本节点一般当值值来使用了

print "2005 年出版的书有%d本"% (len(doc.xpath('/html/body/bookstore/book[year=2005]')))
print "2003 年出版的书有%d本"% (len(doc.xpath('/html/body/bookstore/book[year=2003]')))
print "价钱大于>39的书有%d本" %(len(doc.xpath('/html/body/bookstore/book[price>39]')))


#一个轴,类似于已知一个节点怎样反求其他节点
#ancestor,ancestor-or-self,attribute,child,descendant,descendant-or-self,following,namespace,namespace...
print "2005 年出版的书在 %s" % (" ".join([ i.get("position")  for i in doc.xpath('/html/body/bookstore/book[year=2003]/parent::*') ]))







### Python使用lxml库的etree模块进行XPath操作 #### 创建XML或HTML文档对象 为了执行XPath查询,首先需要创建一个`etree.ElementTree`实例。这可以通过解析字符串或者读取文件来完成。 对于HTML内容,可以利用`etree.HTML()`方法将字符串形式的HTML片段转换成可被解析的对象[^5]: ```python from lxml import etree html_content = "<html><body><p>Hello world</p></body></html>" html_doc = etree.HTML(html_content) ``` 而对于标准的XML,则应该采用`etree.XML()`函数[^1]: ```python xml_content = """<library> <book id="b1">Book One</book> <book id="b2">Book Two</book> </library>""" xml_doc = etree.XML(xml_content.encode('utf-8')) ``` #### 执行基本的XPath查询 一旦拥有了文档对象,就可以调用其`.xpath()`方法并传入相应的XPath表达式来进行数据提取了。比如要找到所有的`book`标签节点: ```python books = xml_doc.xpath('//book') for book in books: print(book.text.strip()) ``` 此段代码会遍历所有匹配到的元素,并打印它们内部的文字内容。 当涉及到更复杂的结构时,还可以通过指定路径中的具体位置或其他条件进一步细化搜索范围。例如获取表格内第二行的数据[^4]: ```python second_row_data = html_doc.xpath('//table/tr[2]/td/text()') print(second_row_data) ``` #### 处理带命名空间的XML文档 如果遇到含有命名空间定义的XML文档,在构建XPath语句的时候就需要特别注意。此时应当先声明好对应的映射关系,再将其作为参数传递给`.xpath()`方法[^3]。 ```python namespaces = {'ns': 'http://example.org/ns'} elements_with_ns = xml_doc.xpath('//ns:element', namespaces=namespaces) ``` 这样就能正确识别那些属于特定命名空间下的元素了。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值