htmlcleaner使用及xpath语法初探

转载：http://blog.youkuaiyun.com/reesun/article/details/8021201

一、HtmlCleaner使用：

1、HtmlCleaner

HtmlCleaner是一个开源的Java语言的Html文档解析器。HtmlCleaner能够重新整理HTML文档的每个元素并生成结构良好(Well-Formed)的 HTML 文档。默认它遵循的规则是类似于大部份web浏览器为创文档对象模型所使用的规则。然而，用户可以提供自定义tag和规则组来进行过滤和匹配。

主页地址：http://htmlcleaner.sourceforge.net/

2、基本示例，在wikipedia中抓取机场信息

[java]  view plain copy print ?

1. import java.io.UnsupportedEncodingException;  
2.   
3. import org.htmlcleaner.HtmlCleaner;  
4. import org.htmlcleaner.TagNode;  
5. import org.htmlcleaner.XPatherException;  
6. import org.slf4j.Logger;  
7. import org.slf4j.LoggerFactory;  
8.   
9. //import com.moore.index.BabyStory;  
10. import com.moore.util.HttpClientUtil;  
11.   
12. /** 
13.  * 用途：TODO 
14.  *  
15.  * @author bbdtek 
16.  */  
17. public class ParserAirport {  
18.     private static Logger log = LoggerFactory.getLogger(ParserAirport.class);  
19.   
20.     /** 
21.      * @param args 
22.      * @throws UnsupportedEncodingException 
23.      * @throws XPatherException 
24.      */  
25.     public static void main(String[] args) throws UnsupportedEncodingException,  
26.             XPatherException {  
27.         String url = "http://zh.wikipedia.org/wiki/%E4%B8%AD%E5%8D%8E%E4%BA%BA%E6%B0%91%E5%85%B1%E5%92%8C%E5%9B%BD%E6%9C%BA%E5%9C%BA%E5%88%97%E8%A1%A8";  
28.   
29.         String contents = HttpClientUtil.getUtil().getCon(url);  
30.   
31.         HtmlCleaner hc = new HtmlCleaner();  
32.         TagNode tn = hc.clean(contents);  
33.         String xpath = "//div[@class='mw-content-ltr']//table[@class='wikitable + sortable']//tbody//tr[@align='right']";  
34.         Object[] objarr = null;  
35.         objarr = tn.evaluateXPath(xpath);  
36.   
37.         if (objarr != null && objarr.length > 0) {  
38.             for (Object obj : objarr) {  
39.                 TagNode tntr = (TagNode) obj;  
40.                 String xptr = "//td[@align='left']//a";  
41.                 Object[] objarrtr = null;  
42.                 objarrtr = tntr.evaluateXPath(xptr);  
43.   
44.                 if (objarrtr != null && objarrtr.length > 0) {  
45.                     for (Object obja : objarrtr) {  
46.                         TagNode tna = (TagNode) obja;  
47.                         String str = tna.getText().toString();  
48.                         log.info(str);  
49.   
50.                     }  
51.   
52.                 }  
53.   
54.             }  
55.   
56.         }  
57.   
58.     }  
59.   
60. }  

二、XPath初探

1、XPath简介：

XPath 是一门在 XML 文档中查找信息的语言。XPath 可用来在 XML 文档中对元素和属性进行遍历。

2、XPath节点选取

XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。

下面列出了最有用的路径表达式：

表达式	描述
nodename	选取此节点的所有子节点。
/	从根节点选取。
//	从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。
.	选取当前节点。
..	选取当前节点的父节点。
@	选取属性。

一些常用表达式

路径表达式	结果
/bookstore/book[1]	选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()]	选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1]	选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()<3]	选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang]	选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang='eng']	选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00]	选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title	选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。