今天,有个人问我,前几天已经可以抓取,今天不知道为什么就不可以抓取。
String url = "http://company.zhaopin.com/P2/CC1202/0271/CC120202712.htm?f=sa&DYWE=1223885821046.175835.1223890656.1223891112.9";
他用的办法是
URL url = new URL(url);
URLConnection conn = url.openconnection(url);
结果,返回的是403报错,禁止了这次的操作。
我没看过JAVA URL源代码,不知道它底层是如何操作的。想了两个小时,终于有点眉头。我用htmlparser源代码里面这段代码
instream = new GZIPInputStream(getConnection().getInputStream());的时候,想不到可以抓取该网页的数据。
顺便把htmlparser连接网络那部分源代码拿出来。弄成自己的东西。
以下是全部源代码: