WebMagic爬虫（二）升级版

关注

VIP免费原创最新推荐文章于 2026-05-18 06:10:33 发布 1.2k 阅读 AI 写同款· GEO 优化 ›

Java实现网络爬虫-Java入门|Java基础课程目标网络爬虫的是做什么的? 手动写一个简单的网络爬虫; 1. 网络爬虫 1.1. 名称网络爬虫（又被称为网页蜘蛛，网络机器人），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。 1.2. 简述网络爬虫是通过网页的链接地址来寻找网页，从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它... 阅读详情

我在爬取页面的时候发现有很多数据是js渲染进去的，通过：

String htm = page.getHtml().xpath("*/html/html()").toString();

page.putField("html",htm);

就可以看到爬取下来的页面数据，可以很清晰的看出页面里面有没有自己想要的数据，如果没有，那么我们就需要进一步操作！

如果数据是ajax请求过来的，那么可以参考webmagic开发者的ajax爬取方法。我想爬取的页面数据是直接js渲染的，使用了

PhantomJ渲染之后爬取。

简单来说，PhantomJ就是一个网页浏览器。

当然我们也可以直接用谷歌浏览器代替PhantomJ，但会爬取很慢。

一：先讲一下谷歌浏览器怎么渲染爬取

用谷歌浏览器必须先下载一个谷歌的浏览器驱动，下载地址：http://chromedriver.storage.googleapis.com/index.html

要注意驱动对应谷歌版本：https://blog.youkuaiyun.com/llbacyal/article/details/78563992

demo:

package spider;

import org.openqa.selenium.By;
import org.openqa.selenium.WebDriver;
import org.openqa.selenium.WebElement;
import org.openqa.selenium.chrome.ChromeDriverService;
import org.openqa.selenium.remote.DesiredCapabilities;
import org.openqa.selenium.remote.RemoteWebDriver;
import org.openqa.selenium.support.ui.ExpectedCondition;
import org.openqa.selenium.support.ui.WebDriverWait;

import java.io.File;
import java.io.IOException;


/**
 * chromeDriver是谷歌的浏览器驱动，用来适配Selenium,有图形页面存在，在调试爬虫下载运行的功能的时候会相对方便
 * @author zhuangj
 * @date 2017/11/14
 */
public class Test