用node写脚本的时候经常会遇到需要抓取页面的信息,网上搜索一些资料,利用cheerio
是非常方便的
抓取网页的时候一定要加UA,有一些特定网页没有UA是打不开的
var request = require('request');
var cheerio = require('cheerio');
var options = {
'method': 'GET',
'url': 'https://www.baidu.com',
'headers': {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36",
}
};
request(options, function (error, response,body) {
if (error) throw new Error(error);
getdom(body)
});
function getdom(html){
var $ = cheerio.load(html);
//后面就像用jq一样获取页面元素就可以了
}