nutch1.5编译过程

ant编译apache-nutch-2.3.1结合mysql实现爬虫 1 、安装ant(省略)目前官方2.x只提供了源码下载,不再提供编译的版本,需要用户自己去编译。2 下载nutch2.1 下载地址:http://www.apache.org/dyn/closer.lua/nutch/2.3.1/apache-nutch-2.3.1-src.tar.gz tar -zxvf apache-nutch-2.3.1-bin.tar.gz 2.2 下载so 阅读详情

1      下载nutch 1.5

2       安装ant   apt-get install ant

3        解压nutch1.5并进入解压目录

4        切换成root用户,不然编译会没反应,然后运行命令ant

5        将build目录编译得到的apache-nutch-1.5.jar 和apache-nutch-1.5.job拷贝到lib目录下面,然后将lib目录和plugins两个目录都拷贝到上一层目录

6   将src里面的bin文件夹拷本到上一层目录

7     接下来就是配置了 到 解压包的目录下有一个目录 Conf 下面有一个文件nutch-site.xml 里加入如下 
<property>
<name>http.agent.name</name>
<value>My Nutch Spider</value>
</property
这个配置的目的就是为自己的网络爬虫设置名字

8      用命令创建文件夹urls  在文件夹下 创建一个txt文件 seed.txt 或者你自己命名的在txt文件里你可以加入http://www.sina.com.cn/或者其他你想要抓取的网站链接 
9      修改 regex-urlfilter.txt文件 同样在conf目录里 把 +. 替换成+^http://([a-z0-9]*\.)*sina.com.cn/
10    执行bin/nutch crawl urls -dir crawl -depth 3 -topN 5 命令 执行完后你会看到
        crawl/crawldb
        crawl/linkdb
        crawl/segments
        被创建 

至此,nutch已经跑了起来,下一步就是将结果搭建tomcat或者Solr

NUTCH的分布式部署与运行 保留转载法律声明。 部分内容来自于nutch wiki的网络翻译。 本文只有安装、编译、部署和运行,没有debug相关信息。 1.   ant的安装 ant是一个基于JAVA的自动化脚本引擎,脚本格式为XML。除了做JAVA编译相关任务外,ANT还可以通过插件实现很多应用的调用。 ANT的基本概念:Java的Makefile 当一个代码项目大了以后,每次重新编译,打包,测试等都 阅读详情

相关推荐

Nutch的安装及配置

1.下载地址:http://nutch.apache.org/downloads.html安装版本为2.4 2.设置nutch环境 3.修改 $NUTCH_HOME/conf/nutch-site.xml 在 configuration节点中增加如下内容: <property> <name>storage.data.store.class</name> <value>org.apache.gora.hbase.store.HBaseStore&lt.

IT菜鸟的博客 623

Nutch爬虫配置及简单使用

北京大学软件与微电子学院 曹路 2018/03/20 https://github.com/andrewcao95/nutch-crawler 1 引言 1.1 爬虫的基本分类 爬虫基本可以分3类: 分布式爬虫:Nutch JAVA单机爬虫:Crawler4j、WebMagic、WebCollector 非JAVA单机爬虫:Scrapy 1.2 Nutch简介 Nutch是apache旗下...

weixin_30566111的博客 746

【流复制环境PostgreSQL-14.1到PostgreSQL-16.1大版本升级】

PostgreSQL大版本会定期添加新特性,这些新特性通常会改变系统表的布局,但内部数据存储格式很少改变。pg_upgrade通过创建新的系统表和重用旧的用户数据文件来执行快速升级。pg_upgrade升级主要有三种用法:1、使用pg_upgrade拷贝升级。2、使用pg_upgrade链接升级(带有- -link选项),- -link较快,但是启动新版本后修改了数据文件,再启动旧版本可能数据损坏,回滚较麻烦,所以尽量避免使用link参数进行升级。

小怪兽的博客 2926

Nutch使用方法简介

                                  Nutch使用方法简介 目前Nutch采用Sehll的启动方式,如果您使用的是Windows系统,那么首先需要安装Cygwin。本文就以在Windows中为例,介绍Nutch的安装和使用方法。 (1)准备需要的软件列表    Cygwin     (下载地址:http://www.cygwin.com/se

pengpengfly的专栏 6369

IFRS 9与CECL对比解析:跨国企业财务必须掌握的两种信用损失模型

本文深度解析IFRS 9与CECL两种信用损失模型的差异,帮助跨国企业应对财务合规挑战。从基础架构、数据治理到监管策略,详细对比三阶段模型与单一阶段模型的核心区别,并提供实施双轨制的实务建议,助力企业优化资本管理和税务筹划。

3c4x5z6v7b的博客 668

Vienna整流器SVPWM调制:7扇区划分与中点电位平衡的MATLAB/Simulink实现解析

本文深入解析Vienna整流器的SVPWM调制技术,重点介绍7扇区划分与中点电位平衡的MATLAB/Simulink实现方法。通过详细的算法推导和仿真模型构建,帮助工程师掌握整流器闭环控制策略,优化功率转换效率。内容涵盖扇区判断逻辑、矢量作用时间计算及中点电位平衡的PID调节等核心技术要点。

weixin_33937499的博客 387

python爬虫入门-环境配置

python爬虫入门,爬虫环境配置。

qq_52031408的博客 1619

Conda报错急救指南:遇到Malformed version string ‘~‘怎么办?(附最新解决方案)

本文深度解析Conda报错`Malformed version string '~'`的根源与解决方案。该错误通常由版本字符串解析异常或Conda版本过旧引起。文章提供了从清理缓存、针对性升级到环境重建的完整修复流程,并强调了升级Conda至最新版本是解决此类`CondaValueError`问题的根本方法,帮助开发者高效恢复工作环境。

weixin_28835789的博客 648

python爬虫框架之Scrapy配置文件详解

日志的数据格式(默认: '%(asctime)s [%(name)s] %(levelname)s: %(message)s')可选的级别有: CRITICAL、 ERROR、WARNING、INFO、DEBUG(默认: 'DEBUG')如果为 True ,进程所有的标准输出(及错误)将会被重定向到log中(默认: False)日志的日期格式(默认: '%Y-%m-%d %H:%M:%S')将对任何单个IP执行的最大并发请求数(默认: 0)下载器超时时间(单位: 秒)(默认: 180)

m0_63040701的博客 1321

模型预测控制 (MPC, Model Predictive Control) 算法详解及案例分析

模型预测控制是一种基于模型的控制策略,通过在线求解一个有限时域的优化问题,预测系统的未来行为,并根据预测结果调整控制输入,以实现系统的稳定性和性能优化。

闲人编程的博客 2936

【网络安全 | 渗透工具】密码字典生成工具crunch、cupp安装使用教程

Crunch是一个常用的密码破解工具,它可以根据指定的字符集、长度和模式生成各种可能的密码并进行暴力破解。同时,Crunch可以将生成的密码保存到文件中,以便在破解工具中使用。在进行渗透测试时,手动收集密码字典是十分耗时的,利用密码字典生成工具可以大幅缩短时间,提高爆破宽度。

等风来 8422

Apache Nutch 项目教程

Apache Nutch 项目教程 1. 项目的目录结构及介绍 Apache Nutch 项目的目录结构如下: nutch-site/ ├── archetypes/ ├── content/ ├── data/ ├── layouts/ ├── static/ └── themes/ archetypes: 包含项目的基本模板文件。 content: 存放项目的具体内容文件。 data: 用...

gitblog_00041的博客 511

项目报告:基于Sentaurus TCAD的多沟道长度NMOS器件仿真、SPICE模型提取与环形振荡器电路验证

本项目基于Sentaurus TCAD工具,完成了从器件仿真到电路验证的全流程研究。首先构建了45nm、65nm和90nm三种沟道长度的NMOS器件,通过TCAD仿真分析了其电学特性,观察到明显的短沟道效应。随后提取了BSIM4 SPICE模型参数,并生成Hspice可用的模型文件。最后利用该模型设计了11级环形振荡器进行电路验证,证明了模型的实用性。研究结果表明,随着沟道长度缩短,器件性能虽有所提升,但短沟道效应导致关态电流显著增加,影响整体能效。本项目为纳米尺度MOSFET的建模与电路设计提供了完整的技

huanghm88的专栏 284

nutch 集成 hbase

nutch安装 安装软件准备 安装环境:centos 6.5 nutch:v2.2.1 hbase:v0.94.18 本篇重点讲述nutch的安装和nutch与hbase的集成,hbase的安装请参考其他资料; 安装步骤: 安装ant:因编译nutch源码,需要ant工具,下载apache-ant 设置 系统变量 写道 [hadoop@master nutch]$ vim ...

duguyiren3476的专栏 217

姿态传感器/陀螺仪之LSM6DS3TR-C应用原理图设计

LSM6DS3TR-C是一款由意法半导体(STMicroelectronics)推出的高性能、低功耗的惯性测量单元(IMU),集成了3轴加速度计和3轴陀螺仪,用于测量加速度、角速度以及设备的姿态和运动。

corlin6688的博客 872

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

linux环境nutch的配置,[Linux] Nutch 2.3.1+ Hbase + Hadoop + Solr 单机指南(四)

这是本指南的最后一篇,从开始做到完成,本熊花了一周的时间,碰到的错误也可谓千奇百怪。纯初学者说明模式本章节主讲实现本地模式Nutch的配置与编译Nutch与Hadoop,Hbase,Solr的集成Nutch的启动与结果查看0.初期设置说明路径说明本熊假设Hadoop的主目录为HadoopPath,Hbase的主目录为HbasePath,Nutch的主目录为NutchPath,Solr的主目录为So...

weixin_42299150的博客 152

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

hbase0.98.8 for Hadoop2.5.2编译

因nutch2.3.1版本的缘故,nutch2.3.1版本依赖的是hadoop2.5.2和hbase0.98.8版本,这边就给大家介绍一下基于hadoop2.5.2的hbase0.98.8版本的编译, hadoop的编译和安装,请参考:http://dtbuluo.com/blog/archives/129 和 http://dtbuluo.com/blog/archives/130 的文章

Mr.稻 帅(梦想如歌!) 1135

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

nutch2.3.1在ubuntu14.04下的配置及编译过程

搜索引擎 nutch2.3.1 编译 配置 底层存储HBase

Horizon_wing的博客 3386

nutch采集部署

nutch的限制: 不能采集js动态加载页面内容和分页,对非动态js加载的分页,需要根据分页的情况,来进行设置爬取深度(分页与爬取深度存在关系)。这就限制了nutch全爬取存在很大的局限性,nutch本身要遵守robot协议,如果网址本身不允许被爬取,那么将不会被爬取。 nutch2.2.1部署 环境要求: 系统:Centos7.5 运行环境:java1.8 数据库:mysql5.7 编译环境...

SuperDuDu的博客 678

Nutch安装第四天,进入正题,Nutch2.4的配置和编译

今天该进入主题了 十一、Nutch 首先是下载,原来只有一个版本,当时折腾的时候是1.0,现在突然冒出两个版本,一个1.16,一个2.4,那么到底有什么差别呢?先查查资料看看再说。 现在Nutch分为两个版本:1.x和2.x,这两个版本的主要区别在于底层的存储不同。1.x版本是基于Hadoop架构的,底层存储使用的是HDFS,而2.x通过使用ApacheGora,...

xiaomage_cn的专栏 923

Nutch 快速入门(Nutch 2.2.1)

原文:http://cn.soulmachine.me/blog/20140201/ Nutch 2.x 与 Nutch 1.x 相比,剥离出了存储层,放到了gora中,可以使用多种数据库,例如HBase, Cassandra, MySql来存储数据了。Nutch 1.7 则是把数据直接存储在HDFS上。 1. 安装并运行HBase 为了简单起见,使用Standalo

追求卓越的攻城狮 1451

Eclipse编译Nutch1.4

官方安装方法:http://wiki.apache.org/nutch/RunNutchInEclipse   本文参考:http://zettadata.blogspot.com/2011/12/eclipsenutch.html   1、在Eclipse中安装subclipse 1.6,如果安装subclipse 1.8,则需要安装javahl 1.7,否则会报不兼容错误。 安装完s...

zhengzhuangjie的博客 186

Nutch教程中文翻译1(官方教程,中英对照)——Nutch的编译、安装和简单运行

Nutch教程中文翻译1(官方教程,中英对照)——Nutch的编译、安装和简单运行

AJAXHu的专栏 3435

Apache Nutch介绍与部署编译

Apache Nutch是一个开源的Java搜索引擎框架,提供Web爬虫和全文搜索功能,支持构建内网或全网搜索引擎。其特色包括高效抓取数十亿网页、快速索引和高质量搜索。安装需配置Java、MySQL、Ant环境,并修改Nutch配置文件连接数据库。主要步骤包括上传解压软件包、设置环境变量、创建MySQL数据库表,最后通过Ant编译生成运行环境。编译过程可能耗时较长,失败时可清理后重新尝试。

super_mochi1 1244

nutch系列2——nutch2.x的编译、安装和配置

这篇文章接上一节:nutch系列1——nutch简单介绍准备工作: 1、JDK环境,参考:http://blog.csdn.net/enson16855/article/details/8708574 2、ant环境,参考:http://blog.csdn.net/enson16855/article/details/51375855关于nutch的介绍,这个就不用多说啦,这边讲解的是nutch

Mr.稻 帅(梦想如歌!) 2630
上一篇: ralink 2070 移植到android记录
下一篇: tomcat6.0.36配置solr3.6.0
devil27
博客等级 码龄19年 1粉丝 18原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值