
qa
cz-神算子
hadoop技术狂热者,熟练使用hadoop、zookeeper、hbase、mahout、hive、sqoop、flume、kafka、storm等
展开
-
Could not buffer record
1.1.1. Could not buffer record在import的时候设置--inline-lob-limit 设置内联的LOB对象的大小1.1.1. 数据库àHDFSsqoop import --connect jdbc:mysql://192.168.56.204:3306/sqoop --username hive --password hive转载 2015-10-04 08:49:32 · 951 阅读 · 0 评论 -
centos:only for i686
2、BIOS 设置BIOS,Virtualization Technology 为 enabled 后,保存。 保存好修改后的BIOS后,需要冷启动一下,即:关机,再开机。这样这个设置才生效,要不然仍然无法生效。这个一定要注意,直接通过重启Windows无法达到这个目的的。cold rebooting the machine.原创 2015-10-04 09:06:53 · 405 阅读 · 0 评论 -
storm rebalance 命令调整topology并行数及问题分析
1.概述通过前面的介绍,我们知道Storm可以实现弹性计算,根据需要实时调整Topology的并行度.参考: 1)翻译:Storm Scalable ——Storm弹性计算2)Storm弹性计算:实时调整Topology并发数2.问题经过试验发现, storm rebalance topology-name -n 调整worker数没转载 2015-10-04 09:19:45 · 1080 阅读 · 0 评论 -
unknown host www.baidu.com network is unreachable
1、网卡信息配置是否正确2、路由器加入设置网关route add default gw 192.168.0.13、在、etc/resolv.conf里加入nameserver 8.8.8.84、如果上不去网,配置是不是如下eth0:动态获取eth1:静态ip,只能配置IPADDR,其他的都别配置。或者:eth0:静态,配置IPAD原创 2015-10-04 09:20:29 · 581 阅读 · 0 评论 -
Error getting 'State' for /org/freedesktop/NetworkManager/ActiveConnection/0: (19) Method "Get" wit
虚拟机使用的是无线驱动,但是本机使用的却是有线网络 , 导致激活不了原创 2015-10-04 08:43:22 · 2155 阅读 · 1 评论 -
HMaster启动后自动关闭
好久没有来写博客了,总算是忙完了,今天回到阔别已久的CU。一早来到单位,就开始着手调试新测试镜像。但是一启动就出了问题,原先调试好的分布式平台却提示了错误: Zookeeper available but no active master location found 直观的感觉是HMaster的问题,果然,JPS查看发现没有了HMaster进程,进入到hbase-mast转载 2015-10-04 08:52:02 · 5734 阅读 · 0 评论 -
Hadoop常见问题及解决办法
1:Shuffle Error: Exceeded MAX_FAILED_UNIQUE_FETCHES; bailing-out Answer:程序里面需要打开多个文件,进行分析,系统一般默认数量是1024,(用ulimit -a可以看到)对于正常使用是够了,但是对于程序来讲,就太少了。修改办法:修改2个文件。 /etc/security/limits.conf转载 2015-10-04 08:54:12 · 540 阅读 · 0 评论 -
qa
1、进程、线程进程:windows每次启动一个应用就会启动一个进程,jvm就是个进程,tomcat启动后会启动jvm虚拟机,这是一个进程,此进程中的变量共享线程:进程中最小的执行单元,c可以操作进程,创建进程等,jvm无法操作进程,只能操作线程,每个进程中可以跑多个线程,多线程执行任务,效率高,每个线程做自己的事情,当线程同时处理共享资源时,会涉及到线程安全问题,就涉及原创 2015-10-04 08:59:23 · 449 阅读 · 0 评论 -
Query returned non-zero code: 9, cause: FAILED: Execution Error, return code 1 from org.apache.hadoo
表存在了,删除后重建原创 2015-10-04 08:59:47 · 1332 阅读 · 0 评论 -
Specified key was too long; max key length is 767 bytes
重新创建连接的数据库create DATABASE hive_metastore CHARACTER SET 'latin1' COLLATE 'latin1_german1_ci';原创 2015-10-04 09:01:32 · 578 阅读 · 0 评论 -
System times on machines may be out of sync. Check system time and time zones.
date -s "2012-05-18 04:53:00"转载 2015-10-04 09:02:01 · 4565 阅读 · 0 评论 -
Tomcat7+Spring3使用时遇到的两个异常
今天突然注意到Tomcat7支持servlet3,就想把现有的项目部署到tomcat7上试试,于是就在官网下载apache-tomcat-7.0.34-windows-x86.zip,经过一顿折腾后,把项目部署好了。 异常一: 用eclipse-helios启动TOMCAT7的时候,出现了异常,如下:java.lang.NoClassDefFoundErro转载 2015-10-04 09:02:42 · 782 阅读 · 0 评论 -
SQL 优化原则
(转)SQL 优化原则一、问题的提出 在应用系统开发初期,由于开发数据库数据比较少,对于查询SQL语句,复杂视图的的编写等体会不出SQL语句各种写法的性能优劣,但是如果将应用系统提交实际应用后,随着数据库中数据的增加,系统的响应速度就成为目前系统需要解决的最主要的问题之一。系统优化中一个很重要的方面就是SQL语句的优化。对于海量数据,劣质SQL语句和优质SQL语句之间的速度差别可以达到转载 2015-10-04 09:00:43 · 331 阅读 · 0 评论 -
FAILED: Error in metadata: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.
安装配置Hive时报错:FAILED: Error in metadata: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.metastore.HiveMetaStoreClientFAILED: Execution Error, return code 1 from org.apache.转载 2015-10-04 08:50:18 · 1523 阅读 · 0 评论 -
FAILED: Error in metadata: java.lang.RuntimeException: Unable to instantiate org.apache.解决办法
起因是我重装了mysql数据库。安装之后 把访问权限都配置好 :GRANT ALL PRIVILEGES ON*.* TO 'hive'@'%' Identified by 'hive'; GRANT ALL PRIVILEGES ON*.* TO 'hive'@'localhost' Identified by 'hive'; GRANT ALL PRIVILEGES转载 2015-10-04 08:50:38 · 759 阅读 · 0 评论 -
Failed to set permissions of path:\tmp\hadoop-yth\mapred\staging\yth-2036315919\.staging to 0700
错误信息:Exception in thread "main" java.io.IOException:Failed to set permissions of path:\tmp\hadoop-yth\mapred\staging\yth-2036315919\.staging to 0700官方BUG参考:https://issues.apache.org/jira转载 2015-10-04 08:51:40 · 1347 阅读 · 0 评论 -
No Java compiler available
hwi(hive web interface)是hive命令行接口的一个补充,主要功能包括:1.shema browsing :获取table的信息,包括serde、columen name、column type2.detached query execution:在hive命令行界面,用户如果需要执行多个查询,则需要同时打开多个命令行界面。hwi允许用户同时开始多个查询,并且查看执行状转载 2015-10-04 08:57:51 · 4090 阅读 · 0 评论 -
flume error
org.apache.flume.FlumeException: NettyAvroRpcClient { host: master, port: 5555 }: RPC connection error at org.apache.flume.api.NettyAvroRpcClient.connect(NettyAvroRpcClient.java:178)转载 2015-10-04 09:08:14 · 1047 阅读 · 0 评论 -
nginx:accept() failed (24: Too many open files)
有一台服务器访问量非常高,使用的是nginx ,错误日志不停报以下错误:2010/05/26 08:53:49 [alert] 13576#0: accept() failed (24: Too many open files)2010/05/26 08:53:49 [alert] 13576#0: accept() failed (24: Too many open files)转载 2015-10-04 08:44:33 · 412 阅读 · 0 评论 -
ByteBuffer写入数组BufferUnderflowException异常
chf是前文的一个FileChannelByteBuffer buf = ByteBuffer.allocate(50);chf.read(buf);buf.flip();byte [] byt = new byte[100];buf.get(byt);然后就出来了 :Exception in thread "main" java.nio.BufferUnderfl转载 2015-10-04 08:48:04 · 2445 阅读 · 0 评论 -
Hadoop Failed to set permissions of path
Eclipse里面写了个测试程序:把HDFS中的数据批量导入到HBase中写好后,在本地测试遇到了如下问题:14/04/21 16:49:53 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes w转载 2015-10-04 08:52:47 · 453 阅读 · 0 评论 -
MyEclipse Alt+/ 快捷键不可用设置
Alt + / 这个快捷键还是很有用的,比如HttpServletResponse不知如何拼写,只要打H,然后Alt + / 就可以列出H开头的类了。如果Alt + / 或对象后输入“.”没有反应,那就要查看首选项设置了。原因,MyEclipse把alt+/分配给了单词提示,还有代码提示的快捷代码也不是alt+/,因此要恢复代码提示用alt+/.需要做两件事。首先看代码提示的Key转载 2015-10-04 08:57:28 · 726 阅读 · 0 评论 -
The ratio of reported blocks 0.0000 has not reached the threshold 0.9990. Safe mode will be turned o
Hadoop集群启动的时候一切正常,但一直处于safemode,只能读不能写,这种时候应该查看namenode的logs,当然这可能会出现不同的情况... 下面仅介绍一种错误处理方案,希望能抛砖引玉,能对大家有所启发。org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete /home/hadoop/转载 2015-10-04 09:02:21 · 1922 阅读 · 0 评论 -
Too many open files
linux 上tomcat 服务器抛出socket异常“文件打开太多”的问题java.net.SocketException: Too many open filesat java.net.PlainSocketImpl.socketAccept(Native Method)at java.net.PlainSocketImpl.accept(PlainSocketImpl.java:转载 2015-10-04 09:03:06 · 343 阅读 · 0 评论 -
Hive出现异常 FAILED: Error In Metadata: Java.Lang.RuntimeException: Unable To Instantiate Org.Apache.Had
在公司的虚拟机上运行hive计算,因为要计算的数据量较大,频繁,导致了服务器负载过高,mysql也出现无法连接的问题,最后虚拟机出现The remote system refused the connection.重启虚拟机后,进入hive。hive> show tables;出现了下面的问题:FAILED: Error in metadata: java.lang.Run转载 2015-10-04 08:55:01 · 2076 阅读 · 0 评论 -
LoadRunner小技巧集锦
1、录制脚本中包含中文,出现乱码怎么办?把录制选项中的Support charset选中UTF-8录制脚本后,切换到树视图中,打开相应的脚本页面。在右侧的PageView中录制的脚本呈现中文版式,但是当切换到Server Response中,所有的中文全部换成的乱码,如“勌缞仫訆”。原因是服务器端没有把响应的编码设置为gb2312在IIS中找到Web.Config文件,在….节加入转载 2015-10-04 08:56:10 · 426 阅读 · 0 评论 -
Loadrunner自带的网站WebTours打不开
不少人在打开LR示例页面的时候会显示如下错误:Internal error: your request was unsuccessfulCannot create CGI process – program not found解决方法:打开WebTours文件夹下的run.bat,编辑其中的路径名假如你的LR路径是:E:/LR/你bat中的函数可能会是:SET PA转载 2015-10-04 08:56:33 · 4785 阅读 · 2 评论 -
Mahout:DataModel doesn't have preference values
INFO: Processed 943 usersFeb 5, 2011 10:54:31 AM org.slf4j.impl.JCLLoggerAdapter infoINFO: Beginning evaluation using 0.9 of GenericBooleanPrefDataModel[users:1,2,3...]Exception in thread "m转载 2015-10-04 08:57:01 · 579 阅读 · 0 评论 -
OpenSSL is not properly installed on your system.
./configure时老是报!checking openssl/ssl.h usability... nochecking openssl/ssl.h presence... nochecking for openssl/ssl.h... noconfigure: error: !!! OpenSSL is not properly installed on your sy原创 2015-10-04 08:58:13 · 3062 阅读 · 0 评论 -
SIOCADDRT:no such process
检查 ip地址和gateway是不是在同一网段。原创 2015-10-04 09:00:14 · 750 阅读 · 0 评论 -
Software caused connection abort: recv failed
Exception in thread "main" java.net.SocketException: Software caused connection abort: recv failedat java.net.SocketInputStream.socketRead0(Native Method)at java.net.SocketInputStream.read转载 2015-10-04 09:01:11 · 1981 阅读 · 0 评论 -
hadoop:RemoteException
启动Hadoop集群测试HBase时候,发现三台DataNode只启动成功了两台,未启动成功的那一台日志中出现了下列异常:写道2012-09-07 23:58:51,240 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: DataNode is shutting down: org.apache.hadoop.ipc.Remote转载 2015-10-04 09:08:45 · 880 阅读 · 0 评论 -
hadoop本地库与系统版本不一致引起的错误解决方法
部署hadoop的集群环境为 操作系统 centos 5.8 hadoop版本为cloudera hadoop-0.20.2-cdh3u3集群中设置支持gzip lzo压缩后,在对压缩文件进行读取或者对输入文件压缩的时候要使用到hadoop的本地库,本地库的默认位置在$HADOOP_HOME/lib/native/Linux-amd64-64 (64转载 2015-10-04 09:09:25 · 650 阅读 · 0 评论 -
tomcat配置https启动出现"No Certificate file specified or invalid file format"异常
分类: java2012-05-04 22:50 906人阅读 评论(2) 收藏 举报filetomcatdescriptorinitializationschemeapplication[html] view plaincopyConnector port="8443" protocol="HTTP/1.1" SSLEnabled="true" max转载 2015-10-04 09:20:08 · 810 阅读 · 0 评论 -
CentOS Linux解决Device eth0 does not seem to be present
在VMware里克隆出来的CentOS Linux。。ifconfig...没有看到eth0.。然后重启网卡又报下面错误。故障现象:service network restartShutting down loopback insterface:转载 2015-10-04 08:49:07 · 288 阅读 · 0 评论 -
Access denied for user 'root'@'hadoop1master' (using password: YES)
修改mysql表将localhost修改为%原创 2015-10-04 08:47:10 · 2072 阅读 · 0 评论 -
error:server IPC version 9 cannot communicate with client version 4
hdfs时报错:是因为,eclipse插件和eclipse的版本不匹配执行mapreduce时报错:是因为jar包不匹配原创 2015-10-04 09:07:45 · 699 阅读 · 0 评论 -
java.lang.UnsupportedClassVersionError: Unsupported major.minor version 51.0
使用jdk7java.lang.UnsupportedClassVersionError: com/ui/Test : Unsupported major.minor version 51.0 at java.lang.ClassLoader.defineClass1(Native Method) at java.lang转载 2015-10-04 09:11:15 · 443 阅读 · 0 评论 -
java.util.random中nextFloat()取值问题
nextFloat()返回的是0.0-1.0之间的随机数,取值范围是在[0.0,1.0)还是[0.0,1.0]或者(0.0,1.0)“[”为包含“)”为不包含我有更好的答案分享到:1条回答是[0.0,1.0),测试方法 public static void main(String[] args) { float f;转载 2015-10-04 09:12:03 · 10638 阅读 · 0 评论 -
js定时器timer
setInterval(function() { alert("ok"); }, 1500);原创 2015-10-04 09:12:43 · 549 阅读 · 0 评论