
Linux
山谷來客
君子生非異也,善假於物也。
展开
-
Linux基础命令学习
1、如何在root用户与普通用户之间切换切换至root用户语法:[ym@localhost root]$ su - Password: [root@localhost ~]# 切换至普通用户ym的语法:[root@localhost ~]# su ym [ym@localhost root]$ 2、文件删除[ym@localhost dir1]$ rm文件名原创 2015-12-03 23:47:27 · 580 阅读 · 0 评论 -
shell常用技巧汇总
1、 shell如何判断某个文件路径是否存在[XX]$ t=`hadoop fs -test -dhdfs://ns/user/hive/warehouse/database_name.db/hotelrankings_final_train/d='2017-05-25';echo$?`[XX]$ echo $t0[XX]$ t=` hadoop fs -test -dhdfs:原创 2017-05-25 11:33:32 · 460 阅读 · 0 评论 -
获取hive表最新分区(准实时算法)
在对时间要求比较高的流程中,往往会希望获取最新的分区数据。如果采用 select max(分区) as p from table_name; 获取分区,如果表很大时,时间代价很大;另外,如果直接从分区路径判断,虽然速度也会很快,当hive如何数据正在插入更新时被判断,极有可能会出现job还在进行,而判断已经结束,导致错误。 有一个可行的策略,对上一个任务做依赖调度,并且采用show原创 2017-05-22 15:20:48 · 7097 阅读 · 0 评论 -
Linux定时调用之crond
一、crond介绍crond是一个Linux下的定时执行工具,可以在无需人工干预的情况下运行作业。crond 是Linux的内置服务,但它不自动起来,可以用以下的方法启动、关闭这个服务:/bin/systemctl status crond.service //查看服务当前状态/bin/systemctl start crond.service//启动服务/bin/system原创 2016-12-31 14:49:57 · 570 阅读 · 0 评论 -
pandas方法to_csv生成的数据导入hive方法汇总
step0:建表语句(hive脚本)USE databasename;CREATE TABLE OrderQuantity_Forecast_Table( masterhotel int COMMENT '酒店ID', orderdate string COMMENT '订单日期', city int COMMENT '城市ID', y_原创 2016-11-30 13:49:21 · 4982 阅读 · 0 评论 -
Linux下Python3.4.3安装
Linux下Python升级步骤Step0: 打开网站https://www.python.org/ftp/python/,确定合适的python版本Python-3.4.3.tgz Step1: 可利用linux自带下载工具wget下载,如下所示[yuanmin1@localhostDownloads]# wget https://www.python.org/ftp/pyt原创 2015-12-07 00:41:42 · 2891 阅读 · 0 评论 -
Linux下MySQL快速入门
1、MySQL的安装step1:yum search mysql #查看可安装列表root@localhost ~]# yum search mysqlstep2: sudo yum install mysql-server.x86_64 #安装mysql服务器版本[root@localhost ~]# sudo yum install mysql-server.x86原创 2015-12-01 17:31:53 · 479 阅读 · 0 评论 -
在centos7下安装python3.4的scrapy包
在centos7下安装python3.4的scrapy包ste0: 切换python版本[root@localhost lxml]# mv /usr/bin/python2.7.5 /usr/bin/python #切换python版本step1:安装依赖包1[root@localhost opt]# yum -y install libxslt-devel #注意原创 2016-04-03 11:01:46 · 2411 阅读 · 0 评论 -
Installing Python3.4 and the SciPy stack on CentOS
在Linux环境下配置python3.4的开发环境,折腾了一段时间,寻得一篇文章,事情终于完美解决。在原作者的基础上,写上了自己的一些见解,希望对大家有所帮助!原创网址: https://edwards.sdsu.edu/research/installing-python3-4-and-the-scipy-stack-on-centos/经测试:该可以实现在centos6.7和转载 2016-04-02 23:06:40 · 1160 阅读 · 0 评论 -
CentOs突然启动不了了,“Determining IP information for eth0…”及"Bringing up interface eth0:"解决方法
当CentOs突然启动不了了,在这个进度条进行的时候,按方向键“下”箭头,就能看到信息了。可以查看一下是卡在哪。1、修改Centos在vmware中的环境配置,在启动时不检查网卡:VM->Removeable Devices -> NetWork Adapter -> Disconnect在启动时,进行修改。2、正常进入Centos,此时不能正常上网。3、再修改Centos在v原创 2015-12-21 19:56:37 · 2716 阅读 · 0 评论 -
ssh无密码登录
step0:关闭防火墙[root@localhost ~]#chkconfig iptables off #永久关闭防火墙[root@localhost ~]#chkconfig - -list | grep iptables #查看状态重启生效。 step1:设置主机名A, B[root@localhost ~]# vim /etc/sysconfig/network原创 2016-01-14 12:35:11 · 1030 阅读 · 0 评论 -
Linux文件权限读书笔记
一、Linux的安全性1、/etc/passwd文件将用户的登录名匹配到对应的UID,举例:[test@localhost ~]$ head -6 /etc/passwdroot:x:0:0:root:/root:/bin/bashbin:x:1:1:bin:/bin:/sbin/nologindaemon:x:2:2:daemon:/sbin:/sbin/nologin原创 2016-01-13 17:51:21 · 689 阅读 · 0 评论 -
hadoop2.6与hbase1.1.2单机版安装配置
环境:jdk版本:1.8(已完成安装及环境配置,路径:/usr/java/jdk1.8.0_65)hadoop版本:2.6.0spark版本:1.4.1 0、创建目录[root@localhost ~]# mkdir /usr/local/hadoop1、下载hadoophadoop-2.6.0.tar.gz2、解压tar包 [root@原创 2016-01-05 19:55:00 · 2541 阅读 · 0 评论 -
Linux下最新版R源码安装完全攻略
在Linux下,最新版R源码安装会遇到多个错误异常警告,很多时候大家会选择忽略并完成安装,但在使用中,在某些问题上会出现意想不到的问题。现整理完整安装攻略如下:step0:下载R安装包 R-3.2.2.tar.gzstep1:[root@localhost Downloads]# tar xvf R-3.2.2.tar.gz #解压step2:[root@原创 2015-12-02 08:13:37 · 2663 阅读 · 0 评论 -
虚拟机Linux下Oracle11g客户端安装
服务器:Windows Server 2008Oracle数据库版本:Oracle11g本机系统:Winows 7专业版虚拟机:VMware Workstation虚拟机系统:CentOs-6.2 step0: 软件下载网址:http://www.oracle.com/technetwork/topics/linuxx86-64soft-092277.html分别下原创 2015-12-21 19:58:09 · 4205 阅读 · 1 评论 -
Spark1.4.1单机版安装配置
版本信息scala-2.11.7.tgzjdk-8u65-linux-x64.gzspark-1.4.1-bin-hadoop2.6.tgzIP: 192.168.31.157查看IP的语法为:[root@localhost java]# ifconfig -a步骤0:创建目录[root@localhost ~]# mkdir /usr/java[root@loca原创 2015-12-31 17:10:10 · 1137 阅读 · 0 评论 -
使用awk命令获取命令或文本的行、列
1、打印命令的第1列: ll | awk '{print $1}'; 打印文档的第1列: awk '{print $1}' filename2、打印命令的前2列: ll | awk '{print $1, $2}' 打印文档的前2列: awk '{print $1,$2}' filename3、打印完命令第一列,然后打印第2列:ll | awk '{print $1 $2}原创 2017-06-25 23:37:26 · 5413 阅读 · 2 评论