
Linux学习
文章平均质量分 60
dltan
百川终到海。微信:realtimedata
展开
-
Centos7.6&7.9安装R语言
离线编译安装R语言,centos7.9 centos7.6 R4.1.0原创 2021-07-01 18:50:49 · 3173 阅读 · 3 评论 -
Linux下执行kettle的ktr脚本转换命令执行
Linux下执行kettle的ktr脚本转换命令执行原创 2020-07-13 17:56:45 · 1728 阅读 · 0 评论 -
Linux下的crontab定时任务配置和启动
Linux下的crontab定时任务配置和启动,安装查看,添加,执行。原创 2020-06-07 11:52:09 · 6187 阅读 · 0 评论 -
Linux下自动定时执行、开机自启动执行脚本
Linux下脚本自启动,程序定时执行。定时启动python脚本等。原创 2020-06-05 14:57:11 · 1062 阅读 · 0 评论 -
Linux上使用Python报错pip not found、yum lock、SyntaxError: Non-ASCII
报错pip not found、yum lock、SyntaxError: Non-ASCII原创 2020-06-03 18:32:15 · 637 阅读 · 0 评论 -
Shell脚本(一)——命令回顾
本篇概要:1.回顾近一年使用的linux命令;2.将日志追加进行再次回顾;3.动态脚本传参;4.简单shell脚本执行原创 2019-12-09 17:06:20 · 396 阅读 · 0 评论 -
R语言脚本在Linux下运行
R语言安装在linux系统下,解决包的安装和依赖冲突后,shell脚本中内置R程序脚本,在同一环境变量下shell运行R语言的程序脚本.输出R的程序运行结果,可将R的结果和shell的参数进行交互。原创 2019-12-09 11:49:25 · 16567 阅读 · 0 评论 -
shell脚本命令运行
终端读取数据表头head -1 /mnt/daytime.csv写sh脚本读取表头[root@nhost21 mnt]# more zz.sh#!/bin/bashMM=`head -1 /mnt/daytime.csv`echo $MM > newFileecho $MM运行sh脚本,得到结果[jhadmin@nhost21 mnt]$ source zz.sh: ...原创 2019-03-25 08:44:25 · 3275 阅读 · 0 评论 -
Linux下的R语言的参数传入及自动化判断
Linux下开发R语言模型,讲模型中的参数进行处理,只需要替换参数,就能实现该模型对任意的数据适用,再对数据类型和算法适用条件进行判断,就能保证该程序的正确性,即不会导致错误退出。参数加载install.packages('magrittr')library(magrittr)setwd("C:\\Users\\jhinno\\Desktop\\R-data20190120\\R-Vari...原创 2019-03-18 18:36:06 · 690 阅读 · 0 评论 -
Linux日志报错查看及构建报错日志目录
sh文件中追加步骤日志报错echo "JH_JOB_NAME:$JH_JOB_NAME--JH_QUEUE:$JH_QUEUE--JH_NCPU:$JH_NCPU--JH_JOB_CMD:$JH_JOB_CMD" >> /tmp/log.log通过参数读取文件表头#!/bin/bashMM=`head -1 $*`echo $MM > newFileecho $MM...原创 2019-04-11 19:25:34 · 6258 阅读 · 0 评论 -
sh脚本读取文件和访问
逐行处理文本1.读取文本内容:# cat a.txta b c1 2 3x y z2.使用 while 循环逐行读取 a.txt 文件,有三种方式:方式 1:#!/bin/bashcat ./a.txt | while read LINE; doecho $LINEdone方式 2:#!/bin/bashwhile read LINE; doecho $LINE...原创 2019-03-20 21:03:52 · 6202 阅读 · 0 评论 -
Linux基础常识(四)
1.查看Linux的内核版本例如安装Docker 。, 要求 CentOS 系统的内核版本高于 3.10 ,就需要对内核版本进行查看,这样做是保证前提条件:CentOS 版本是否支持 Docker运行 。通过 uname -r 命令查看你当前的内核版本[jhadmin@localhost ~]$ uname -r3.10.0-693.el7.x86_64...原创 2019-03-20 20:49:45 · 275 阅读 · 2 评论 -
Linux中的sh脚本写法笔记(一)
1.向.sh脚本中传递参数[root@nhost21 test.save.data]# ./test.sh 1 2 3执行的文件名:./test.sh执行的文件名:./test.sh第一个参数为:1第二个参数为:2第三个参数为:3.sh脚本内容如下所示:#!/bin/bashecho “执行的文件名:$0”;echo “执行的文件名:$0”;echo “第一个参数为:$1”;...原创 2019-03-19 21:59:43 · 4756 阅读 · 0 评论 -
Linux下R语言不指出中文或编码乱码问题解决Error: invalid multibyte character in parser
**报错为:**Error: invalid multibyte character in parser在windows下,常常遇到中文乱码,对中文的编码方式,R语言极其敏感,如何让解决呢?在这之前我用过UE软件,现在用的是Notepad++这个软件解决了编码在程序运行中识别失败的问题。软件介绍(1) UltraEdit该软件可解决windows下打开的程序脚本乱码问题,直接打开后,乱码...原创 2019-03-11 14:35:37 · 5712 阅读 · 1 评论 -
Linux中R语言和其它软件接口调用连接的解决方法
不仅仅是R语言,以R语言为例。R语言调用其它软件的资源,需要获取到其它软件的接口。例如,R语言和HBase数据库进行连接,获取到HBase数据库的数据。可使用的方法就有三种:1.R语言本身和HBase的连接R语言和HBase连接,可借助rhadoop的包,通过R自身的接口访问到HBase的数据,但是往往由于包和依赖的问题,使得R语言在访问数据库和包使用过程中出现错误,这可能是由于依赖和编译等...原创 2019-02-26 12:07:21 · 877 阅读 · 0 评论 -
Linux中sh文件的执行方法
1.切换到.sh脚本所在的目录,执行.sh脚本:[root@nhost21 mnt]# ls111.py daytime.csv hdfs_python.py Rplots.pdf test.pyaa.sh ...原创 2019-02-26 11:39:42 · 31232 阅读 · 0 评论 -
R语言对变量进行聚类:横向聚类
图形设置par(ask=TRUE)opar <- par(no.readonly=FALSE)输入flexclust包自带数据nutrient,是27个不同种类的肉的5个成分含量install.packages(“flexclust”)data(nutrient, package=“flexclust”)row.names(nutrient) <- tolower(row....原创 2019-02-20 18:44:49 · 7022 阅读 · 0 评论 -
centos6和centos7的防火墙设置区别
CentOS6.5查看防火墙的状态:[zh@localhost ~]$service iptable status显示结果:[zh@localhost ~]$service iptable status Redirecting to /bin/systemctl status iptable.service iptable.service Loaded: not-found...原创 2019-04-02 22:21:23 · 1636 阅读 · 1 评论 -
Linux的端口处理解决问题
Linux的端口,被占用的时候,导致该端口无法启用,因此需要停掉该端口的服务或杀掉该端口的进程。1.通过端口号查找应用程序进程并kill[root@master ~]# netstat -apn | grep 8080tcp6 0 0 :::8080 :::* LISTEN 2141/jav...原创 2019-04-02 22:22:09 · 1235 阅读 · 0 评论 -
Docker 搭建私有仓库
Docker部署安装Docker在我之前的电脑系统中软件已经部署安装好,也已经启动好了。我把原来电脑里的gridstudio容器打包进行导出后,生成了一个镜像文件,这个镜像文件可以在其他机器上安装,其它机器安装好docker后,把原来电脑生成的docker文件导入到新容器上,此时运行之前打包好的docker的镜像,就直接把之前操作安装好的批量一次性的安装到环境中去了。大概是三个步骤,1.生成制...原创 2019-09-30 14:23:16 · 392 阅读 · 0 评论 -
hdfs使用命令
hdfs的基本命令操作和总结原创 2019-08-20 14:03:38 · 239 阅读 · 0 评论 -
Docker容器环境变量配置及系统容器中字符乱码处理
Docker环境变量的配置方法,容器字符乱码问题的解决。原创 2019-08-09 11:05:10 · 1674 阅读 · 0 评论 -
Linux上Python连接Oracle解决报错cx_Oracle.DatabaseError: DPI-1047
解决Linux上Python连接Oracle出现报错cx_Oracle.DatabaseError: DPI-1047的方法总结。原创 2019-08-09 10:47:55 · 25960 阅读 · 0 评论 -
Linux下的环境变量配置command not found
linux下环境变量配置,对.bash_profile和.bashrc分别进行配置,然后生效。原创 2019-08-09 10:07:43 · 4170 阅读 · 0 评论 -
Docker容器中添加Linux的基础命令
bash: vim: command not found原创 2019-08-08 10:08:00 · 3125 阅读 · 3 评论 -
Docker安装gridstudio步骤
root用户安装Docker,安装环境是centos7.4[root@tandelin /]# uname -r3.10.0-693.el7.x86_64安装Docker 要求 CentOS 系统的内核版本高于 3.10 ,就需要对内核版本进行查看,这样做是保证前提条件:CentOS 版本是否支持 Docker运行 。通过 uname -r 命令查看你当前的内核版本第一步[root@t...原创 2019-08-05 11:33:17 · 7374 阅读 · 2 评论 -
Tomcat配置和安装
概念背景流行的Web 应用服务器,也是运行Servlet和JSP的容器。安装步骤配置JDK,配置tomcat的环境变量,解析tomcat的脚本。安装配置流程(1)配置jdk编辑系统变量a.右键单击“我的电脑”,选择“属性”-“高级”,点击“环境变量”。新建:环境变量名称:JAVA_HOME,变量值为:“D:\java\jdk1.7”b.path环境变量编辑添加将“%JAVA_...原创 2019-06-17 22:36:11 · 303 阅读 · 0 评论 -
hdfs文件上传
查看hdfs的文件登陆hdfs的文件端口查询文件路径,登陆端口默认为50070http://192.168.0.183:50070/explorer.html#/user/jhadmin点击浏览文件系统查看文件路径终端根据路径提交文件和数据上传到hdfs查看hadoop文件 hadoop fs -ls /新建文件夹hadoop dfs -mkdir /tmp/data上...原创 2019-04-25 13:57:08 · 5166 阅读 · 0 评论 -
Linux下的用户UID和GID的查看与修改
各用户的UID和GID保持一致,可使得文件权限访问正常。1.查看用户的UID和GID(1)查看机器1 [root@master ~]# cat /etc/passwd | grep jhadmin jhadmin:x:10000:0::/apps/users/jhadmin:/bin/bash(2)查看机器2[root@jhadmin etc]# cat /etc/passwd | ...原创 2019-04-03 14:00:33 · 5453 阅读 · 1 评论 -
R语言中使用Python程序读取hdfs上的数据
前言:为了实现R和HBase连接,最近一直进行各种的编译,由于下午女朋友问我R语言数据清洗的问题,我果断推荐它使用sqldf这个包。这样R语言就能使用SQL语句。同理,我想R语言中是否也能使用Python程序呢?于是我想使用Python程序在R中应该是能进行操作的,最终网上找到了reticulate包。该包让R调用python的语法程序变得极为简单。reticulate包安装reticula...原创 2019-02-20 18:43:09 · 992 阅读 · 1 评论 -
phoneix和hbase映射
下载phoneixphoenix的官网是:http://phoenix.apache.org/,可以到该网址找到对应hbase版本的phoenix来下载。使用是apache-phoenix-4.14.1-HBase-1.1-bin.tar.gz这个包.查看hbse版本hbase(main):007:0> version1.1.2.2.6.1.0-129, r718c773662346...原创 2019-02-25 18:37:22 · 412 阅读 · 0 评论 -
python连接hive
安装加载包pip install saslpip install thriftpip install thrift-saslpip install pyhive调用包import timetime1=time.time()import pandas as pdfrom pyhive import hivecursor=hive.connect(host=‘192.168.14...原创 2019-02-25 15:28:01 · 1682 阅读 · 0 评论 -
观影人数随着时间变化的趋势分析.R语言
setwd(“C:\Users\TDL\Desktop\观影人数时间序列”)library(MASS)library(forecast)source(“trndseas.R”)data=read.table(“chicago.txt”,header=F)head(data)names(data)=c(“每日平均收入”,“年月日”)data年月日=as.Date(data年月日=as....原创 2019-02-22 23:47:19 · 1830 阅读 · 0 评论 -
Linux的文件下载到本地与本地文件传输
以centos6.8为例。linux当前目录下的文件,下载到本地:首先,服务器要安装了rz,szyum install lrzsz将windows的文件传到linux服务器,直接进行选择[root@tandelin data]# rz将文件下载到windows本地[root@tandelin data]# sz filenamewget [参数列表] [目标软件、网页的网址]...原创 2019-01-30 18:03:01 · 18694 阅读 · 1 评论 -
python读取hdfs数据
加载包from hdfs.client import Clientclass Process_Data_Hdfs(): def __init__(self): self.client = Client("http://hadoop1:50070") self.filename = "/user/hdfs/read.txt"读取hdfs文件内容,将...原创 2019-02-21 22:31:40 · 17127 阅读 · 3 评论 -
python和R一键运行脚本
互换R和python环境首先环境安装annconda,其次R和python安装上[hdfs@hadoop1 /]$ conda install rpy2互相切换可以使用函数命令R脚本一键运行source(test.R)python脚本一键运行exec(open(‘hdfs_python.py’).read())...原创 2019-02-21 18:24:42 · 977 阅读 · 0 评论 -
R语言代码规范书写
1.对象命名赋予意义使用空行来分割逻辑使用注释和花括号不用的代码和引用删除不要用中文拼音做变量名可用,清晰优雅,高效多写代码,多思考...原创 2019-01-29 19:44:20 · 12826 阅读 · 1 评论 -
Linux下R语言参数传递
Linux下构建R语言统计模型,前端输入参数,后端获取接受参数,运行程序脚本得到分析结果。都离不开参数的传递。参数传递分为形参和是实参。形参:指出现在Sub 和Function过程形参表中的变量名、数组名,该过程在被调用前,没有为它们分配内存,其作用是说明自变量的类型和形态以及在过程中的作用。形参可以是除定长字符串变量之外的合法变量名,也可以带括号的数组名。实参:实参就是在调用Sub 和Fun...原创 2019-01-29 11:47:14 · 4289 阅读 · 0 评论 -
linux的日志常用基本整理
查看操作日志[root@tandelin logs]# cat /var/log/messagesJan 27 08:09:25 tandelin dhclient[2460]: DHCPREQUEST on eth0 to 192.168.0.1 port 67 (xid=0x3f1af445)Jan 27 08:09:25 tandelin dhclient[2460]: DHCPACK...原创 2019-01-28 19:17:06 · 604 阅读 · 0 评论 -
Linux的文件操作(二)
1.查看文件类型 [jhadmin@tandelin data]$ file index.html index.html: HTML document text2.压缩文件zip [option] filename3.统计文件的字数wc[jhadmin@tandelin data]$ wc a.txt 3 3 34 a.txt4.显示有谁登陆在机器上 [jha...原创 2019-02-01 17:25:43 · 273 阅读 · 0 评论