
linux
SOUL-GIN
任凭弱水三千,只取一瓢饮
展开
-
flink采集rocketmq写入hbase_java版
详见https://github.com/gin-soul/gin/tree/master/flink/src/main/java/com/gin/flink/demo原创 2021-02-16 17:10:48 · 606 阅读 · 0 评论 -
linux安装maven
下载安装包切换到软件下载目录,下载安装包:cd /opt/software/tmp/wget http://mirror.bit.edu.cn/apache/maven/maven-3/3.5.4/binaries/apache-maven-3.5.4-bin.tar.gz解压安装包想要把软件安装在哪个目录,就把压缩包解压到哪个目录:tar xzf /opt/software/tmp/apache-maven-3.5.4-bin.tar.gz -C /opt/software#创建仓.原创 2021-02-13 17:19:17 · 117 阅读 · 0 评论 -
HBase优化设计
HBase优化设计1.1 表的设计对表的Region进行预分区, 加快新建表写入或批量写rowkey散列设计, 考虑业务范围查询列族最好1个, 不超过2个版本号一般为1(只保留最新), 数据也可以设置TTLminor compact尽量错峰(合理设置触发条件, 定时任务合并), major compact必须错峰1.1.1 Pre-Creating Regions(预分区)默认情况下,在创建HBase表的时候会自动创建一个region分区,当导入数据的时候,所有的HBase客户端都向这原创 2021-02-13 10:20:20 · 646 阅读 · 0 评论 -
Hbase结合protocolbuffers
下载稳定版本列表https://github.com/protocolbuffers/protobuf/releasesprotobuf-2.5.0https://github.com/protocolbuffers/protobuf/releases/tag/v2.5.0安装#安装gcc gcc-c++等组件#查看yum安装工具包组yum grouplist | grep "Development Tools"#安装工具组yum groupinstall "Developmen原创 2021-02-12 16:37:59 · 269 阅读 · 1 评论 -
Hbase安装及基本DDL DML操作
Hbase注意事项hbase会启动自带zk端口, 注意与zk集群错开服务器, 或者调整端口doc目录可删standalone安装下载, 上传, 解压mkdir -p /opt/software#上传 hbase-2.0.5-bin.tar.gz#解压tar -zxf hbase-2.0.5-bin.tar.gz -C /opt/softwarecd /opt/software/hbase-2.0.5mv docs /tmp && rm -rf /tmp/docs原创 2021-02-08 01:57:45 · 322 阅读 · 0 评论 -
flink单节点及HA安装
flink官网下载Flink安装包不建议采用小版本号为0的安装包(如1.9.0),建议使用1.9.2版本安装包上传到node01节点解压、修改配置文件解压:tar -zxf flink-1.9.2-bin-scala_2.11.tgz修改flink-conf.yaml配置文件#JobManager地址jobmanager.rpc.address: node01 #JobManagerRPC通信端口jobmanager.rpc.port: 6123#JobManager所能使用的堆原创 2021-02-05 11:06:47 · 486 阅读 · 0 评论 -
linux增加虚拟内存
#可选: 关闭已存在的虚拟内存, 查看挂载的路径, swapoff 挂载路径cat /etc/fstabswapoff /dev/mapper/centos-swap#删除启动挂载的路径vim /etc/fstab#创建块dd if=/dev/zero of=/opt/swapfile bs=1M count=4096#格式化mkswap -f /opt/swapfile#开机自动挂载vim /etc/fstab#修改, 新增挂载: /opt/swapfile swap swap原创 2021-02-04 19:22:07 · 167 阅读 · 0 评论 -
leaf安装
leaf安装(分布式ID)yum install -y gitcd /usr/localgit clone https://github.com/Meituan-Dianping/Leaf.git#安装maven, 或离线安装yum install -y mavenvim /etc/maven/settings.xml#配置阿里镜像仓库 <mirror> <id>nexus-aliyun</id> <mirror原创 2021-01-16 21:14:23 · 720 阅读 · 0 评论 -
vmware虚拟机安装CentOS7.6_1810注意事项
资源CentOS官网: (建议下载CentOS-7-x86_64-DVD-1810 便于最小化安装时安装一些tool)https://archive.kernel.org/centos-vault/7.6.1810/isos/x86_64/工具及安装好的模板机(百度网盘):https://pan.baidu.com/s/1AznNaM_yv3SsdGIzuVwOKQ提取码:gin7注意事项创建虚拟机过程"网络"一般使用 NAT 模式“磁盘"一般选择"创建新虚拟磁盘”安原创 2021-01-16 20:08:10 · 1099 阅读 · 2 评论 -
vmware虚拟机克隆网络配置问题
克隆的虚拟机,网络配置问题最好新创建的虚拟机直接在"设置"->“高级”->“网络配置”->“MAC地址”->点击"生成"; 避免重复MAC导致后续克隆主机MAC冲突导致网络不能使用资源:https://pan.baidu.com/s/1AznNaM_yv3SsdGIzuVwOKQ提取码:gin71.需删除"HWADDR",“UUID”, 注意设置(BOOTPROTO=static 和 ONBOOT=yes)vi /etc/sysconfig/network-scr原创 2021-01-15 18:09:09 · 288 阅读 · 0 评论 -
etcd_install
克隆的虚拟机,网络配置问题1.需删除"HWADDR",“UUID”, 注意设置(BOOTPROTO=static 和 ONBOOT=yes)vi /etc/sysconfig/network-scripts/ifcfg-ens33#删除( 按两次d ) "HWADDR" "UUID"#修改IP即可 [网关(如:10.0.0.2) DNS(8.8.8.8 或增加网关值 DNS2=10.0.0.2)]2.清空70-persistent-net.rules文件, 不存在则不用操作cd /etc/原创 2021-01-15 15:45:32 · 180 阅读 · 0 评论 -
centos7 关闭防火墙
centos7 关闭防火墙# 临时关闭sudo systemctl stop firewalld# 永久关闭, 防止reboot失效sudo systemctl disable firewalld# 查看防火墙状态sudo systemctl status firewalld原创 2020-12-06 20:36:08 · 112 阅读 · 0 评论 -
linux时间同步
使用vmware虚拟机中安装的Linux如果没有时间同步单台服务器 make 命令可能失败,报:make: Warning: File `Makefile.am’ has modification time 5691744 s in the future集群情况下:集群有状态通讯问题时间同步单台yum install -y ntp#使用阿里云服务同步ntpdate ntp1.aliyun.com#直接修改时间# 查看当前时间date +"%Y-%m-%d %H-%M-%S原创 2020-11-30 10:20:39 · 151 阅读 · 0 评论 -
mysql数据库密码更新脚本
注意事项脚本为更新密码, 对应被更新用户(目前为: gin, 根据实际情况修改)需要有在对应linux服务器上的登录权限执行方式: ./alter_mysql.sh 123457 123458第一个参数为当前(旧)的登录密码, 第二个参数为新的密码GRANT ALL PRIVILEGES 根据需要调整密码生成文件根据需要删除#!/bin/bashOLD_PASSWORD=$1NEW_PASSWORD=$2MYSQL_USER=ginfunction install_info()原创 2020-11-10 10:49:26 · 424 阅读 · 0 评论 -
sed替换行内部分匹配数据,一键替换密码配置
场景:应用配置文件(application-dev.properties)中密码, 客户希望通过脚本一键替换:spring.datasource.druid.primary.password=oxoxspring.datasource.druid.primary.password=YourNewPasswdsed替换#1.模糊分组匹配sed -i -r "s#(spring.datasource.druid.primary.password=)(.*)#\1YourNewPasswd#g"原创 2020-11-09 11:52:42 · 1134 阅读 · 0 评论 -
linux生成https证书并通过nginx验证https访问
linux生成证书#1.建立服务器私钥, 生成RSA秘钥#会有两次要求输入密码(123456)cd ~openssl genrsa -des3 -out server.key 2048#然后获得了一个server.key文件cat server.key#2.以后使用此文件(通过openssl提供的命令或API)可能经常回要求输入密码,如果想去除输入密码的步骤可以使用以下命令:openssl rsa -in server.key -out server.key#3.创建服务器证书的申请原创 2020-10-28 18:42:54 · 502 阅读 · 0 评论 -
note_shell_去掉注释行空行
针对xmlawk# awk awk 'BEGIN{RS="<!--|-->"}NR%2' 需要去掉注释行的文件名 > 临时文件名sed# sedsed '/<!--/{:a;/-->/!{N;ba}};/<!--/d' 需要去掉注释行的文件名 > 临时文件名针对 # 注释文件(对xml文件无效)grep# grep#删除注释行到临时文件中grep -v '^#' 需要去掉注释行的文件名 > 临时文件名#删除文件中.原创 2020-08-22 19:45:24 · 347 阅读 · 0 评论 -
CentOS7使用crontab
#!/bin/bashyum -y install crontabssystemctl start crondchkconfig --level 345 crond oncrontab -e*/1 * * * * /root/append.sh systemctl start crond //启动服务systemctl stop crond //关闭服务systemctl restart crond //重启服务systemctl reboot crond原创 2020-07-29 11:24:11 · 1047 阅读 · 0 评论 -
linux_io_note_01
computer硬件: 控制器(CPU), 主存储器(内存), 输入输出设备( IO设备: 键盘 鼠标 网卡, 显示器 ), 外部存储器(磁盘)kernel: 内核,是一个操作系统的核心. 是基于硬件的第一层软件扩充, 提供操作系统的最基本的功能(最精简的操作系统)查看cpu信息(核数:CPU(s))lscpuVFS(VirtualFileSystem): 虚拟文件系统树状结构(tree 命令查看, yum install -y tree), 对系统所有设备的抽象, 在linux中一切皆原创 2020-07-15 17:52:31 · 195 阅读 · 1 评论 -
linux open files & processes 系统参数调优
linux 系统参数调优出现 Too many open files 问题(open files)服务端出现 CLOSE-WAIT 问题(max user processes)es出现 max virtual memory areas vm.max_map_count [] is too low 问题(vm.max_map_count)查看目前系统已使用资源查看系统状态iostatfree -htop查看 open fileslsof -n |awk '{print $2}'|s原创 2020-06-18 20:05:22 · 1318 阅读 · 0 评论 -
dubbo_linux_windows_服务可用性测试
1.通过 telnet ip port 命令登录telnet 192.168.25.11 208802.按回车键,就会跳至dubbo服务显示为下列界面:dubbo>3.通过 ls 命令查看提供了哪些服务cn.gin.service.PersonInfoService4.切换到要排查的服务类名下cd cn.gin.service.PersonInfoService5....原创 2019-10-22 15:53:42 · 235 阅读 · 0 评论