
Linux系统
文章平均质量分 64
linux 系统和软件管理
根哥的博客
big world needs big-data-manager !
展开
-
Promethues 添加访问密码
【代码】Promethues 添加访问密码。原创 2025-03-20 17:37:22 · 147 阅读 · 0 评论 -
Doris 安装使用
【代码】Doris 安装使用。原创 2024-12-31 18:01:58 · 424 阅读 · 0 评论 -
Kafka从指定时间开始消费数据
【代码】Kafka从指定时间开始消费数据。原创 2024-11-30 13:48:26 · 793 阅读 · 0 评论 -
达梦数据库日常查询与管理
【代码】达梦数据库日常查询与管理。原创 2024-06-27 18:07:59 · 3405 阅读 · 0 评论 -
linux 查看并统计进程、线程数量: awk 分组统计
【代码】linux 查看并统计进程、线程数量: awk 分组统计。原创 2023-11-08 11:35:20 · 886 阅读 · 0 评论 -
java进程内存分析工具-生成core dump文件,并读取分析:jmap, jhat
【代码】java进程内存分析工具-生成core dump文件,并读取分析:jmap, jhat。原创 2023-11-08 11:19:17 · 1149 阅读 · 0 评论 -
比较并获取两个文件:共同点,各自的差异数据
【代码】比较并获取两个文件:共同点,各自的差异数据。原创 2023-06-09 14:29:04 · 159 阅读 · 0 评论 -
clickhouse 分区表管理,删除旧数据
clickhouse删除旧的分区,清除旧数据原创 2022-12-08 10:13:37 · 4163 阅读 · 0 评论 -
删除gluster volume数据报错:no space left
删除glustervolume数据报错nospaceleft。原创 2022-07-27 10:20:45 · 654 阅读 · 0 评论 -
Centos: minio对象存储服务器
1, Centos安装minio对象存储服务https://min.io/download#/linuxa, 二进制安装################### 下载二进制文件,启动服务################## wget https://dl.min.io/server/minio/release/linux-amd64/miniochmod +x miniomv min...原创 2019-11-01 14:03:48 · 3050 阅读 · 0 评论 -
截取分发指定行的数据:sed,clickhouse-client导入数据
1,使用场景使用clickhouse(分布式表–> 多个本地表分片),导入数据时,为了不影响集群性能,不走分布式表,而走本地表完整截取一个文件,并分发到不同的地方处理,数据不出现重复2,脚本详情#!/bin/bash[ $# -lt 1 ] && echo "usage: sh $0 xx.csv" && exitfile=$1count=` wc -l $file |awk '{print $1}' `hosts=(192.168.56.1原创 2022-04-28 17:26:53 · 538 阅读 · 0 评论 -
wrapper后台启动java程序
1,下载wrapper下载地址:https://wrapper.tanukisoftware.com/doc/english/download.jsp#stable2,使用wrapper后台启动java程序2.1,编写java样例程序HelloWorldServer.java具体代码参考:https://wrapper.tanukisoftware.com/doc/english/app-hello-world-server.html#sourcecom.my.Test2public clas原创 2022-04-15 18:10:58 · 1652 阅读 · 0 评论 -
MongoDB 分片集群安装
文章目录1,安装mongodb服务2,配置分片集群3,启动各服务,验证集群配置mongos连接各分片1,安装mongodb服务#安装软件包[root@c7 mongodb]# rpm -qf /usr/bin/mongomongodb-org-shell-5.0.7-1.el7.x86_64[root@c7 mongodb]# rpm -qf /usr/bin/mongodmongodb-org-server-5.0.7-1.el7.x86_64[root@c7 mongodb]# rpm -原创 2022-04-15 14:51:26 · 1232 阅读 · 0 评论 -
普通用户启动Clickhouse
文章目录1,场景说明2,修改启动脚本:使用ck用户启动服务3,ck用户启动服务1,场景说明考虑安全和权限问题,安装完程序以后,银行等企业一般会收回root权限,此时有些服务可能启动失败,例如clickhouse服务继上一篇Clickhouse集群安装以后 https://blog.youkuaiyun.com/eyeofeagle/article/details/1221937192,修改启动脚本:使用ck用户启动服务#1,ck 用户可登录echo clickhouse |password clickhou原创 2022-03-23 09:52:57 · 2343 阅读 · 3 评论 -
nacos 安装配置
文章目录1,下载编译后压缩包2,修改配置,启动服务2.1 standalone模式2.2 cluster 模式1,下载编译后压缩包参考文档: https://nacos.io/zh-cn/docs/cluster-mode-quick-start.html2,修改配置,启动服务2.1 standalone模式sh bin/startup.sh -m standalone2.2 cluster 模式#1,集群配置文件: 请每行配置成ip:port(请配置3个或以上节点)[root@c7原创 2022-03-03 17:29:08 · 2319 阅读 · 0 评论 -
canal: mysql数据实时同步kafka
文章目录1,环境准备:zk, kafka, mysql-mastermysql启用binlog2, 启动zk, kafka2,安装配置canal3,测试使用官网介绍:https://github.com/alibaba/canal/wiki/Introduction1,环境准备:zk, kafka, mysql-master角色IPmysql-master192.168.56.1 (windows)zk, kafka, canal1,canal2192.168.56.7原创 2022-02-14 15:27:20 · 965 阅读 · 0 评论 -
kafka: 分布式消息系统
要点:什么是kafka, 使用场景有哪些 kafka优缺点 如何使用kafka( shell接口, java api )point1: 简介1, Kafka是一个分布式发布-订阅消息系统最初由LinkedIn公司开发,之后成为Apache项目的一部分 (Kafka是高吞吐量的,可分区的,冗余备份的,可插拔式扩展的,持久性的日志服务,主要用于处理活跃的流式数据)( kaf...原创 2018-08-29 10:49:26 · 2002 阅读 · 1 评论 -
Centos 配置ulimit,限制用户资源
hdfs用户提交spark任务到yarn上报错:OutOfMemoryError: unable to create new native threadjava.lang.RuntimeException: java.lang.OutOfMemoryError: unable to create new native thread at org.apache.hadoop.hba...原创 2019-07-10 13:22:13 · 2094 阅读 · 0 评论 -
OLAP引擎:clickhouse, presto
1, clickhousea, 安装服务sudo yum install yum-utilssudo rpm --import https://repo.clickhouse.com/CLICKHOUSE-KEY.GPGsudo yum-config-manager --add-repo https://repo.clickhouse.com/rpm/stable/x86_64sudo yum install clickhouse-server clickhouse-client/etc/in原创 2021-12-28 16:20:14 · 2603 阅读 · 0 评论 -
配置sftp服务
文章目录1, 修改ssh配置2, 验证sftp登录1, 修改ssh配置[root@c7 ssh]# vim /etc/ssh/sshd_config# override default of no subsystems#Subsystem sftp /usr/libexec/openssh/sftp-server# Example of overriding settings on a per-user basis#Match User anoncvs# X11F原创 2021-12-27 13:47:50 · 1234 阅读 · 0 评论 -
opentsdb 安装使用
文章目录1,编译安装opentsdb启动服务1,编译安装opentsdb下载源码,编译:http://opentsdb.net/docs/build/html/installation.html[root@c73 ~]# git clone git://github.com/OpenTSDB/opentsdb.git[root@c73 ~]# cd opentsdb[root@c73 opentsdb]# lsAUTHORS build-bigtable.sh configure.a原创 2021-11-25 13:45:30 · 1613 阅读 · 0 评论 -
shell: 读取ini配置文件,解析长格式参数,设置字体颜色
使用awk 读取ini配置文件[root@c7 aa]# head -5 a.ini[MYSQL]DATABASE_NAME = wolf2DATABASE_USER = rootDATABASE_HOST = 127.0.0.1[REDIS]DATABASE_NAME = test[root@c7 aa]# awk -F ' = ' '/\[MYSQL\]/{a=1}a==1 && $1~/DATABASE_NAME/{print $2;exit}' a.iniwo原创 2021-11-22 17:44:01 · 1024 阅读 · 0 评论 -
PostgreSQL初步使用: psql
文章目录1, 服务安装2, 客户端连接a, SQL语法:创建用户和所属数据库b, psql命令(允许远程连接)1, 服务安装安装文档:https://www.postgresql.org/download/linux/redhat/sudo yum install -y https://download.postgresql.org/pub/repos/yum/reporpms/EL-7-x86_64/pgdg-redhat-repo-latest.noarch.rpmsudo yum instal原创 2021-11-03 15:20:54 · 425 阅读 · 0 评论 -
jupyter notebook 安装使用
文章目录1 ,安装pip配置pip源2, pip 安装 jupyterlab1 ,安装pippython3 :wget https://bootstrap.pypa.io/get-pip.pypython2.7:wget https://bootstrap.pypa.io/pip/2.7/get-pip.pypython get-pip.py配置pip源https://mirrors.huaweicloud.com/homemkdir ~/.pip/cat > ~/.pip/p原创 2021-09-18 17:04:58 · 551 阅读 · 0 评论 -
Centos7 安装glusterfs
文章目录机器规划1, 安装2, 创建volume3, 测试使用机器规划IP主机名192.168.56.7c7192.168.56.72721, 安装[root@c72 ~]# yum search centos-release-glusterLoaded plugins: fastestmirrorLoading mirror speeds from cached hostfile * base: mirrors.bupt.edu.cn * centos-g原创 2021-09-16 09:26:56 · 1429 阅读 · 0 评论 -
Mysql集群:读写分离(mycat)
1,mycat介绍: mycat1.6mycat1 :https://github.com/MyCATApache/Mycat-Serverhttps://github.com/MyCATApache/Mycat-doc2,mycat部署mycat1.6 安装包下载:http://dl.mycat.org.cn/1.6.7.6/20210303094759/Mycat1权威指南:https://www.yuque.com/books/share/0576de75-ffc4-4c34-8586-95原创 2021-06-17 10:01:15 · 425 阅读 · 0 评论 -
MySQL NDB Cluster 配置和使用
文章目录1, 基本架构2, 使用linux-glibc二进制安装包Management node 节点操作3, 客户端连接1, 基本架构截图来源:https://dev.mysql.com/doc/refman/5.6/en/mysql-cluster-overview.htmlNDB Cluster 角色说明: https://dev.mysql.com/doc/refman/5.6/en/mysql-cluster-basics.html2, 使用linux-glibc二进制安装包安装文档:原创 2021-05-19 18:21:21 · 884 阅读 · 0 评论 -
服务失败自动重启,获取程序日志
服务自动重启3, 使用daemontools自定义后台服务简单脚本(监控失败并重启) : https://blog.youkuaiyun.com/eyeofeagle/article/details/94485522daemontools功能介绍3.1,编译安装源码下载:http://cr.yp.to/daemontools/install.html编译好的二进制包下载 (提取码:abcd):https://pan.baidu.com/s/1v3BfNn-mOPytM5_k4A3FSQ原创 2021-04-13 14:50:09 · 397 阅读 · 0 评论 -
nginx代理webservice: 修改wsdl内容
参考:https://blog.youkuaiyun.com/skymouse2002/article/details/88971071问题: 有一个webservice访问地址( http://192.168.1.111:8078/test1/web/Server?wsdl ), 用nginx代理一层后,可以正常访问; 再用nginx二次代理后,发现端口没改nginx.conf location /server { #proxy_set_header Host $host:$server_port;原创 2021-04-10 11:06:31 · 1546 阅读 · 0 评论 -
Linux ssh 双因子登录验证: Google Authenticator
1, yum原安装yum install epel-releaseyum install pam-devel qrencode-libs google-authenticatorsed -i '2iauth required pam_google_authenticator.so ' /etc/pam.d/sshdsed -i 's/^ChallengeResponseAuthentication.*/ChallengeResponseAuthentication yes/'原创 2021-03-10 12:26:45 · 2620 阅读 · 0 评论 -
Tomcat集群 session共享
文章目录1, 配置tomcat session共享1.1 配置tomcat: conf/context.xml2, 测试用户登录2.1 自带的servlets样例测试2.2 自带的manager登录页面测试使用场景: 用web服务器代理后台多个tomcat, 做负载均衡,有用户重复登录的问他,原因在于session 没有共享1, 配置tomcat session共享配置参考:https://github.com/magro/memcached-session-manager/wiki/Setu原创 2021-03-03 10:26:17 · 376 阅读 · 0 评论 -
ajp协议: httpd 代理 tomcat集群
文章目录1, ajp/http proxy2, httpd 模块 mod_jka, 下载mod_jk源码包,编译httpd插件:b, 配置mod_jk1, ajp/http proxy############# http协议代理:7层 ############[root@c7-docker conf]# cat /etc/httpd/conf.d/a.confListen 811<proxy balancer://http_tom_cluster> BalancerMember h原创 2021-03-01 12:24:36 · 647 阅读 · 0 评论 -
LVS集群: linux virtual server
文章目录LVS 项目介绍ipvsadma, 使用场景b, 内存和性能c, 调度算法d, 使用ipvsadm配置: LVS-DRRS配置VIP说明LVS 项目介绍http://www.linuxvirtualserver.org/whatis.htmlipvsadmhttp://www.austintek.com/LVS/LVS-HOWTO/HOWTO/LVS-HOWTO.ipvsadm.html#using_ipvsadm注意事项: put the names of the realservers原创 2020-12-29 11:07:39 · 729 阅读 · 0 评论 -
linux 软件多版本切换:alternatives
文章目录1, 功能描述: 维护符号链接以确定默认命令基本使用1, 功能描述: 维护符号链接以确定默认命令可以将具有相同或相似功能的多个程序同时安装在单个系统上。例如,许多系统同时安装了多个文本编辑器。这为系统的用户提供了选择,允许每个用户使用不同的编辑器(如果需要),但是如果用户未指定特定的首选项,则程序很难做出一个好的选择来调用编辑器。每一个 alternative 维护的名称都对应一个priority优先级, 在automatic 模式下,该名称会自动指向优先级高的#软件包[roo原创 2020-12-28 12:15:03 · 1402 阅读 · 1 评论 -
haproxy服务代理: tcp层, http层
文章目录1,基本配置使用: listen, fronted/backend1,基本配置使用: listen, fronted/backend####################### tcp代理环境准备 [root1@c7-docker ~]# docker run -it -d --name mysql1 -e MYSQL_ROOT_PASSWORD=123456 -p 3306:3306 mysql:5.5[root1@c7-docker ~]# docker run -it -d --na原创 2020-12-25 10:48:40 · 1005 阅读 · 0 评论 -
linux 安装防病毒软件clamav, 升级openssh
安装:https://www.clamav.net/documents/installing-clamav 使用文档:https://www.clamav.net/documents/scanning#clamscanyum install -y epel-releaseyum install -y clamav #setting up ClamAV’s official signatures升级病毒库freshclam#扫描病毒文件:并移动或删除mkdir /var/lib/clamav/原创 2020-12-23 09:19:53 · 1065 阅读 · 1 评论 -
linux基本安全防护
#0, 升级mysql5.7 审计功能,库重命名系统默认账户,限制访问权限; 设置密码复杂度#设备本地设置访问控制列表限制终端接入范围,开启have_openssl加密协议# create user 'root'@'192.168.1.%' identified by 'ABCabc123!'; #1, 操作系统审计,日志保留半年if which systemctl &>/dev/null ;then echo centos7 systemctl start rsyslo原创 2020-11-24 11:11:26 · 1080 阅读 · 1 评论 -
logrotate: 日志切割,备份
文章目录1, 查看帮助:配置文件使用2, 自定义配置:切割/备份指定文件1, 查看帮助:配置文件使用[root@c72 ~]# cat /etc/logrotate.conf# see "man logrotate" for details# rotate log files weeklyweekly# keep 4 weeks worth of backlogsrotate 4# create new (empty) log files after rotating old ones原创 2020-11-23 15:14:39 · 576 阅读 · 0 评论 -
tomcat 多实例,日志保留期限
1,tomcat: 作为Windows服务进行管理http://tomcat.apache.org/tomcat-8.0-doc/windows-service-howto.html1, 递归创建目录: apache-tomcat-8-muti-instance/instances/instance12 , 解压tomcat: 把bin, lib 放到apache-tomcat-8-muti-instance目录里3,把conf放到apache-tomcat-8-muti-instance目录里原创 2020-11-09 12:09:50 · 2953 阅读 · 0 评论 -
shell 登录环境设置顺序
文章目录1,查看bash说明文档: man bash2,登录并验证第一步, 修改各环境变量文件: 添加输出语句第二步, 交互式登录centos6/7第三步, 非交互式登录centos6/71,查看bash说明文档: man bashWhen bash is invoked as an interactive login shell, it first reads and executes commands from the file /etc/profile, if that file exi原创 2020-11-06 12:17:04 · 359 阅读 · 0 评论