基于AIX系统的应用日志采集-Logstash服务器端和客户端配置

aix-errpt-logstash:将事件从AIX错误报告(errpt)发送到Logstash服务器 errpt2logstash 将事件从AIX错误报告(errpt)发送到Logstash服务器 安装 cp errpt2logstash.pl /usr/local/bin/errpt2logstash.pl chown root:system /usr/local/bin/errpt2logstash.pl chmod 750 /usr/local/bin/errpt2logstash.pl 定制配置文件errpt2logstash.conf cp errpt2logstash.conf /etc/errpt2logstash.conf chown root:system /etc/errpt2logstash.conf chmod 660 /etc/errpt2logstash.conf odmadd errpt2logstash.add 示例logstash输入配置 input 立即下载
  • 1.服务端

  • 1.1.需要文件(/opt/file):

  logstash-forwarder.crt

  logstash-forwarder.key

   1.2. 执行命令生成密钥文件keystore.jks

  cd  /opt/file

  keytool -importcert -trustcacerts -file logstash-forwarder.crt -alias ca -keystore keystore.jks

 说明:

  keytool:是java/bin命令

  -alias ca  ca指的是客户端AIX服务器域名

1.3.把keystore.jks复制到AIX服务器上

例如:scp keystore.jks 用户名@130.30.1.107.171://opt/目录

 服务端logstash配置:

  

input{

       lumberjack {

       port => 5120//要跟客户端一致

       ssl_certificate => "/opt/file/logstash-forwarder.crt"

       ssl_key => "/opt/file/logstash-forwarder.key"

       type => "access"//要跟客户端一致,可以分类型处理。

    }

}

filter {  //可以不过滤,此段删除。

  grok {

    match => { "message" => "%{COMBINEDAPACHELOG}" }  

  }  

}  

output {

  elasticsearch {//支持es,亦可以删除

        index => "gzns_access"

        document_type => "access"

        hosts => ["GIT-003.hadoop:9200"]

        workers => 1

        flush_size => 100

        idle_flush_time => 10

  }

kafka{//支持kafka,内容后补(名称暂时,可选)

        index => "gzns_access"

        document_type => "access"

        hosts => ["GIT-003.hadoop:9200"]

        workers => 1

        flush_size => 100

        idle_flush_time => 10

  }

//输出控制台(可选)

  stdout{codec==>rubydebug}

}

解释说明:

port:同客户端输出端口一样;

ssl_certificate和ssl_key分别指向/opt/file/下两个文件

type:增加日志输出类型

 

修改配置文件

logstach.yml

放开node节点的注释,并修改服务器名。注意:后面一定要添加一个空格!

 

/usr/local/test/logstash

 

 

  • 2.客户端(AIX)

  • 2.1.需要文件(/home/was/logstash):

  .logstash-forwarder-java

  keystore.jks

  logstash-forwarder-java-0.2.4.jar

  test.conf

2.2.编辑记录文件(.logstash-forwarder-java)

该文件的目的是为了记录每个日志文件当前处理到第几行。

修改内容为{},花括号里没有[],否则进程启动会报空指针异常

清除里面原来的所有内容,留一个[]即可。

2.2.1.编辑配置文件test.conf

{

  "network": {

    "servers":["96.0.50.78:5120"],

    "ssl ca":"/home/was/logstash/keystore.jks",

    "timeout":5

  },

  "files": [

    {

      "paths": ["/backup/mondata/jxj.nmon"],

      "fields": {

        "type": "access"

      }

    }

  ]

}

解释说明:

Aix用的一般是gb2312,而其他服务器用的通常是utf-8.

servers:指向server端的IP和port

ssl ca:指向密钥文件keystore.jks

2.3.启动java进程

cd /home/was/logstash

nohup java -jar logstash-forwarder-java-0.2.4.jar -quiet -config test.conf > logforwarder.log &

解析说明:

-quiet:参数可以大大减少不必要的日志量,如果遇到错误请打开-debug和-trace选项

  • 其他

3.参考:AIX 使用logstash解决方案.

https://github.com/chenryn/ELKstack-guide-cn/commit/b79047ac51baeec90f5850f2e86eb16982e90d73

https://github.com/didfet/logstash-forwarder-java

 

logstash-forwarder + logstash + elasticsearch + kibana:

http://www.cnblogs.com/xiaouisme/p/3977721.html

 

logstash-forwarder-java:Java日志发件人 logstash-forwarder-java 这是什么 ? Logstash-forwarder-java是用Java编写的日志传送程序。 实际上,这是的Java版本。 这是该程序的一些功能: 与Java 5运行时兼容 轻巧的:封装大小为〜2MB,内存占用量为〜8MB 与logstash-forwarder兼容的配置 伐木工人输出(包括zlib压缩) 为什么 ? Logstash-forwarder是用go编写的。 这种编程语言并非在所有平台上都可用(例如AIX),这就是Java版本更具可移植性的原因。 Logstash在Java上运行并提供伐木工人的输出,但是文件输入并非在所有平台上都运行(例如AIX),logstash需要最新的JVM。 此外,Logstash较重:它是一个大包装,并使用更多的系统资源。 因此,logstash-forwarder-java对于希望为其EL 立即下载

相关推荐

AIX日志详解

介绍AIX文件系统日志详解,针对对象主要是UNIX学习者

ELK 通过 Logtsash 收集 TCP/UDP 日志

帮助文档:https://www.elastic.co/guide/en/logstash/5.6/input-plugins.html 一、修改 logstash 配置文件 root@web1:~# vim /etc/logstash/conf.d/tcplog-to-es.conf input { tcp { host => "10.0.0.37" port => "8899" type => "tcplog" } } output { stdou

LCK 博客 974

科技中介服务机构想要提升服务效率,需要哪些数智工具支持?.docx

科技中介服务机构想要提升服务效率,需要哪些数智工具支持?

Logstash接收udp/tcp数据

背景:在Logstash数据源为日志文件操作基础上进行 一、配置文件 1. D:\usr\local\etc\logstash\pipeline1目录下logstash.conf文件配置 input { stdin { } udp { host => "0.0.0.0" # 从5000端口获取日志 port => 5000 type => "udp" } tcp { ..

zsx18273117003的博客 5584

BMS应用软件开发 — 7 从特斯拉到问界:主流BMS硬件架构深度解析

本文深度解析了从特斯拉Model 3到问界M5的主流BMS硬件架构,探讨了BMS在电动汽车中的核心价值与应用软件开发的关键技术。通过对比分析两家厂商的硬件设计哲学、芯片选型策略及成本控制方法,揭示了BMS硬件系统如何影响电池性能与整车安全。文章特别分享了电压采样精度、EMC设计等实战经验,为BMS开发提供宝贵参考。

weixin_42554408的博客 457

【大模型】MHA,MQA,GQA及KV Cache详解

在自回归模型中(Autoregressive Models),模型会逐个生成文本的每个token,这个过程可能比较慢,因为模型一次只能生成一个token,而且每次新的预测都依赖于之前的上下文。这意味着,要预测第1000个token,你需要用到前999个token的信息,这通常涉及到对这些token的表示进行一系列矩阵乘法运算。而要预测第1001个token,你不仅需要前999个token的信息,还要加上第1000个token的信息。

酒酿小圆子呀~ 2615

logstash 配置

1.原配置 logstash.conf input { tcp { host => "localhost" port => 9601 mode => "server" tags => ["tags"] codec => json_lines } } output { elas...

weixin_35688029的博客 948

瑞数6.5逆向实战:手把手教你用RPC搞定cookie sign加密(附环境补全技巧)

本文深入解析瑞数6.5逆向实战,重点探讨如何结合环境补全与RPC调用技术来应对其动态加密机制。文章详细介绍了环境指纹采集、双重验证等核心防护原理,并提供了基于Puppeteer的RPC实现方案,手把手教你搞定cookie sign加密,附有实用的环境补全技巧与完整代码示例。

weixin_29315091的博客 1273

【Logstash】日志处理-Logstash的使用

日志可以协助我们的调试和开发。在开发中尽量使用日志的方式来调试,是我们推荐的做法。尽量避免使用System.out.println. 因为很多时候我们调试完毕都要进行删除调试代码。留下会给程序增加运行时间。而日志可以很方便的控制级别就可以控制是否输入,而支持存储的形态很多。比如数据库,文件等。所以日志是我们开发中必不可少的一环。如果级别是:debug ,debug和 info以及error都会输出如果级别是:info ,那么只会打印初:info和error。

上官玺的博客 4920

视频监控设备(NVR、IPC等)如何通过国标GB28181接入到视频监控平台,以及接入过程如何测试视频接入是否成功

GB/T28181标准广泛的应用,视频监控设备通过国标GB28181接入视频监控平台的过程变成程序化、标准化的互联过程,确保了视频监控设备能够在不同系统、不同网络环境下实现远程、跨区域、跨级别的访问和控制。版本有GB28181-2011、2016、2022几个常用版本,威迪斯特的视频监控平台完全支持GB28181的这几个版本,能够实现不同品牌视频监控设备的国标视频接入(国标视频监控接入),或者为国标28181视频接入(国标28181视频监控接入),也为国标281818接入(国标GB/T28181接入。

weixin_70208651的博客 1万+

FlashAttention 快速安装指南(避免长时间编译)

FlashAttention 编译太慢?本篇提供无需编译的预编译 wheel 快速安装方案,适配多版本 Python、PyTorch 和 CUDA,极大节省部署时间!

Junseer的博客 9721

rsyslog收集nginx日志配置

rsyslog日志收集配置rsyslog服务器收集各服务器的日志,并汇总,再由logstash处理请查看上一篇文章http://bbotte.blog.51cto.com/6205307/1613571客户端/发送端web服务器#yuminstallrsyslog-y#vim/etc/rsyslog.conf*.*@192.168.10.1:514#...

weixin_33672109的博客 664

ISP算法:自动白平衡(AWB)

1. 为什么要做白平衡? 人类视觉系统具有颜色恒常性特点,一次人类对物体观察不受光源影响。但是Sensor在不同光线下,物体呈现的颜色不同,在晴朗天空下会偏蓝,在烛光下会偏红。如图: 2.什么是自动白平衡? 为了消除光源对于图像传感器成像的影响,模拟人类视觉系统的颜色恒常性。保证在任何场景下看到的白色是真正的白色。 3. 如何做自动白平衡? 只要乘以一个对角矩阵,便可以进行白平衡...

a200800170331的专栏 1万+

Logstash配置详解

https://blog.youkuaiyun.com/hushukang/article/details/84423184 Logstash配置文件位于Logstash安装目录下bin/logstash.conf 启动命令: logstash -f logstash.conf 1. Input Plugin 1.1 从文件输入 从文件读取数据,如常见的日志文件。文件读取通常要解决几个问题: No. 问题 解决办法 1 文件内容如何只被读取一次?即重启Logstash时,从

yygr的博客 2万+

Xilinx FPGA资源解析与使用系列——Transceiver(六)关键时钟梳理之TXOUTCLK和RXOUTCLK

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 Xilinx FPGA资源解析与使用系列——Transceiver(六)transceiver内部关键时钟梳理之TXOUTCLK和RXOUTCLK前言TXOUTCLKRXOUTCLK 前言 前面我们已经研读了 transceiver的参考时钟 和复位的相关内容。 但是随着内容的深入,越来越多的信号出现在我的面前。 例如 TXOUTCLK、TXUSERCLK、TXUSERCLK2 RXOUTCLK、RXUSERCLK、RXUSERCLK2

gzy0506的博客 8089

Redhawk:toggle rate从哪来?

redhwak中toggle rate的相关设置

m0_61544122的博客 8124

AIX下用nmon进行监控和分析实战

AIX下用nmon进行监控和分析实战nmon从这里下载:http://www.ibm.com/developerworks/wikis/display/Wikiptype/nmonanalyser1、准备:  1)用root用户登录到系统中  2)建目录:#mkdir /nmon/script  3)确定版本:#oslevel,以便确定用哪个脚本,我是用530        # oslevel -s            5300-09-01-0847  4)把nmon12e_aix530用ftp上传到/n

无双小宝 2768

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

用nmon监控aix | linux的性能,nmon_analyser分析系统监控数据

1、在IBM官网下载nmon软件http://www.ibm.com/developerworks/wikis/display/WikiPtype/nmon 2、在生产机上解压#cd /home#mkdir monitor#m...

243

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

nmon监控AIX|linux,用nmon_analyser分析系统监控数据的方法

nmon_analyser分析系统监控数据,并有图标显示 1.下载nmon_analyser,地址: http://www-941.haw.ibm.com/colla ... iptype/nmonanalyser 2.这个文件不用上传到aix上,在pc上解压即可。很多人包括我都有此疑惑,解压完了就是一个doc文件NA_UserGuide v33.doc,一个xls文件nmon analys

Welcome to Niki_Cao's Small World 1350

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

AIX日志收集整理脚本

aix服务器数据库进程报警,收集整理日志进行处理。

Ariswei的博客 264

查看电脑重启日志_详解各个系统主机日志及数据库日志收集--AIX、redhat、HP-UX等...

概述今天主要针对主机和数据库日志的一些收集做一下记录总结,下面一起来看看吧~一、主机系统日志收集:创建主机日志收集目录:--Unix/Linux创建存放系统日志的文件夹:# mkdir -p /var/collect/OS1、LinuxLinux系统日志文件: /var/log/messages将最近1000条日志输出到linux1000.log文件中:# tail -1000 /var/log/...

weixin_39946657的博客 1835

AIX里面收取SNAP日志

AIX里面收取SNAP日志 如何在AIX里面收取SNAP日志包步骤如下: 1.使用root用户登录,运行snap -r 然后按y 回车,删除以前收取的snap日志包(如果之前从未收取过可跳过此步骤) 2.运行snap -gc,等待收取完成后snap日志文件会保存到 /tmp/ibmsupt/ 目录下,文件名为"snap.pax.Z" 通常大小约为1MB左右. 3...

weixin_30426065的博客 318

关于LogStash运行在AIX 64位机器上的问题与临时解决方案

关于LogStash运行在AIX 64位机器上的问题与临时解决方案

xuan2717的博客 159

AIX性能日志收集-NMON

IBM 小型机当遇到性能问题时,比如内存瓶颈时,通常使用aix操作系统自带的nmon工具来收集性能收据。工具格式:/usr/bin/nmon -f -t -r nmon -s 120 -c 720 //每2分钟收集一次,一共收集720次,刚好是24小时。 转载于:https://blog.51cto.com/wluchos/1902099...

weixin_34321977的博客 553

ELK之logstash简介与应用

现阶段为了实现高性能、高可靠性及高扩展性,基本上所有的服务都采用的集群模式,多服务器多节点部署。如此,我们在开发过程中肯定都会遇到这样一个问题,在通过日志定位和分析问题的时候,必须每台机每个节点依次去排查,任务繁琐且易遗漏。当前公司所用的日志收集工具为filebeat,出于对ELK系统中L的好奇,对logstash做了初步了解并完成简单的实现,记录下来,便于查阅。 1、简介 Logstash是一个开源数据收集引擎,具有实时管道功能,可以动态地将来自不同数据源的数据统一起来,并将数据标准化到你所选择的目的

xi_nuo的博客 920

ETK-logstash客户端快速部署

前言          本文档旨在指导快速部署Logstash客户端服务。搜集日志并最终在Kibana上可视化展示。          在部署之前,请确认你的项目工程中,log4j的配置是如下这样的: *必须保证输出的格式相同。     LogStashClient安装部分                 Setp 1 解压 解压 把文件 放置于Linux

u010237107的专栏 2701
上一篇: 解决在Windows下elasticsearch启动失败,报${ES_TMPDIR}找不到的问题
下一篇: 解决启动时报ClassNotFoundException: org.apache.http.client.HttpClient异常的问题
穿过午夜
博客等级 码龄19年 16粉丝 33原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值