背景介绍
日志,对于任何系统来主都是及其重要的组成部分,在计算机系统里,更是如此,但由于现在的计算机系统比较复杂,很多系统都不是在同一个地方,甚至是跨国界的;即使是在一个地方的系统,也有不同的来源,比如,操作系统,应用服务,业务逻辑等。他们都在不停产生各种各样的日志数据。根据不完全统计,全球每天大约要产生2EB的数据。
K8S 系统里的业务应用是高度“动态化”的,随着容器编排的进行,业务容器在不断的被创建、迁移、扩容等,想要统一管理这些日志,不能使用常规手段完成。
面对如此海量的数据,又是分布在各个不同的地方,如果我们需要查询一些重要的信息,如果使用传统的手段,登陆每台服务器查询日志,这种效率太慢,于是,业界有一套集中管理的方法,将这些不同来源的日志集中整合在同一个地方,方便查询或者业务分析等。
我们需要一套日志收集、分析系统:
- 收集: 能够采集多种来源的日志数据(流式日志收集器)
- 传输: 能够稳定的把日志传送到中央系统(如消息队列、Redis等)
- 存储: 可以将日志以结束化数据的方式存储起来(搜索引擎)
- 分析: 支持方便的分析、检索、GUI 图形展示
- 警告: 能够提供错误报告、监控机制(监控工具) </