SRE Google运维解密——第7章 Google的自动化系统的演进

Linux运维自学指南:从基础到精通的系统化学习路径 Linux操作系统作为企业级应用的核心基础设施,其运维管理涉及系统架构、服务部署和自动化等关键技术原理。在云计算和容器化技术普及的背景下,运维工程师需要掌握从基础命令到自动化工具的系统化技能,以保障业务系统的高可用性和性能优化。通过理解Linux内核机制、网络协议和服务架构,运维人员能够构建监控告警体系,实现持续集成和自动化部署,有效支撑数字化转型中的运维需求。本文基于Linux运维和自动化运维等热词,为初学者和进阶者提供从环境搭建到实战项目的完整学习框架,帮助建立解决实际问题的运维思维。 阅读详情

第7章 Google的自动化系统的演进

==================================================================

自动化 与GoogleSRE 联系


自动化价值

  1. 一致性

可以准确执行重复可能出错的命令或者行为

  1. 平台性

可以搭建一个可扩展的平台,解放运维

  1. 修复速度更快

对于出错的处理更好的指定修复

  1. 行动速度更快

自动操作人来操作重复无意义的事情

  1. 节省时间

操作与人解耦


自动化对Google SRE 的价值

  1. 每一个组件自动化不合适
  2. 基本系统由快速原型开始
  3. 谷歌一般不会购买特定任务的软件,会选择自己去实现,因为自己所实现的接口有长期价值

自动化使用案例

  • 创建用户账户
  • 某个服务在某个集群中的上线与下线过程
  • 软件或者硬件安装的准备和退役过程
  • 新软件版本的发布
  • 运行时配置的更改
  • 一种特殊情况下的运行时配置更改:依赖关系的更改
    …

Google自动化使用案例

从抽象层次的角度上来描述Google SRE 自动化使用

  1. 不会特别详细对高层实体建模的通用部署工具

生产环境复杂,容易被采用
类比于Perl 提供的POSIX 级别的接口

  1. 在非常抽象层次上描述服务部署语言

更加通用,更符合通用平台
类比于Chef ,Puppet

==================================================================

Google 的自动化与实例


自动化演进遵循的路径

  1. 没有自动化

如手动将数据库著进行在多个位置之间转移

  1. 外部维护的特定系统的自动化系统

如在某一主目录中保存一份通用故障转移脚本

  1. 外部维护的通用自动化系统

如将数据库支持添加到每个人都在使用的通用故障转移脚本

  1. 内部维护的系统特定的自动化

如数据库自己发布故障转移脚本

  1. 不需要任何的自动化系统

数据库注意到问题发生,在无需人工干预的情况下进行故障转移

手动操作不可避免
相对于特定系统相关配置上变更的自动化,另外一种自动化是面向整个生产领域的变更


自动化数据库操作

让自己脱离工作,自动化所有东西 。形成一个良性的循环

  1. 将标准副本替换流程的常规工作最糟糕的部分自动化掉,但没有全部自动化
  2. 将mysql 迁移到Google集群调度系统Brog 之下,部署了一个原型实例,但需要手动故障转移,满足不了需求
  3. 完成自动故障切换后台程序,“决策者”。快速进行数据库故障转移流程。
  4. 在应用程序中增加许多错误处理逻辑

将自动化应用到集群上线中

  1. 使用Prodtest检测不一致情况
    增加检测用例,线性并行测试
  2. 幂等的解决不一致情况

单元测试指出哪个测试失败,在失败的地方增加修复程序解决问题

对问题进行幂等修复
在测试,修复,再测试之间的延迟引入了不稳定测试,时好时坏。并不是所有的修复程序都具有等幂性,一个不稳定的测试可能造成系统处于不一致的状态
3. 专业化倾向
自动化程序的不同体现在三个方面
1 能力
2 延迟
3 相关性

变化导致自动化难以维护

安全认证一定程度上摆脱了自动程序三个方面的不佳

Admin 服务器 , 支持认证,ACL驱动,以及基于RPC本地管理进行。拥有本地执行更改权限,所有人必须经过审计跟踪来安装或者修改服务器其。对Admin服务器和Package 仓库的修改通过代码评审来把关。Admin 服务器会记录RPC 请求者,全部参数,以及所有RPC的结果,以提高调试和安全审计功能。

  1. 服务为导向的的集群上线流程
    找到一种以服务为导向的架构(SOA)来解决集群上线问题的方法:服务拥有者将负责创建一个Admin服务器,处理系统在集群就绪后发出的上线/下线RPC。反过来,每个团队按照合同提供自动上线所需要的自动化,然而可以随意改变底层实现细节。随着一个集群进入“网络就绪”,自动化系统将给每个负责上线的Admin的服务器发送RPC。

Borg: 仓库规模计算机的诞生

  1. 把集群管理变成可以发送API 的中央协调主题
  2. 最终使得连续性,自动化的操作系统升级只需要很少的持续工作,这种工作不会根据生产部署的总规模而增加
  3. 可靠性是最基本的功能

为了有效进行故障测试,自我检查中所依赖的内部运作细节也应该暴露给管理整体系统的操作员

AIOPS工程师能力地图:从数据感知到代理执行的实战进阶指南 AIOPS(智能运维)是将人工智能技术深度融入IT运维体系的核心实践,其本质在于构建可观测、可决策、可执行、可治理的闭环系统。理解AIOPS需从时序异常检测、多源日志语义分析、分布式链路根因定位等基础原理出发,其技术价值在于显著缩短MTTR、降低人工排查成本、提升故障自愈率。典型应用场景覆盖金融云平台智能告警降噪、电商大促期间自动故障修复、边缘IoT设备轻量级预测性维护等高要求产线环境。本文聚焦AIOPS工程师真实能力图谱,深入剖析数据管道构建、LLM根因归因、Agentic执行沙箱等关键热词所代表的工程落 阅读详情

相关推荐

AI Agent Runtime 架构演进:从上下文状态管理到沙箱化执行

AI Agent Runtime 是支撑大模型智能体稳定、安全、可运维运行的底层基础设施,其核心在于解耦状态管理、执行调度与环境隔离。传统方案将对话历史和工具结果硬塞入模型上下文,导致截断失真、调试困难与凭证泄露风险;现代架构则转向事件溯源式 session 存储、无状态 harness 调度器与硬件级 sandbox 隔离,实现可审计、可回放、合规就绪的生产级运行时。这一范式迁移正推动 AI 工程从 prompt 工程迈向系统工程,成为金融、医疗等高监管行业落地 Agent 的关键前提。Anthropic

dglf54292的博客 435

5大高效策略:智能代码库知识构建工具的深度实践指南

Tutorial-Codebase-Knowledge 是一个基于 Pocket Flow 框架的智能代码库知识构建工具,能够帮助开发者快速将复杂代码库转换为易于理解的教程文档。这款工具的核心功能是通过AI智能分析代码结构,自动生成清晰的技术文档,大幅降低开发者的学习成本。在当今快速发展的技术环境中,面对日益复杂的大型代码库,如何高效构建知识体系成为开发团队面临的重要挑战。 ## 🎯 为什么需

gitblog_00622的博客 776

S3迁移DigitalOcean Spaces:rclone平滑演进实战指南

对象存储迁移本质是协议兼容性与权限语义的系统工程。S3与DigitalOcean Spaces虽共享REST API表层结构,但在IAM策略模型、元数据处理、签名算法(v2/v4)、加密头支持等底层机制存在显著差异。rclone作为跨云迁移中枢,其价值不仅在于高效同步,更在于协议翻译能力——如元数据键名小写归一化、SSE-KMS到AES256的映射、v4签名时间敏感性适配等。技术价值体现在成本优化(无请求计费)、架构解耦(API兼容降低改造成本)与运维可控(灰度切换+七层校验)。典型场景包括云成本治理、多云

weixin_33922672的博客 612

SRE_Google运维解密_笔记

1.70%的事故由变更引起 2.谷歌的SRE倾向于DEVOPS,兼顾效率(快速上线更新)与质量(降低事故率) 3.SRE大致发展历程:手动(凭经验容易误操作)→自动→智能 4.缓慢的不断重启的实例优于永不重启泄露资源的实例 5.SLA(service level agreement):请求延迟;错误率;系统吞吐量(QPS);可用性;持久性 SLO(object):SLI的目标范围 SLI(indicator):从目标反推指标 6.多创新,少做琐事(DRY),但合理的琐事有助于放松 7.监控系

m0_70751647的博客 1449

STM32+W5500实战:5分钟搞定FreeModbus TCP移植(附完整代码)

本文详细介绍了如何在STM32微控制器上,结合W5500以太网芯片,快速完成FreeModbus TCP协议栈的移植,构建稳定可靠的工业级Modbus TCP服务器。内容涵盖硬件连接、软件架构、驱动适配、核心移植代码实现及调试优化技巧,旨在提供可直接应用于实际项目的完整解决方案。

life6的博客 879

机器学习参数寻优:方法、实例与分析

机器学习模型的性能很大程度上依赖于其参数的选择。参数寻优(Hyperparameter Tuning)是提升模型表现的关键步骤之一。本文将详细介绍主流的参数寻优方法,包括网格搜索(Grid Search)、随机搜索(Random Search)、贝叶斯优化(Bayesian Optimization)、和超参数优化库(如Optuna和Hyperopt)等,并探讨它们的优缺点及适用场景。

甜盐的博客 2843

读书笔记(SRE:Google运维解密):第7章 Google 的自动化系统的演进

自动化是一种力量倍增器,但不是万能药。当然,对力量的倍增并不能改变力量用在哪的准确性:草率地进行自动化可能在解决问题的同时产生出其他问题。   自动化的价值究竟是什么? (a)一致性:一致性地执行范围明确、步骤已知的程序—是自动化的首要价值。 (b)平台性:一个平台可以暴露自身的性能指标,也可以帮助你发现流程中以前所不知道的细节,这些细节在平台范围内更容易衡量。 (c)修复速度更快:在产品生命周期中一个问题越晚被发现,修复代价越高; (d)行动速度更快: (e)节省时间:节省时间是一个经常被引用.

lo_ong的博客 365

用友U8 API 二次开发:WebService封装7个核心DLL引用与U8Login登录避坑

本文详细介绍了用友U8 API二次开发中的WebService封装与U8Login登录优化实践。通过7个核心DLL的正确引用、U8Login登录机制的深度解析及IIS环境下的特殊处理方案,为开发者提供了一套高可用性的通用解决方案,助力企业实现ERP系统的高效集成与数字化转型。

weixin_42524171的博客 505

SRE:Google运维解密(心得)2 自动化的利弊

SRE:Google运维解密(心得)2 自动化的利弊自己的理解自动化的价值1.一致性2.平台性3.修复速度更快4.行动速度更快5.节省时间弊端不一致带来的问题高度自动化后,出现问题无法手动解决 自己的理解 刚开始接触运维的时候,就了解到运维发展的一条线。 脚本化–>工具化–>自动化–>智能化 自动化的利自然不用多提,自动化也是必然要走的路。之所以拿出来讨论一下,是因为看完本书后对...

python_bobo的博客 969

深入理解搜索引擎——搜索评价指标

    搜索引擎,在做好query理解、索引召回以及排序模型之后,就能直接推上线了吗?答案是否定的,还需对其性能和质量进行评测。性能无非是对时间和空间的运行效率作评测,不细讲,今天讲讲搜索引擎的质量评测。通过质量评测,可根据评测结果不断的进行改进和研究,也可以验证搜索引擎在真实环境中运行时的实际效果。因此,搜索引擎的质量评测对于整个系统的研制和发展是至关重要的。     那么有哪些指标可以评估搜索引擎的结果质量呢?最广为人知的

我是药老的博客 4485

基于matlab实现的水果识别系统设计

本项目针对多种常见水果混合的图像,利用 Matlab 软件,对水果的识别进行研究。根据水果和背景的差别选取阈值,对去噪增强对比度后的图像进行二值化处理。再对图像进行边缘检测,选定连通区域,标记后再对不同种水果的颜色,形状,大小等特征进行快速识别水果,从而实现对水果的正确分拣。:水果识别、MATLAB、数字图像处理。

热情、奔放、快乐编程! 4862

SRE Google 运维解密 具体实践一

一、基于时间序列数据进行有效报警 Borgmon是google使用的时间序列监控系统,在开源软件中Prometheus是非常类似的一款工具。这个软件将收集时间序列信息作为监控系统的首要任务,同时发展了一种丰富的时间序列信息操作语言,通过使用该语言将数据转化为图表和报警。 因为总是会有大批量的服务器在上线、下线,建立和维护一个有效的服务注册、发现系统是很有必要的。上线的主机需要能主动让B

watermelonbig的专栏 7363

C# 固高板卡(总线型) 操作类

主要功能有:初始化,轴使能,正负方向手动移动,回0,点到点移动,等待移动完成,输入IO数据读取,输出IO控制,清除报警等功能。

StevenChen的博客 572

《SRE Google 运维解密》笔记

文章目录1. 主旨2. 概览2.1 提出 SRE 的动力?2.2 SRE 聚焦问题点2.3 庖丁解牛2.3.1 你看到了什么?2.3.2 如何管理你看到的?2.3.3 能否站在全局视角上看问题?3. 指导思想3.1 学会拥抱风险3.1.1 如何度量服务的风险?3.1.2 判断服务风险的容忍度?3.1.2 设计合适的「错误预算」3.2 服务质量目标3.2.1 指标在实践中的应用3.2.2 目标在实...

phantom_111的博客 2523

启动launch文件时显示找不到franka_ign_ros2_control-system...如何解决?

🏆本文收录于 《全栈 Bug 调优(实战版)》 专栏。专栏聚焦真实项目中的各类疑难 Bug,从成因剖析 → 排查路径 → 解决方案 → 预防优化全链路拆解,形成一套可复用、可沉淀的实战知识体系。无论你是初入职场的开发者,还是负责复杂项目的资深工程师,都可以在这里构建一套属于自己的「问题诊断与性能调优」方法论,助你稳步进阶、放大技术价值 。

**My Coding Family** 695

OpenClaw实战一|企业微信AI客服数字员工:自动应答+工单创建+数据统计,零代码3天落地

OpenClaw做企业微信AI客服数字员工,真正的价值不是“能自动回复”,而是把“咨询-应答-工单-统计-复盘”全流程闭环。对中小企业来说,不用招专职AI开发、不用买昂贵客服系统,一台服务器、零代码配置,就能拥有媲美大厂的智能客服能力。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 518

《SRE:Google 运维解密》读书笔记35: 结论 - 从Google的实践到行业的启示

SRE不是一套工具,而是一场文化变革——它通过拥抱风险、消除琐事、从失败中学习、数据驱动决策,将软件工程思维注入运维,让可靠性成为可量化的、可持续的核心竞争力。关键点一句话概括SRE的本质用软件工程方法解决运维问题,是文化变革而非工具集五大核心理念拥抱风险、消除琐事、简单化、从失败中学习、数据驱动决策50%规则SRE必须将至少一半时间投入开发工作,防止退化为纯运维错误预算用“1-SLO”定义可接受的故障额度,平衡创新与稳定无指责文化事故后分析系统缺陷而非追究个人,是坦诚复盘的基础。

2361

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

《SRE:Google 运维解密》读书笔记06: 少琐事 - SRE的隐形敌人

琐事就是运维服务中手动性的、重复性的、可以被自动化的、战术性的、没有持久价值的工作,而且,琐事与服务呈线性关系的增长。一个经典案例:运维人员收到"磁盘目录满"告警后,手动登录服务器清理日志文件。这件事手动、重复(下次磁盘还会满)、可以被自动化、没有持久价值(清理完服务状态没有任何改进),且随着服务器数量增长,这类工作的频次会线性增加。另一个琐事密集场景:周期性报表和周期性巡检。这类工作虽然看似"有必要",但如果每次都需要人工执行,就完全符合琐事的定义——重复、可自动化、缺乏持久价值。

1578

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

《SRE:Google 运维解密》读书笔记08: Google 的自动化系统的演进 - 当“琐事”遇上“自动化”

本文摘要:Google SRE方法论强调自动化是减少琐事的核心解决方案,但其本质是"元软件"而非万能药。自动化演进路径分为五个阶段:从手工操作到系统自治,最终目标是实现无需人工干预的自治系统。自动化具有五大价值:一致性、平台性、快速修复、加速行动和节省时间。衡量自动化质量的三个维度是能力、延迟和相关性。实践中需警惕"专业化倾向",即自动化代码需要持续维护。安全方面,Google从SSH迁移到Admin服务器,实现了最小权限和完整审计。自动化是SRE的力量倍增器,需要在

1564

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

Google SRE 读书笔记 扒一扒SRE用的那些工具

写在前面 最近花了一点时间阅读了《SRE Goolge运维解密》这本书,对于书的内容大家可以看看豆瓣上的介绍。总体而言,这本书是首次比较系统的披露Google内部SRE运作的一些指导思想、实践以及相关的问题,对于我们运维乃至开发人员都有一定的借鉴意义。 书中的一些思想也令我印象深刻,例如SRE工程师要保证投入50%的时间在项目上、错误预算、命运之轮、事故总结等等,对于从业者有很大的启发。...

aifeier1982的博客 1267

《SRE:Google运维解密》读书笔记

第7章 Google的自动化系统的演进 自动化的价值:一致性、平台性、修复速度更快、行动速度更快、节省时间 综合思想是,纯人工操作在较小型的环境中或许可行,但人工操作难免会存在失误,以及“琐事”现象。尤其是在大型的分布式系统中,从成本和失误率考虑,纯人工操作是不可进行的,必须使用一定的自动化技术。 自动化是“元软件”,即操作其他软件的软件。对应上文的“50%法则”,必须至少有50%的开发时间。 自动化工具Puppet、Chef、cfengine,另外Perl提供了POSIX级别的接口方便与系统交互。 集群故

DPCFish的博客 1706

Google SRE读后感

Google SRE读后感 《SRE Google运维解密》一书由Google SRE团队各成员所写的短文组成,书中记载了SRE团队在支持Google业务规模不断扩大的过程中所总结的经验以及实际案例。即使在IT行业发生翻天覆地变化的今天,此书仍然弥足珍贵,它详细记录了Google迈过分水岭时期的全过程。很显然,这些经历没有办法完全复制,也许只能被模仿,但是却可以启发读者,指引未来。 本书分为以...

xianyuLuo的博客 787

《SRE:Google 运维解密》读书笔记36: 学后总结与全书回顾 - 从理念到实践

第11-15章建立了完整的应急响应体系:主副值班制、25%运维时间红线、假设-演绎法排查流程、事故指挥系统、以及最核心的无指责事后总结文化。事后总结不是“追责文书”,而是“学习档案”——假定参与事故的每个人都出于善意,基于当时掌握的信息做出了最佳判断。《Google SRE 工作手册》:本书的官方姊妹篇,提供更深入的实践指南《混沌工程》(Casey Rosenthal):DiRT和混沌工程的权威指南:Google SRE团队的另一力作,聚焦安全与可靠性的交集。

2668

SRE用的那些工具

写在前面 最近花了一点时间阅读了《SRE Goolge运维解密》这本书,对于书的内容大家可以看看豆瓣上的介绍。总体而言,这本书是首次比较系统的披露Google内部SRE运作的一些指导思想、实践以及相关的问题,对于我们运维乃至开发人员都有一定的借鉴意义。 书中的一些思想也令我印象深刻,例如SRE工程师要保证投入50%的时间在项目上、错误预算、命运之轮、事故总结等等,对于从业者有很大的启发。书中提...

niuniu0186的专栏 1585

阿里毕玄:推荐给Java程序员的7本好书

我主要还是个Java程序员,所以进阶类型的书就推荐Java相关的。 《Java并发编程实战》 并发是高级语言里都需要掌握的稍微高级一些的技巧,这本书尽管是2012年的书了,但我觉得仍然是无比经典,绝对是必读书。 《Netty实战》 Netty是Java中通信框架实现的典范,非常值得通过这个来学习好语言中IO相关的知识,以及优秀的通信框架的写法。 《深入理解Java虚拟机(第2版)》 这...

阿里云云栖号 6164
上一篇: 在服务器上配置数据库
下一篇: SRE Google运维解密——第8章 发布工程
陌逸_逺
博客等级 码龄9年 13粉丝 49原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值