mysql日常运维与参数调优,零基础入门到精通,收藏这篇就够了

日常运维


DBA运维工作

日常

  • 导数据,数据修改,表结构变更
  • 加权限,问题处理

其它

  • 数据库选型部署,设计,监控,备份,优化等

日常运维工作:

  • 导数据及注意事项
  • 数据修改及注意事项
  • 表结构变更及注意事项
  • 加权限及注意事项
  • 问题处理,如数据库响应慢

导数据及注意事项

  1. 数据最终形式(csv,sql文本,还是直接导入某库中)
  2. 导数据方法(mysqldump,select into outfile,)
  3. 注意事项
    1. 导出为csv格式需要file权限,并且只能数据库本地导
    2. 避免锁库锁表(mysqldump使用**–single-transaction**选项不锁表)
    3. 避免对业务造成影响,尽量在镜像库做

数据修改及注意事项

  1. 修改前切记做好备份
  2. 开事务做,修改过完检查好了再提交
  3. 避免一次修改大量数据,可以分批修改
  4. 避免业务高峰期做

表结构变更注意事项

  1. 在低峰期做
  2. 表结构变更是否会有锁?(5.6包含online ddl 功能)
  3. 使用pt-online-schema-change完成,表结构变更
    1. 可以避免主从延时
    2. 可以避免负载过高,可以限速

percona维护了mysql dba 必看的博客

加权限及注意事项

  1. 只给符合需求的最低权限
  2. 避免授权时修改密码
  3. 避免给应用账号super权限

问题处理(数据库慢?)

  1. 数据库慢在哪里?
    1. 是查询慢还是写入慢
    2. 是秒级别慢,还是毫秒级别慢
  2. show processlist 查看mysql连接信息
  3. 查看系统状态(iostat,top,vmstat)

小结

  1. 日常工作比较简单,但是任何一个操作都可能影响线上服务
  2. 结合不同环境,不同要求选择最合适的方法处理
  3. 日常工作应该求稳不求快,保障线上稳定是DBA的最大责任

不求最快,但求最稳;

例子


1.修改t1表中id<5的数据

1)备份
select * from t1 where id<5 into outfile '/tmp/t1id5.txt';
2)执行修改
begin;
update t1 set b=100,c=100 where id<5;
select * from t1 where id<5;
rollback;/commit;

2.表结构变更

1)5.5版本:
alter table t55 add c1 int;
delete from t55 where id<100;(卡住一会后才执行)
2)5.6版本:
use db1;
alter table t55 add c1 int;
delete from t55 where id<100;(执行顺畅)
alter table t1 modify c1 varchar(90);
delete from t55 where id<100;(卡住一会后才执行)
3)pt-online-schema-change工具
./pt-online-schema-change --user=root --password=123456 --host=localhost --socket=/mysqldata/node4/mysqld.sock D=db55,t=t55 --alter "add c2 int" --print --dry-run

3.加权限

grant select,insert,delete on *.* to netease@'localhost' identified by '163';
#mysql -unetease -p163 --socet=/mysqldata/node3/mysqld.sock --port=4001(登陆成功)
grant select,insert,delete on *.* to netease@'localhost' identified by '123';
#mysql -unetease -p163 --socet=/mysqldata/node3/mysqld.sock --port=4001(登陆失败)

4.导数据

use db1;
select count(*) from t1;(先看一下数据量)
1)mysqldump导出
#mysqldump -uroot -p123456 --single-transaction --socket=/mysqldata/node3/mysqld.sock db1 t1 > /tmp/t1.sql
grant select on *.* to netease@'localhost' identified by '163';
#mysqldump -unetease -p163 --socket=/mysqldata/node3/mysqld.sock db1 t1 > /tmp/t2.sql(报错,没有锁表权限)
#mysqldump -unetease -p163 --single-transaction --socket=/mysqldata/node3/mysqld.sock db1 t1 > /tmp/t2.sql(成功)
#mysqldump -uroot -p123456 --single-transaction --socket=/mysqldata/node3/mysqld.sock db1 t1 -T /tmp
use db1;
2)以file权限into outfile导出数据
select * from t1 into outfile '/tmp/t1_2.txt';
select t1.c,t3,b from t1.id=t3.id into outfile '/tmp/t13.txt';

5.数据库慢问题

…/tcpstat --port 4001 -t 1 -n 0(tcpstat,查看每一个tcp连接的响应时间,percona公司出品)

参数调优

为什么要调整参数

  • 不同服务器之间的配置,性能不一样
  • 不同业务场景对数据的需求不一样
  • mysql的默认参数只是个参考值,并不适合所有的应用场景

优化之前我们需要知道什么

  • 服务器相关的配置
  • 业务相关的情况
  • mysql相关的配置

服务器相关的配置

  • 硬件情况
  • 操作系统版本
  • CPU,网卡节电模式
  • 服务器numa设置—内存分片,cpu对应内存;
  • RAID卡缓存

磁盘调度策略–write back

  • 数据写入cache即返回,数据异步的从cache刷入存储介质

磁盘调度策略–write through

  • 数据同时写入cache和存储介质才返回写入成功

write back 性能高于 write through

而write through 的安全性更高。

RAID


RAID --廉价的存储阵列

RAID0

  • 简单就是将多块盘当做一块盘来使用;容量是多盘的和,性能也是多盘之和;
  • 问题,就是当其中一块盘损坏后,无法保证其数据的安全性;

RAID1

  • 指两块盘做相互的镜像–达到高可用
  • 问题,只能使用两块盘来做,存储空间 有限制

RAID5

  • 至少使用三块盘,总存储空间只有两块;因为它需要存储校验数据块
  • 高可用的实现,是通过校验数据块,来恢复数据;
  • 局限,只能坏一块盘,才能通过另外两块盘的 存储校验数据块,进行数据恢复,如果坏了两块盘则不能进行数据恢复

RAID10

  • 先对两块盘做RAID1,再做RAID0
  • RAID1保证数据安全性,RAID0保证数据扩展性;
  • 局限,做RAID1的两块盘同时坏了,则也不能保证数据安全性;

RAID如何保证数据安全

  • BBU(Backup Battery Unit)
    • 保证在电池有电的情况下,即使服务器发生掉电或者宕机,也能够将缓存中的数据写入到磁盘,从而保证数据的安全

注意事项


mysql有哪些注意事项

  • mysql的部署安装
  • mysql的监控
  • mysql参数调优

部署mysql的要求

  • 推荐的mysql版本:>=mysql5.5
  • 推荐的mysql存储引擎:innodb

系统调优的依据:监控

  • 实时监控mysql的SLOW log
  • 实时监控数据服务器的负载情况
  • 实时监控mysql内部状态值

网易内部监控的参数:

  • binlog文件大小(MB)
  • BufferPool命中率(%)
  • cpu利用率(%)
  • 磁盘读操作延时(ms/op)
  • 磁盘读取字节数(KB/s)
  • 磁盘读取次数(次/秒)
  • 占用磁盘存储空间(MB)
  • 磁盘写入操作延时(ms/op)
  • 磁盘写入字节数(KB/S)
  • 磁盘写入次数(次/秒)
  • 磁盘IO利用率(%)
  • 占用内存量(%)
  • 内存使用率(%)
  • 一般事务提交操作(次/秒)
  • 删除操作(次/秒)
  • 插入操作(次/秒)
  • 查询操作(次/秒)
  • 更新操作(次/秒)
  • 二阶段事务提交操作(次/秒)

通常关注哪些mysql status

  • com_select/update/delete/insert
    • 看数据库的请求是否变多
  • Bytes_received/Bytes_sent
    • 看 mysql总的吞吐量
  • Buffer Pool Hit Rate
    • innodb内存的命中率决定了性能
  • Threads_connected/Threads_created/Threads_running
    • 前两个多的话, 可以判断 应用是否使用连接池,或者连接池使用是否合理
      
    • 活跃连接很多,说明数据库很忙,可能是被人恶意攻击;
      

为什么要调整mysql的参数:

  • 需要根据业务区动态调整这个通用的mysql数据库,使其变成专用数据库
  • 有些参数,很可能是老版本做的,可能是为了限流和保护用的,但是随着机器的性能提高这些参数,显然是不合适的。

读优化


  • 合理利用索引对mysql查询性能至关重用
  • 适当的调整mysql参数也能提升查询性能

innodb_buffer_pool_size:

缓存池大小,innodb自己维护一块内存区域完成新老数据的替换

innodb_thread_concurrency:

innodb内部并发控制参数,设置为0代表不做控制

如果并发请求较多,餐宿设置较小,后进来的请求将会排队

写优化


  • 表结构设计上使用自增字段作为表的主键
  • 只对合适的字段加索引,索引太多影响写入性能
  • 监控服务器磁盘IO情况,如果写延迟较大则需要扩容
  • 选择正确的mysql版本,合理设置参数

哪些参数有助于提高写入性能

  • innodb_flush_log_at_trx_commit&&sync_binlog
    • 控制redo log 刷新
    • 控制二进制日志的刷新
  • innodb log file size
  • innodb_io_capacity
  • innodb insert buffer

innodb_flush_log_at_trx_commit:0,1,2

n = 0(高效,但不安全–无论服务器宕机或者mysql宕机都会丢数据)

每隔一秒,把事务日志缓存区的数据写到日志文件中,以及把日志文件的数据刷新到磁盘上

n = 1 (低效,非常安全–都不会丢数据)

每个事务提交时候,把事务日志从缓存区写到日志文件中,并且,刷新日志文件的数据到磁盘上,优化使用此模式保证数据安全性

n = 2(高效,但不安全–服务器宕机会丢数据)

每个事务提交的时候,把事务日志数据从缓存区写到日志文件中,每隔一秒,刷新一次日志文件,但不一定刷新到磁盘上,而是取决于操作系统的调度;

sync_binlog

  • 控制每次写入binlog,是否都需要进行一次持久化

如何保证事务安全

  • innodb_flush_log_at_trx_commit&&sync_binlog 都设为1
  • 事务要和binlog保证一致性—才不会导致主从不一致

事务提交过程

串行有哪些问题

  • SAS盘每秒只能有150–200个Fsync
  • 换算到数据每秒只能执行50–60个事务

社区和官方的改进

redo log 的作用

在数据库 崩溃后的数据恢复;

redo log的问题

  • 如果写入频繁导致redo log里对应的最老的数据脏页还没有刷新到磁盘,此时数据库将卡住,强制刷新脏页到磁盘
  • mysql默认配置文件才10M,非常容易写满,生成环境中应该提高redo log 的大小

innodb_io_capacity

  • innodb每次刷多少个脏页,决定innodb存储引擎的吞吐能力。
  • 在SSD等高性能存储介质下,应该提高该参数以提高数据库的性能。

insert buffer

  • 顺序读写 VS 随机读写
  • 随机请求性能远小于顺序请求

将尽可能多的随机请求合并为顺序请求才是提高数据库性能的关键

insert buffer 对二级索引,的增删改,的操作缓存到 insert buffer中,然后将这些随机请求合并成顺序请求;

小结:

  • 服务器配置要合理(内核版本,磁盘调度策略,RAID卡缓存)
  • 完善的监控系统,提前发现问题
  • 数据库版本要跟上,不要太新,也不要太老
  • 数据性能优化:
    • 查询优化:索引优化为主,参数优化为辅
    • 写入优化:业务优化为主,参数优化为辅

总结


  • 日常运维工作:
    • 导数据,
      • mysqldump,select into outfile,
      • 避免锁库锁表,mysqldump --single-transaction;
    • 数据修改
      • 做好备份,
      • 开事务做,
      • 分批修改,
      • 避免高峰期
    • 表结构变更
      • 低峰做
      • 5.6后包含online ddl,
      • 使用pt-online-schema-change:避免主从延迟,限速;
    • 加权限
      • 最低权限,
      • 避免授权时修改密码
    • 不求最快,但求最稳;
  • 参数调优
    • RAID0,RAID1,RAID5,RADI10,
    • RAID如何保证数据安全:
      • BBU,服务器掉电,使用电池电量将缓存内容刷新到磁盘
    • 有助于提高写性能的参数:
      • innodb_flush_log_at_trx_commit 控制redo log 刷新
      • sync_binlog :控制二进制日志的刷新
      • innodb log file size:  重做日志循环写,如果太小,当新的写入来的时候,原日志文件写完且还没有持久化到磁盘,这时候就要阻塞写入;所以,增大事务日志大小,可能提升写性能;
      • innodb insert buffer:
        • 插入缓冲,将随机读写,通过这个缓冲,合并成可能的顺序读写,以提高写性能。
        • 只对二级且非唯一索引生效;
      • innodb_io_capacity:
        • innodb每次刷新多少个脏页,决定innodb存储引擎的吞吐能力
        • 在SSD,下应该提高该参数以提高数据库性能;
    • 读优化:
      • innodb_buffer_pool_size:缓存池大小
      • innodb_buffer_pool_size:并发控制;

本文出处:https://www.cnblogs.com/Aiapple/p/5698157.html
这两年,IT行业面临经济周期波动与AI产业结构调整的双重压力,确实有很多运维与网络工程师因企业缩编或技术迭代而暂时失业。

很多人都在提运维网工失业后就只能去跑滴滴送外卖了,但我想分享的是,对于运维人员来说,即便失业以后仍然有很多副业可以尝试。

运维副业方向

运维,千万不要再错过这些副业机会!

第一个是知识付费类副业:输出经验打造个人IP

在线教育平台讲师

操作路径:在慕课网、极客时间等平台开设《CCNA实战》《Linux运维从入门到精通》等课程,或与培训机构合作录制专题课。
收益模式:课程销售分成、企业内训。

技术博客与公众号运营

操作路径:撰写网络协议解析、故障排查案例、设备评测等深度文章,通过公众号广告、付费专栏及企业合作变现。
收益关键:每周更新2-3篇原创,结合SEO优化与社群运营。

第二个是技术类副业:深耕专业领域变现

企业网络设备配置与优化服务

操作路径:为中小型企业提供路由器、交换机、防火墙等设备的配置调试、性能优化及故障排查服务。可通过本地IT服务公司合作或自建线上接单平台获客。
收益模式:按项目收费或签订年度维护合同。

远程IT基础设施代维

操作路径:通过承接服务器监控、日志分析、备份恢复等远程代维任务。适合熟悉Zabbix、ELK等技术栈的工程师。
收益模式:按工时计费或包月服务。

网络安全顾问与渗透测试

操作路径:利用OWASP Top 10漏洞分析、Nmap/BurpSuite等工具,为企业提供漏洞扫描、渗透测试及安全加固方案。需考取CISP等认证提升资质。
收益模式:单次渗透测试报告收费;长期安全顾问年费。

比如不久前跟我一起聊天的一个粉丝,他自己之前是大四实习的时候做的运维,发现运维7*24小时待命受不了,就准备转网安,学了差不多2个月,然后开始挖漏洞,光是补天的漏洞奖励也有个四五千,他说自己每个月的房租和饭钱就够了。

为什么我会推荐你网安是运维人员的绝佳副业&转型方向?

1.你的经验是巨大优势: 你比任何人都懂系统、网络和架构。漏洞挖掘、内网渗透、应急响应,这些核心安全能力本质上是“攻击视角下的运维”。你的运维背景不是从零开始,而是降维打击。

2.越老越吃香,规避年龄危机: 安全行业极度依赖经验。你的排查思路、风险意识和对复杂系统的理解能力,会随着项目积累而愈发珍贵,真正做到“姜还是老的辣”。

3.职业选择极其灵活: 你可以加入企业成为安全专家,可以兼职“挖洞“获取丰厚奖金,甚至可以成为自由顾问。这种多样性为你提供了前所未有的抗风险能力。

4.市场需求爆发,前景广阔: 在国家级政策的推动下,从一线城市到二三线地区,安全人才缺口正在急剧扩大。现在布局,正是抢占未来先机的黄金时刻。

运维转行学习路线

在这里插入图片描述

(一)第一阶段:网络安全筑基

1. 阶段目标

你已经有运维经验了,所以操作系统、网络协议这些你不是零基础。但要学安全,得重新过一遍——只不过这次我们是带着“安全视角”去学。

2. 学习内容

**操作系统强化:**你需要重点学习 Windows、Linux 操作系统安全配置,对比运维工作中常规配置与安全配置的差异,深化系统安全认知(比如说日志审计配置,为应急响应日志分析打基础)。

**网络协议深化:**结合过往网络协议应用经验,聚焦 TCP/IP 协议簇中的安全漏洞及防护机制,如 ARP 欺骗、TCP 三次握手漏洞等(为 SRC 漏扫中协议层漏洞识别铺垫)。

**Web 与数据库基础:**补充 Web 架构、HTTP 协议及 MySQL、SQL Server 等数据库安全相关知识,了解 Web 应用与数据库在网安中的作用。

**编程语言入门:**学习 Python 基础语法,掌握简单脚本编写,为后续 SRC 漏扫自动化脚本开发及应急响应工具使用打基础。

**工具实战:**集中训练抓包工具(Wireshark)、渗透测试工具(Nmap)、漏洞扫描工具(Nessus 基础版)的使用,结合模拟场景练习工具应用(掌握基础扫描逻辑,为 SRC 漏扫工具进阶做准备)。

(二)第二阶段:漏洞挖掘与 SRC 漏扫实战

1. 阶段目标

这阶段是真正开始“动手”了。信息收集、漏洞分析、工具联动,一样不能少。

熟练运用漏洞挖掘及 SRC 漏扫工具,具备独立挖掘常见漏洞及 SRC 平台漏扫实战能力,尝试通过 SRC 挖洞搞钱,不管是低危漏洞还是高危漏洞,先挖到一个。

2. 学习内容

信息收集实战:结合运维中对网络拓扑、设备信息的了解,强化基本信息收集、网络空间搜索引擎(Shodan、ZoomEye)、域名及端口信息收集技巧,针对企业级网络场景开展信息收集练习(为 SRC 漏扫目标筛选提供支撑)。

漏洞原理与分析:深入学习 SQL 注入、CSRF、文件上传等常见漏洞的原理、危害及利用方法,结合运维工作中遇到的类似问题进行关联分析(明确 SRC 漏扫重点漏洞类型)。

工具进阶与 SRC 漏扫应用:

  • 系统学习 SQLMap、BurpSuite、AWVS 等工具的高级功能,开展工具联用实战训练;

  • 专项学习 SRC 漏扫流程:包括 SRC 平台规则解读(如漏洞提交规范、奖励机制)、漏扫目标范围界定、漏扫策略制定(全量扫描 vs 定向扫描)、漏扫结果验证与复现;

  • 实战训练:使用 AWVS+BurpSuite 组合开展 SRC 平台目标漏扫,练习 “扫描 - 验证 - 漏洞报告撰写 - 平台提交” 全流程。
    SRC 实战演练:选择合适的 SRC 平台(如补天、CNVD)进行漏洞挖掘与漏扫实战,积累实战经验,尝试获取挖洞收益。

恭喜你,如果学到这里,你基本可以下班搞搞副业创收了,并且具备渗透测试工程师必备的「渗透技巧」、「溯源能力」,让你在黑客盛行的年代别背锅,工作实现升职加薪的同时也能开创副业创收!

如果你想要入坑黑客&网络安全,笔者给大家准备了一份:全网最全的网络安全资料包需要保存下方图片,微信扫码即可前往获取!

因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取

优快云大礼包:《黑客&网络安全入门&进阶学习资源包》免费分享

(三)第三阶段:渗透测试技能学习

1. 阶段目标

全面掌握渗透测试理论与实战技能,能够独立完成渗透测试项目,编写规范的渗透测试报告,具备渗透测试工程师岗位能力,为护网红蓝对抗及应急响应提供技术支撑。

2. 学习内容

渗透测试核心理论:系统学习渗透测试流程、方法论及法律法规知识,明确渗透测试边界与规范(与红蓝对抗攻击边界要求一致)。

实战技能训练:开展漏洞扫描、漏洞利用、电商系统渗透测试、内网渗透、权限提升(Windows、Linux)、代码审计等实战训练,结合运维中熟悉的系统环境设计测试场景(强化红蓝对抗攻击端技术能力)。

工具开发实践:基于 Python 编程基础,学习渗透测试工具开发技巧,开发简单的自动化测试脚本(可拓展用于 SRC 漏扫自动化及应急响应辅助工具)。

报告编写指导:学习渗透测试报告的结构与编写规范,完成多个不同场景的渗透测试报告撰写练习(与 SRC 漏洞报告、应急响应报告撰写逻辑互通)。

(四)第四阶段:企业级安全攻防(含红蓝对抗)、应急响应

1. 阶段目标

掌握企业级安全攻防、护网红蓝对抗及应急响应核心技能,考取网安行业相关证书。

2. 学习内容

护网红蓝对抗专项:

  • 红蓝对抗基础:学习护网行动背景、红蓝对抗规则(攻击范围、禁止行为)、红蓝双方角色职责(红队:模拟攻击;蓝队:防御检测与应急处置);

  • 红队实战技能:强化内网渗透、横向移动、权限维持、免杀攻击等高级技巧,模拟护网中常见攻击场景;

  • 蓝队实战技能:学习安全设备(防火墙、IDS/IPS、WAF)联动防御配置、安全监控平台(SOC)使用、攻击行为研判与溯源方法;

  • 模拟护网演练:参与团队式红蓝对抗演练,完整体验 “攻击 - 检测 - 防御 - 处置” 全流程。
    应急响应专项:

  • 应急响应流程:学习应急响应 6 步流程(准备 - 检测 - 遏制 - 根除 - 恢复 - 总结),掌握各环节核心任务;

  • 实战技能:开展操作系统入侵响应(如病毒木马清除、异常进程终止)、数据泄露应急处置、漏洞应急修补等实战训练;

  • 工具应用:学习应急响应工具(如 Autoruns、Process Monitor、病毒分析工具)的使用,提升处置效率;

  • 案例复盘:分析真实网络安全事件应急响应案例(如勒索病毒事件),总结处置经验。
    其他企业级攻防技能:学习社工与钓鱼、CTF 夺旗赛解析等内容,结合运维中企业安全防护需求深化理解。

证书备考:针对网安行业相关证书考试内容(含红蓝对抗、应急响应考点)进行专项复习,参加模拟考试,查漏补缺。

运维转行网络攻防知识库分享

网络安全这行,不是会几个工具就能搞定的。你得有体系,懂原理,能实战。尤其是从运维转过来的,别浪费你原来的经验——你比纯新人强多了。

但也要沉得住气,别学了两天Web安全就觉得自己是黑客了。内网、域渗透、代码审计、应急响应,要学的还多着呢。

如果你真的想转,按这个路子一步步走,没问题。如果你只是好奇,我劝你再想想——这行要持续学习,挺累的,但也是真有意思。

关于如何学习网络安全,笔者也给大家整理好了全套网络安全知识库,需要的可以扫码获取!

因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取

优快云大礼包:《黑客&网络安全入门&进阶学习资源包》免费分享

1、网络安全意识
在这里插入图片描述

2、Linux操作系统
在这里插入图片描述

3、WEB架构基础与HTTP协议
图片

4、Web渗透测试
在这里插入图片描述

5、渗透测试案例分享
图片

6、渗透测试实战技巧
图片

7、攻防对战实战
图片

8、CTF之MISC实战讲解
图片

关于如何学习网络安全,笔者也给大家整理好了全套网络安全知识库,需要的可以扫码获取!

因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取

优快云大礼包:《黑客&网络安全入门&进阶学习资源包》免费分享

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值