美团数据库运维平台介绍
- 2. 自我介绍 ? 侯军伟 ? 美团网数据库负责人 ? MySQL、Redis、Redis Cluster ? 微博：@曾经的阿飞
- 3. 大纲 ? 自动化运维平台 ? 慢查询系统 ? 备份系统 ? 运维报表 ? Percona使用经验
- 4. 自动化运维平台 自助顿顿尝 授权申请 慢查询系统 DBA Weekly Report CPU IO 慢查询 监控 RD DB Weekly Report 废弃表 废弃索引 冗余索引 容量管理 历史Processlist查询 历史Innodb Status查询 元信息 DBManager 工具 报表
- 6. 自助顿顿尝
- 8. pt-online-schema-change New Data Old Data New Table 触发器 Insert ignore into newtable select from oldtable where pk between () lock in share mode 主从表结构异构,会导致Slave表结构被覆盖 添加唯一索引,如果存在重复数据会丢失
- 9. DBManager
- 10. 慢查询
- 11. 慢查询 ? pt-query-digest ? Box Anemometer
- 12. MySQL Slow Log Pt-query-digest MySQL AnemometerMySQL Slow Log Pt-query-digest MySQL Slow Log Pt-query-digest
- 15. 统计分析报表 自助顿顿尝 授权申请 慢查询系统 DBA Weekly Report CPU IO 慢查询 监控 RD DB Weekly Report 废弃表 废弃索引 冗余索引 容量管理 历史Processlist查询 历史Innodb Status查询 元信息 DBManager 工具 报表
- 16. DBA Weekly Report ? 慢查询TOP10 ? 磁盘消耗速度TOP10 ? Innodb_pages_read TOP10 ? Innodb_row_lock_time TOP10 ? 监控被disable的主机 ? 自增ID溢出检测
- 18. DB Weekly Report ? 包含内容 – 持续一周不在访问表 – 持续一周不在使用的索引 – 冗余的索引 ? 实现方式 – percona user stat – pt-duplicate-key-checker
- 20. ? 历史processlist查询 ? 历史的show engine innodb status查询
- 21. 容量管理 团购/外卖/猫眼/酒店
- 22. 容量管理 ? Benchmark ? Tcpcopy ? 挖掘历史数据估算节假日峰值 ? 监控数据:max(avg(15m))
- 23. Percona使用经验 ? Percona Server – User Statistics – Response Time Distrub – Thread pool – innodb_deadlocks – max_binlog_files ? Percona Toolkit – pt-query-digest – pt-kill – pt-online-schema-change – pt-duplicate-key-checker
- 24. One More Thing……
- 26. ? cluster-node-timeout 15000 ? 添加slave节点 ? Flushall操作
- 27. ? 使用redis-trib.rb创建集群 ? 添加slave节点 ? 小心master和slave分布在同一台机器上 （issue 2204）
- 28. ? 慢查询 ? 避免神秘主义 – 一个节点内存消耗远大于其他节点 – 不恰当使用monitor导致client output buffer占用 了大量的内存