作者：刘春雷
漫谈TiDB数据库部署
1、前言
使用TiDB数据库2年多了，部署架构上踩过很多坑，也有过很多优化，此篇文章大致梳理下，希望对大家有所帮助~
2、阶段目标
如果说部署及架构私有云(K8S)为最终目标，那么58这边算是走到了第二阶段
【第一阶段：探索阶段】：
- 调研TiDB、探索业务场景、尝试部署架构、解决问题、优化部署
【第二阶段：稳定阶段】：
- 有一定使用经验，提升了稳定性，自动化、平台化的总体完善，沉淀了较好的部署架构，优化业务，快速、稳定发展
【第三阶段：私有云阶段】：
- 探索更好、更轻、更节约人力的运维方式，跟上业界步伐，让DBA有精力去深入优化业务，更多的赋能业务~
3、第一阶段：探索阶段
这一阶段，属于探索阶段，几乎没有很好的业界实践经验，只能自己尝试。
【版本】： 2.x，3.x
【部署机器】：
- TiDB & PD：内存型物理机
- TiKV ：单盘挂载 x 4 的物理机，CPU 32核，内存128G
【集群间部署情况】：
- 多套 TiDB & PD & Prometheus & Grafana 混合部署在多个内存型机器上
- TiKV 单机部署一个集群，4个TiKV节点 分布在独立的4个单盘上
【集群使用情况】：
- 大集群思想，每套集群上建立多个库(schema)
【运维规范】：
- 制定集群的端口规范，每个间隔一定数量，减少混合部署端口问题
【问题】：
- 单个集群占用空间特别大，短时间内就超过了5T、10T，导致Region数多，心跳繁忙
- 单集群内多个库相互影响，慢SQL多
- 多个集群TiDB Server相互影响，导致某一集群慢SQL，影响多个集群的TiDB Server、PD Server等，排查问题复杂
- 单机部署过多TiKV 节点，导致内存、CPU资源不足，经常宕机，最多的时候，1个月宕机4-6台+
- 消耗内存型机器过多，资源跟不上，导致内存型机器部署实例越来越多，有点到达14个多，严重影响了性能及稳定性
- 宕机影响范围大：
- TiDB & PD 节点宕机，至少影响集群6套以上，宕机一次，DBA需要处理一下午
- TiKV 节点宕机：4个TiKV节点受影响，导致集群状态异常，且受限于2.x，3.x版本的恢复速度，直接没有流量，影响时间长；有的30分钟级别恢复不了原来的流量，只能等机器起来才能恢复。
- TiKV机器使用的是某老旧型号，磁盘及机器性能都不好，集群读写性能上不去。
【临时处理】：
- 拆分集群，重要的、量大的库单独部署
- 后期出了静默region后，所有集群都设置上
- 重要集群的TiDB Server 部署在节点少、流量少的内存型物理机上
- 关注流量、慢SQL、CPU等报警
- 及时优化慢SQL
- 部分集群尝试使用性能更好的TiKV机器，128G/40核、6x800G SSD RAID5
4、第二阶段：稳定阶段
这一阶段，属于趋于稳定阶段，有了自己的实践经验，能很好的规避一些风险及提升了稳定性。
【版本】 ：3.x,4.x
【部署机器】：
- TiDB ：内存型虚拟机 32G/8核
- PD ：内存型虚拟机 16G/8核
- TiKV ：物理机，CPU 40核，内存128G，6x800G SSD RAID5 或 单盘闪存卡3.5T
【集群间部署情况】：
- TiDB独立部署
- PD独立部署
- Prometheus&Grafana 与TiDB 混合部署
- TiKV 单机混合部署2个集群的TiKV节点，在1个RAID5 分区上
【集群使用情况】：
- 中小型集群思想，每套集群上建立1个重要、量大的库(schema)
- 单独集群部署同一业务的多个量小、不重要的库(schema)，例如日志流水等
【接入规范】 ：
- 规范上对接入的业务进行量及增长情况评估，增量小的、增量不明确的暂时使用MySQL，后期量大了再迁移至TiDB
- 从MySQL接入单表大于100G的，解决MySQL问题
【版本】：
- 快速跟进官方版本迭代，快速调研测试，自动化开发，快速升级，提升性能及丰富功能
【近期工作】：
- Q4大批量替换虚拟机，独立部署，目前剩余近百节点待替换
【优势】：
- TiDB、PD节点独立部署，减少相互影响情况，稳定性提升
- TiDB、PD虚拟机部署，对磁盘要求不高，独立部署后，SQL执行时间没有明显变化，有些更好了
- 接入业务时查看情况，减少小库的不正确使用
- 虚拟机有专业的团队支持，申请简单，可以支持大量使用，稳定性比较好
- TiKV减少部署节点至2个，并配置内存相关参数，减少相互影响，减少宕机概率
- TiKV同一分区，减少集群磁盘使用不均衡问题
- 性能要求高的集群，使用闪存卡，性能至少是 RAID5 后的SSD的5倍以上，解决了性能问题，尤其是写入QPS高的。
- 部署TiFlash，减少分析型SQL对业务性能的影响
- 宕机影响范围小：
- TiDB & PD 宿主机宕机，影响范围减少，多数为1-2个TiDB虚拟机受影响
- TiKV 宕机：至多影响2个集群，每个集群1个节点，影响小，业务流量恢复快
【问题】：
- TiKV机器上混合部署2节点，还是会有相互影响的问题，待解决
- 集群存储量比较小的话，磁盘使用率比较低，限于TiKV机器节点数要求，又无法部署很多。
【临时解决】：
- 更多的从接入时的情况来限制，小库先使用MySQL，大了再迁移TiDB
- 及时跟进量小的集群，或混合部署多个不重要、量小的库(scheme)
【最终】：
- 最近1年节点宕机次数，大约在5台之内（所有节点），且均快速恢复
- 开发反馈问题减少，满意度增加
5、最终阶段：云化
这一阶段，属于目标阶段，因为虚拟机还是比较重，还是想达到业界的云化阶段，私有云建设。例如官方已经出了TiDB Operator，是 Kubernetes 上的 TiDB 集群自动运维系统，提供包括部署、升级、扩缩容、备份恢复、配置变更的 TiDB 全生命周期管理。借助 TiDB Operator，TiDB 可以无缝运行在公有云或私有部署的 Kubernetes 集群上。 这样能更好的运维TiDB，真正的解决资源隔离的需求等。
因目前的自动化、平台化都做的比较完善了，很多工作都是基于CDB平台了，且DBA人力不多，也需要Kubernetes团队配合，暂时对于快速使用Kubernetes等虚拟化要求不高，暂定计划为2021年开始做。
目前工作重点还在深度优化业务、尽快替换内存型物理机至虚拟机，保证年底高峰期的稳定运行上，同时积极学习相关知识等。
希望此文对于大家部署TiDB 有一定参考价值，减少一些弯路~
