在前些年，我的工作经历主要都在Hadoop这个技术栈中，而最近有幸接触到了Ceph分布式储存系统。我认为这是一件很幸运的事，可以让我有机会去体验另一种大型的开源分布式存储解决方案，从而可以对比出HDFS与Ceph这两种几乎完全不同的存储系统有哪些优缺点、适合哪些工作环境。
对于分布式存储，尤其是开源的分布式存储，站在一个SRE运维的角度，我觉得主要为商业公司解决了如下几个问题：
1、可扩展性，满足伴随业务增长导致的更多海量数据存储需求；
2、高性价比，比商用存储更便宜，可以大幅降低成本；
3、稳定性，不轻易出错，方便操作，便于维护。
总之目前使用的感觉就是：又好用，又便宜，还稳定。但现实似乎并没有这么美好……
本文将从这三个基础观点出发，分享我在运维Ceph时的经验，同时与HDFS中心化的分布式存储系统作对比。
展开索引
一、可扩展性
Ceph声称可以无限扩展，因为它基于CRUSH算法，没有中心节点。 而事实上，Ceph确实可以无限扩展，但Ceph的无限扩展的过程，并不完全美好。
首先梳理一下Ceph的写入流程：
Ceph的新对象写入对象，需要经过PG这一层预先定义好的定额Hash分片，然后PG，再经过一次集群所有物理机器硬盘OSD构成的Hash，落到物理磁盘。
因此，Ceph的所有对象，是先被pre-hash到了一个固定数量的桶（PG）当中，然后根据集群的整体物理架构crushmap，选择落在具体的机器磁盘上。
这对扩容有什么影响呢？
1.扩容粒度
我给扩容粒度的定义是：一次可以扩容多少台机器。
Ceph在实践中，扩容受“容错域”制约，一次只能扩一个“容错域”。
容错域就是：副本隔离级别，即同一个replica的数据，放在不同的磁盘/机器/Rack/机房。
容错域这个概念，在很多存储方案里都有，包括HDFS。但为什么Ceph会受影响呢？因为Ceph没有中心化的元数据结点，所以会导致数据放置策略受之影响。
数据放置策略，即一份数据replica，放在某台机器，某块硬盘。
中心化的比如HDFS，会记录每一个文件，下面每一个数据块的存放位置。这个位置是不会经常变动的，只有在如下状况：1.文件新创建；2.balancer重新分配；3.有硬盘故障坏掉了，这时候中心节点针对损坏硬件上的数据重新放置时才会改变。
而Ceph因为去中心化，导致容纳数据的PG的位置，会根据crushmap的变化而变化。 来了新的机器、硬盘，就要为一些受影响的PG计算新的位置。 基于一致性哈希的技术，在扩容时也要面临同样的问题。
因此，Ceph扩容需要PG们调整。正因为这个调整，导致Ceph受“容错域”制约。
例如：有一个PG，是3副本，Ceph集群有一个配置是PG要向外提供正常服务，至少有2个完整的副本。而当这个数据pool的容错域是host时，同时扩容2台机器，一些PG就有可能把3副本中的2个都映射到2台新机器上去。而这2个副本都是新副本，都没有完整的最新数据。剩下的一个副本，无法满足老机器至少有完整的2副本的要求，也就不能提供正常读写服务了。
这就会导致这个PG里的所有对象，停止对外服务。
作为管理员，当然可以把配置降低，把数据pool的min_size下降为1。但这种配置，即使在正常情况下，因为磁盘故障，都有可能丢失数据，因此一般不会这样设置。
那在扩容时，一次只扩容一台机器时，是不是就安全了呢？
这样就能保证所有PG都至少在老机器有2个完整的副本了。可是，即使是扩容一台机器，也还要面临扩容时老机器中有硬盘坏掉，导致PG的完整副本又下降为1的极端情况发生。
虽然PG有可能不能服务，但数据的持久性是没有问题的。国内AT的云，服务可靠性都没有做得特别高，做到像持久性那样3个9、4个9。虽然我不确定这两朵大云里的对象存储是不是使用的Ceph，但只要是基于类似CRUSH算法，或者一致性哈希等类似的去中心化技术实现的对象存储，应该都会面对部分数据暂时不可服务的情况。
我们抛开最极端的情况，即假设在扩容时，以一个“容错域”加入机器时，暂时没有磁盘损坏。那么有没有办法可以提升扩容粒度呢？
办法是，在开始规划Ceph集群时，设定好更大层次的“容错域”，比如Rack。 可以是真实的Rack，即使没有也可以是逻辑的Rack。这样扩容时，可以扩一个逻辑“容错域”，就可以打破扩一台机器的限制，扩一整个Rack，至少有好几台机器。
Tips：这里我没有讲为什么扩容粒度小是个不好的事。其实在很多公司，数据的日均增长量是很有可能大于一台机器的存储容量的。这就会造成扩容速度赶不上写入速度的尴尬局面。这对于开始没有设计好，图快速deploy而架设的集群，在后期是一个不小的伤害。
2.扩容时crushmap的改变
Ceph是根据crushmap去放置PG的物理位置的，若在扩容进行了一半时，又有硬盘坏掉了，那Ceph的crushmap就会改变，Ceph又会重新进行PG的re-hash，很多PG的位置又会重新计算。如果运气比较差，很可能一台机器的扩容进度被迫进行了很久才回到稳定的状态。
这个crushmap改变导致的Ceph重平衡，不单单在扩容时，几乎在任何时候，对一个大的存储集群都有些头疼。在建立一个新集群时，硬盘都比较新，因此故障率并不高。但是在运行了2-3年的大存储集群，坏盘真的是一个稀松平常的事情，1000台规模的集群一天坏个2-3块盘很正常。crushmap经常变动，对Ceph内部不稳定，影响真的很大。随之而来，可能是整体IO的下降（磁盘IO被反复的rebalance重新平衡分配占满），甚至可能导致某些数据暂时不可用。
所以总的来说，Ceph的扩容是有那么一丁点不痛快的。Ceph确实提供了无限的扩展能力，但扩容过程并不平滑，也不完全可控。crushmap的设计，达到了很好的去中心化效果，但也给集群大了之后的不稳定埋下了一个坑。
而对比中心化元数据的HDFS，在扩容时几乎无限制，你可以随意的扩容。老数据的搬迁，重平衡都会由单独的job来处理，处理也很高效。它采用了满节点和空节点两两配对的方式，从老节点移动足够的数据，填满新机器即可。中心化元数据在扩容与重平衡时，反而变成了一个优点。
3.扩容到一定量级后，PG数量需调整
如前面的Ceph数据写入流程图所示，Ceph对象的最小放置单位是PG，PG又会被放在硬盘上，PG理论上肯定是越大越好。因为这样数据的分片随机性更好，更能掩盖伪随机造成的单块盘容量偏差过大问题。但PG数量在现实中不是越大越好的，它要受限于硬件，如CPU、内存、网络。 因此我们在规划PG数时，不会盲目调大，一般社区也是建议200pg / osd。
假设我们现在有10台机器，每台一块硬盘一共10块盘，有1024个PG，PG都是单副本，那么每个盘会存100个PG。此时这个设置非常健康，但当我们集群扩容到1000台机器，每台硬盘就只放一个PG了，这会导致伪随机造成的不平衡现象放大。因此，管理员就要面临调整PG数量，这就带来了问题。
调PG，基本也就意味着整个集群会进入一种严重不正常的状态。几乎50%的对象，涉及到调整后的PG都需要重新放置物理位置，这会引起服务质量的严重下降。
虽然调整PG不是一个经常性的事件，但对于一个大型存储应用场景来说，随着业务的发展，不可避免会经历这个问题。
二、高性价比，比商用存储便宜
我们所说的和商业存储比较，一般就是和EMC、IBM这类硬件/软件存储解决方案厂家，或者云解决方案Aliyun、AWS、Azure之类的对比。
自己建设机房，当然在硬件单价上更为便宜，但需要考虑综合成本，主要包括：1.硬件成本；2.自养运维人员成本；3.服务质量。
人工成本这种玄学的问题我就不谈了，本文只谈Ceph在硬件成本这块有什么有趣的地方。通常自己建的机房，硬件成本应该是毫无疑问的便宜，那么Ceph在这里有什么特殊呢？
问题在于，集群可靠利用率。
集群可靠利用率，即整个集群在容量达到某个水平时不可对外服务，或者说不能保持高可用的服务。
打个比方，我们的手机闪存/电脑硬盘，是不是到99%了还能正常工作？ 当然，因为是本地存储嘛。对于云解决方案，也天然就没有这个问题了。
对于商用存储解决方案，比如EMC的Isilon分布式文件系统，存储容量达到甚至98-99%，仍能对外提供服务。
对于HDFS，在95%以下，存储也能很好地对外提供服务。在HDFS上运行的Hadoop Job，会因为没办法写入本地而挂掉。
而对于Ceph，在这一块表现得并不好。根据目前的经验，在集群整体使用率达到70%后，就很有可能进入不稳定的储存状态。
这是为什么呢？问题在于，去中心化带来的权衡效应。
Ceph是去中心化的分布式储存解决方案，对象的元数据是分布在各台物理机上的。因此所有对象，是被“伪随机”地分配到各个磁盘上的。伪随机不能保证所有磁盘的完全均匀分配，不能降低很多大对象同时落在一块盘上的概率（我的理解加入一层PG，又使PG多replication，是可以让磁盘的方差变小的），因此总有一些磁盘的使用率会高出均值。
在集群整体使用率不高时，都没有问题。而在使用率达到70%后，就需要管理员介入了。因为方差大的盘，很有可能会触及95%这条红线。管理员开始调低容量过高磁盘的reweight，但如果在这一批磁盘被调整reweight没有结束时，又有一些磁盘被写满了，那管理员就必须被迫在Ceph没有达到稳定状态前，又一次reweight过高的磁盘。 这就导致了ceph的crushmap的再一次变更，由于短期内大量变更，从而导致Ceph离稳定状态越来越远。而此时扩容又不及时的话，更是雪上加霜。
而且之前的ceph的crushmap中间状态，也会导致一些PG迁移了一半，这些“不完整的”PG并不会被马上删除，这给本来就紧张的磁盘空间又加重了负担。
有同学可能会好奇，一块磁盘满了，Ceph为什么就不可用了。Ceph还真的就是这样设计的，因为Ceph没法保证新的对象是否落在空盘而不落在满盘，所以Ceph选择在有盘满了时，就拒绝服务。
我在咨询了一些同事和业界大佬后，基本上大家的Ceph集群都是在达到50%使用率时，就要开始准备扩容了。这其实是挺不省钱的，因为必须空置一大批机器的存储资源。并且未来集群的规模越大，空置效应就会放得越大，意味着浪费的钱越多。
而很多传统的中心化的分布式存储系统，由于写入时可以由主控节点选择相对空闲的机器进行写入，因此不会存在某些磁盘满了，导致整个集群不可写入的问题。也正是如此，才可以做到整体写入到95%了，仍然保持可用性。
我没有真正核算过这种效应带来的成本浪费，但至少看上去是有点不够完美的。
打个比方，当我预估有50pb的存储时，需要300台物理机了，我居然要提前采购好另外200-300台物理机，还不能马上用上，还要插上电。
因此Ceph也并不一定会很便宜，去中心化的分布式存储也并没有那么美好。
但中心化的危害，似乎又是没有争议的问题（单点问题、中心节点扩展性问题等等 ），因此分布式里真的没有完美，只有妥协。
还有一种办法，就是Ceph的集群按整个pool来扩容，一个pool满了，就不扩容了，开新的pool，新的对象只准写新的pool，老的pool的对象可以删除，可以读取。 这乍看之下是一个很棒的解决方案，但仔细想想，这与HDFS的federation，和MySQL的分库分表，做前端的大Hash，貌似没有太大的区别。
这也就谈不上是“无限扩容”了，而且还需要写一个前面的路由层。
三、稳定性，便于操作维护
这个稳定好运维，基本就看团队的硬实力了。对开源软件是否熟悉，是否有经验，真的会有很大不同。
同时，这还受开源社区文档质量的影响。Ceph的开源社区还是不错的，再Red Hat收购并主导了Ceph之后，官方重新整理了Red Hat版本的Ceph文档，我认为新版文档读起来逻辑感更强。
在公司内积累自己的运维文档也很关键。一个新手很可能会犯很多错误，导致事故发生。但对于公司，踩了一次的坑，就尽量不要再踩第二次了。这对公司的技术积累管理、技术文档管理、核心人才流失管理，都产生了一些挑战。
我曾经在Ceph运维中，曾遇到一个棘手的问题。即Ceph集群达到了80%后，经常有磁盘变满，然后管理员就要介入，调低过高磁盘的reweight。而在这台磁盘使用量没降下来之前，又有更多的磁盘被写满了，管理员就又要介入，又调整reweight，Ceph至此就再也没有进入过稳定状态了，管理员还必须时时刻刻盯着集群。这导致了极大的运维投入，所以像这种事情一定要避免，这对运维人员的士气是很大的伤害。
那么，是否应该在早期进行容量预警，启动采购流程呢？
可是这样做，又回到了资源浪费的问题上。
此外，Ceph的对象是没有last_access_time这种元数据的，因此Ceph对象的冷/热之分，需要二次开发，做额外的工作。集群大了之后，如何清理垃圾数据、如何归档冷数据，这也带来了不小的挑战。
总结思考
1、Ceph分布式储存系统确实有无限扩容的能力，但需要良好的初始规划，扩容过程也并不完美。中心化造就了扩容的上限是单台master主结点的物理极限，造就了无限扩容的理论基础，但实际扩容时，服务质量会受严重制约。
2、Ceph分布式储存系统在实际应用中有些浪费硬件，成本核算时要考虑更多。
3、Ceph分布式储存系统本身的去中心化设计牺牲了不少元数据，比如lastacesstime，这给未来数据治理带来了压力，也需要更强的团队来运维和二次开发。积累运维经验，积累运维团队，是驾驭好开源分布式存储的核心。对手随着时间越来越强大，应对的运维团队也需要越来越好，才能让生产关系匹配生产力的要求。
4、技术本身没有绝对的好坏，不同的技术是用来解决不同问题的。但在实际工作环境下，技术是有好坏的。因为在当时的场景下，你有了立场，就有了亟待解决的问题的优先级，也就一定能按优先级选择出最适合你的技术。
文章来源自：https://www.cnblogs.com/liinux/p/10045365.html 作者：EliteQing