高可用集群基本概念与实现层次技术参考
高可用集群的构架层次：
1. 后端主机层： 这一层主要是正在运行在物理主机上的服务。
2. Message layer： 信息传递层，主要传递心跳信息
2. Cluster Resources Manager(CRM): 集群资源管理器层，这一层是心跳信息传递层管理器。用于管理信条信息的传递和收集
3. Local Resources Manager(LRM): 本地资源管理器层， 用于对于收集到的心跳信息进行资源决策调整。是否转移服务等等
4. Resource Agent(RA): 资源代理层，这一层主要是具体启动或停止具体资源的脚本。遵循{start|stop|restart|status}服务脚本使用格式
各层次实现的软件和对应关系
1. Message layer层：
1） heartbeat v1
2） heartbeat v2
3） heartbeat v3
4）（OpenAIS）corosync
5） cman
2. CRM层
1） heartbeat v1:
使用文本配置接口haresources
2) heartbeat v2:
通过一个crmd服务来实现配置，各节点都需要运行crmd服务，并且使用crmsh或者heartbeat-gui来进行配置
3) heartbeat v3: heartbeat + pacemaker + cluster-glue
pacemaker: 集群资源管理器服务
CLI: crm(SuSE), pcs（redhat）
GUI: hawk, LCMC, pacemaker-mgmt
cluster-glue: 可以做为中间粘合层，使用其他资源管理器例如crmsh
4) cman:
使用rgmanager(resource group manager)实现管理, 具有Failover Domain故障转移域这一特性
也可以使用RHCS（Redhat Cluster Suite）套件来进行管理： Conga的全生命周期接口
5) corosync:
使用rgmanager或者pacemaker
3. LRM层通常和CRM层在实现上是通过CRM的一个组件实现
4. RA层
1） heartbeat legacy: heartbeat的传统类型
2） LSB：/etc/rc.d/init.d/*
3） OCF（Open Cluster Framework）：有提供商提供，有pacemaker，linbit
4） STONITH: 用来联合硬件设备工作，可以把故障机电源强制关闭。
RHEL OR CentOS高可用集群解决方案：
1. RHEL(CentOS)5：
1) 自带： RHCS(cman+rgmanager)
2) 选用第三方：corosync+pacemaker, heartbeat(v1或v2), keepalived
2. RHEL(CentOS)6:
1) RHCS(cman+rgmanager)
2) corosync+rgmanager
3) cman+pacemaker
4) heartbeat v3 + pacemaker
5) keepalived
应用方式：
1） 做前端负载均衡器的高可用：keepalived
2） 做大规模的高用集群：corosync(cman)+pacemaker
资源隔离：解决资源征用问题
1. 场景一：
当集群中分裂出两组子集群，并且两个子集群之间并不能通信时， 两个子集群会发生资源征用。如果两集群同时征用后端存储系统，则会造成灾难性的文件系统崩溃。
为了解决此问题，集群系统引入了投票机制，只有拥有半数以上合法票数的集群才能存活，否则退出集群系统。
votes： 投票权
total： 总票数
quarum： 满足法定人数，半数以上
2. 场景二:
如果集群为偶数时，如果集群分裂，两边可能都掌握相等的票数，因此集群系统不应该为偶数，如果是偶数则需要一个额外的ping节点参与投票。
3. 当分裂的票数不足集群退出集群系统后，为了保证它们永远不会征用资源需要STONITH机制来进行资源隔离。
STONITH具体来说，就是通过硬件设备，使得退出的主机重启或者关机。或者通过交换机阻断推出集群主机的向外通信和资源通信网络
HA集群的工作模型：
1. A/P： two node: 主被模型，要借助于ping node 工作
2. N-M: N个节点M个服务， N>M， 活动节点为N， 备用节点为N-M
3. N-N： N个节点N个服务, N节点都有服务，如果一个坏了，会有一个节点运行多个服务
4. A/A: 双主模型，两个节点都是活动的。两个节点运行两个不同的服务。也可以提供同一个服务，比如ipvs， 前端基于DNS轮询。
资源转移的限定方式：
1. rgmanager:
failover domain： 故障转移域，设定一个资源只能在哪些主机上面转移
priority： 设定，在一个转移域中，哪些主机优先被转移资源
2. pacemaker: 通过资源约束，和粘性来限定资源转移方式。
资源黏性： 如果两个节点倾向性位置约束一致，资源对哪个节点粘性为正值，则留在哪个节点。
资源约束（3种类型）：
位置约束：资源更倾向于哪个节点上；通过一个数值来表示。
1） inf: 无穷大
2） n: 倾向于运行在某节点
3） -n: 倾向于离开某节点
4） -inf: 负无穷，如果所有节点全不可选，只能在此节点。
排列约束：资源运行在同一节点的倾向性；
1） inf: 两者永远在一起
2） -inf: 两者永远不再一起
顺序约束：资源启动次序及关闭次序；
例子：如何让web service中的三个资源，vip, httpd, filesystem运行在同一节点
1. 排列约束,说明三个在一起可能性inf
2. 资源组（resource group）, 三个资源定义在一个组内，然后这个组决定在某一个节点上启动
3. 定义顺序约束，保证启动顺序，vip–filesystem–httpd
对称性与非对称性：
对称性： 默认所有节点都能转移资源。
非对称性； 有些节点不能转移资源。
如果节点不再成为集群节点成员时，如何处理运行于当前节点的资源:
stoped:直接停止服务
ignore： 忽略，以前运行什么服务现在还运行什么。
freeze:事先建立的连接，接续保持，不再接收新的请求。
suicide: kill掉服务。
一个资源刚配置完成时，是否启动。
target-role: 目标角色，可以为启动，也可以为不启动。
资源代理类型（RA）：
heartbeat legacy: 传统类型
LSB: /etc/rc.d/init.d/ 下面的服务脚本
OCF：
STONITH: 专门用来实现资源隔离的
资源类型：
primitive, native : 主资源，只能运行于一个节点。
group: 组资源
clone: 克隆资源，所有节点都运行的资源，首先是主资源。
通常为STONITH资源， Cluster filesystem, 分布式锁
1） 最多运行的最大数。 总clone数
2） 每一个节点上最多运行几个。
master/slave： 主从资源内容，只能克隆两份，主的能读能写，从的不能做任何操作
