Bootstrap

openGauss 主备架构及同步复制模式理论学习与验证测试

==========================================

现供职于某上市互联网公司担任DBA,荣获 Oracle & PG ACE称号,拥有 Oracle OCM、AWS、以及部分国产数据库等产品认证。喜欢技术分享,热爱交友,也热爱健身。2019年加入墨天轮,目前已发表了一百多篇原创文章,曾多次获评"月度墨力之星"。OceanBase、PG中国分会、IvorySQL等南京地区组织者,也是TeckTalk技术交流社区创始人。

==========================================

备注: 非常感谢在这研究本文相关内容中 openGauss 数据库官网 行尘(张旭博)老师在群里给予的知识点解答。

一、openGauss主备架构

openGauss 支持多种主备部署方案,每种方式都有其适合的场景,每种方案也都有一定的优劣势,要根据不同的业务场景和安全需求选择最适合的架构方案,openGauss主备架构主要支持如下几种方案:

1)单中心

img

2)同城双中心

img

3)两地三中心

img

4)两地三中心流式容灾方案

img

openGauss 自 1.0.0版本开始支持DN主备。DN 是指数据库节点(Database Node)的缩写。数据库节点是 OpenGauss 分布式架构的基本组成单元,每个数据库节点都是一个独立的数据库实例,负责处理客户端请求和执行数据库操作。

AZ,全称为 Availability Zone,是云计算领域中常见的概念,特别是在云服务提供商(如AWS、Azure、阿里云等)的架构中使用广泛。AZ 是云计算数据中心的物理隔离区域,每个 AZ 都是一个独立的、物理上隔离的数据中心,这些数据中心之间相互之间有高带宽、低延迟的连接。

在 openGauss 数据库的架构中,可以使用 AZ 来部署主备数据库实例,使其在不同的 AZ 中运行。这样,当某个 AZ 出现故障或不可用时,可以快速切换到其他 AZ 中的备用数据库实例,实现数据库的高可用性和容灾保护。使用 AZ 的架构可以大大提高系统的可靠性,确保服务的持续性和稳定性。

二、主备状态查看

可以使用 gs_om -t status --detail --all 命令来查看openGauss主备详细状态信息,如下所示:

 

[omm@opengauss-db1 ~]$ gs_om -t status --detail --all [ CMServer State ] node node_ip instance state ------------------------------------------------------------------------------- 1 opengauss-db1 10.110.3.155 1 /opt/gaussdb/install/cm/cm_server Primary 2 opengauss-db2 10.110.3.156 2 /opt/gaussdb/install/cm/cm_server Standby [ Cluster State ] cluster_state : Normal redistributing : No balanced : No current_az : AZ_ALL [ Datanode State ] node node_ip instance state ------------------------------------------------------------------------------------ 1 opengauss-db1 10.110.3.155 6001 /opt/gaussdb/install/data/dn P Standby Normal 2 opengauss-db2 10.110.3.156 6002 /opt/gaussdb/install/data/dn S Primary Normal

image20230804161359575.png

我也是第一次注意到CMServer State和Cluster State的主备状态不是一一对应的,之前这套主备环境曾做过主备切换。于是就查询和向群里老师请教了解了下CMServer State 和 Datanode State 的相关含义。

CMServer和 Datanode分别有自己的主备, 两个都可以数量不一样, 比如 node1、node2、node3 安装CMServer,node2和node3 安装 DB。

1)CMServer State

CMServer是cm的服务端,负责收集CMA(Cluster Management Agent)【集群管理代理】上报的状态,并作为仲裁中心和全局配置中心,主备集群能否稳定运行以及在发生单点故障后,openGauss 备库能否正常切换为主库来保证集群的可用性,都与CMServer是否稳定有很紧密的关系。

CMServer状态可能是如下几种状态中的一种:

Normal(正常状态): 集群管理服务器正常运行,能够管理和监控整个数据库集群的各个节点。

Degraded(降级状态): 集群管理服务器可能出现了部分功能的问题或故障,导致其功能降低。

Fault(故障状态): 集群管理服务器可能发生了严重的故障,导致无法正常管理和监控数据库集群。

Pending(待命状态): 集群管理服务器正在进行状态切换,可能是从备用服务器切换为主服务器,或者从主服务器降级为备用服务器。

Unknown(未知状态): 集群管理服务器的状态无法确定,可能是由于网络故障或通信问题导致状态不明确。

2)Datanode State

Datanode State(数据节点状态)是指数据库集群中每个数据节点的运行状态。数据节点是分布式数据库集群中的基本组成单元,负责存储数据和处理数据库操作。每个数据节点都可以是主节点或备节点,用于实现高可用性和容灾保护。

Datanode State状态可能是以下几种状态的一种:

Primary(主节点): 数据节点被选举为主节点,负责处理客户端请求、执行事务以及维护数据的最新状态。

Standby(备节点): 数据节点作为备节点,实时复制主节点的数据,并可以在主节点故障时接管服务,保障数据库的持续可用性。

Pending(待命状态): 数据节点正在进行状态切换,可能是从备节点升级为主节点,或者从主节点降级为备节点。

Unknown(未知状态): 数据节点的状态无法确定,可能是由于网络故障或通信问题导致状态不明确。

Offline(离线状态): 数据节点不可用,可能是由于硬件故障、网络问题或其他原因导致节点无法正常运行。

三、复制模式

3.1 复制模式

openGauss 部署了主备环境后,可以通过在主库查询pg_stat_replication视图来获取当前复制模式的信息,记住是只能在主库查询到相关信息,在备库是查询不到的,如下所示:

 

-- openGauss 主库 [omm@opengauss-db2 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 1 | Quorum (1 row)

image20230804163423858.png

 

-- openGauss 备库 [omm@opengauss-db1 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----+-------+-------------+---------------+------------ (0 rows)

image20230804163534694.png

和PostGreSQL原生数据库不同,使用OM部署的openGuass主备环境默认采用Quorum这种复制模式,而PostGreSQL采用的是Async复制模式。

3.2 Quorum和Async差异

Quorum和Async是用于实现数据复制和高可用性的两种不同策略,它们在数据一致性、可用性和性能方面有所不同。

两者的差异主要体现在如下方面:

同步复制 (Quorum)

  • Quorum 同步复制要求主服务器在提交事务之前,必须等待至少一定数量的备份服务器确认已成功写入相同的数据。
  • 这种方式确保了较高的数据一致性,因为事务只有在多个服务器都写入成功后才会提交。
  • 如果其中一个备份服务器发生故障,主服务器可能会等待其他备份服务器的确认,从而导致一些性能损失。
  • 由于需要等待确认,因此 Quorum 同步复制可能会对性能产生一定的影响,尤其是在网络延迟较大的情况下。

异步复制 (Async):

  • 异步复制允许主服务器提交事务后立即继续处理下一个事务,而不需要等待备份服务器的确认。
  • 这种方式可以提供较高的性能,因为主服务器不会被阻塞等待备份服务器的响应。
  • 由于备份服务器的确认并不是实时的,所以存在一定的数据风险。在主服务器发生故障时,可能会丢失尚未传输到备份服务器的数据。
  • 异步复制适用于那些对性能要求较高,但对数据一致性要求相对较低的场景。

总结:

  • Quorum 同步复制在数据一致性方面提供更高的保证,但可能会对性能产生影响。
  • Async异步复制提供了更好的性能,但在某些情况下可能会导致数据丢失。

另外还需要注意的是,要实现 Quorum 同步复制,在PostGreSQL数据库中通常需要配置复制槽、设置同步级别等才够满足要求。

3.3 复制模式切换

3.3.1 查询复制模式

在openGauss数据库中,复制模式sync_state值是受到synchronous_standby_names参数配置的影响,使用OM方式部署的主备环境,synchronous_standby_names 默认是为ANY,可以通过如下两种方式查询当前数据库环境synchronous_standby_names 的值。

1)方式一

 

-- 查看 postgresql.conf 配置文件 [omm@opengauss-db2 dn]$ cat /opt/gaussdb/install/data/dn/postgresql.conf|grep -i synchronous_standby_names synchronous_standby_names = 'ANY 1(dn_6001)' # standby servers that provide sync rep

image20230804171220709.png

2)方式二

 

-- 主库数据库查询,备库是查询不到信息 -- 主库查询 [omm@opengauss-db2 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# SELECT current_setting('synchronous_standby_names') AS synchronous_standby_names; synchronous_standby_names --------------------------- ANY 1(dn_6001) (1 row) -- 备库查询 [omm@opengauss-db1 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# SELECT current_setting('synchronous_standby_names') AS synchronous_standby_names; synchronous_standby_names --------------------------- (1 row)

image20230804171645309.png

image20230804171715529.png

synchronous_standby_names 值设置为 ‘ANY 1(dn_6001)’ any 意味着是潜在备库, 保证后面有 Any N 个是同步模式, 按照当前部署的一主一备这套主备环境,any 1 且只有一个备机, 表示就是同步备。

openGuass若通过OM安装生成,默认会设置 n / 2 个实例作为同步备。

3.3.2 切换复制模式

可以通过gs_guc命令进行复制模式的切换,gs_guc命令要在主库进行,无需重启主备数据库,若在备库执行,执行不会报错,但不会生效。synchronous_standby_names 设置为空,即将复制模式从Quorum 切换至Async模式。

gs_guc设置的命令为:gs_guc reload -D <datanode_dir> -c “synchronous_standby_names=’’”

实现操作如下:

 

-- openGauss 主库执行 [omm@opengauss-db2 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 1 | Quorum (1 row) openGauss=# \q [omm@opengauss-db2 ~]$ gs_guc reload -D /opt/gaussdb/install/data/dn -c "synchronous_standby_names=''" The gs_guc run with the following arguments: [gs_guc -D /opt/gaussdb/install/data/dn -c synchronous_standby_names='' reload ]. expected instance path: [/opt/gaussdb/install/data/dn/postgresql.conf] gs_guc reload: synchronous_standby_names='': [/opt/gaussdb/install/data/dn/postgresql.conf] server signaled Total instances: 1. Failed instances: 0. Success to perform gs_guc! [omm@opengauss-db2 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 0 | Async (1 row)

image20230804172802999.png

若希望从Async重新切换至Quorum模式,可通过如下操作执行:

gs_guc reload -D <datanode_dir> -c “synchronous_standby_names=‘ANY X(dn_600XXX)’”

实验操作如下:

 

-- openGauss 主库执行 [omm@opengauss-db2 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 0 | Async (1 row) openGauss=# \q [omm@opengauss-db2 ~]$ gs_guc reload -D /opt/gaussdb/install/data/dn -c "synchronous_standby_names='ANY 1(dn_6001)'" The gs_guc run with the following arguments: [gs_guc -D /opt/gaussdb/install/data/dn -c synchronous_standby_names='ANY 1(dn_6001)' reload ]. expected instance path: [/opt/gaussdb/install/data/dn/postgresql.conf] gs_guc reload: synchronous_standby_names='ANY 1(dn_6001)': [/opt/gaussdb/install/data/dn/postgresql.conf] server signaled Total instances: 1. Failed instances: 0. Success to perform gs_guc! [omm@opengauss-db2 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 1 | Quorum (1 row)

image20230804173533364.png

四、恢复模式

pg_is_in_recovery是postGreSQL的一个内置函数,openGauss继承了postGreSQL,也含有这个函数,pg_is_in_recovery函数用来判断当前数据库实例是否处于恢复模式。

恢复模式是指数据库正在应用 WAL(Write-Ahead Log)日志以将备份的数据与主数据库同步。这通常发生在实施数据库恢复、故障切换或主备切换的过程中。在恢复模式下,数据库实例不能执行写操作,只能执行只读操作。

pg_is_in_recovery()函数返回一个布尔值,如果返回 true,则表示数据库当前处于恢复模式;如果返回 false,则表示数据库处于正常运行模式。

可以通过如下方式查询主备库的恢复模式。

 

-- 主库 [omm@opengauss-db2 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# select pg_is_in_recovery(); pg_is_in_recovery ------------------- f (1 row)

image20230804174210873.png

 

[omm@opengauss-db1 ~]$ gsql -d postgres -p 26000 gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr ) Non-SSL connection (SSL connection is recommended when requiring high-security) Type "help" for help. openGauss=# select pg_is_in_recovery(); pg_is_in_recovery ------------------- t (1 row)

image20230804174405504.png

;