mysql集群的几种方案
发布时间:2025-05-13 06:45:15 发布人:远客网络
一、mysql集群的几种方案
AsynchronousReplicationAutomatic failover
其原理是在一条异步复制通道上配置多个可用复制源，当某个复制源不可用时（宕机、复制链路中断），且 slave的 IO线程尝试重连无效，自动根据权重选择新的源继续同步。
准备一个 MGR集群和单实例，模拟复制链路切换，当 primary故障，slave自动切换到其他节点。dbdeployerdeployreplication--topology=group8.0.22--single-primarydbdeployer deploy single 8.0.22
2.在从机上建立指向 MGR主节点的复制通道，
change master to master_user='msandbox',master_password='msandbox', master_host='127.0.0.1',master_auto_position=1,source_connection_auto_failover=1,master_port=23223,master_retry_count=6,master_connect_retry=10 for channel'mgr-single';
在 master_retry_count和 master_connect_retry的设置上要考虑尝试重连多久才切换复制源。
3.在从机上配置 asynchronous connection auto failover
配置 asynchronous connection auto failover的两个函数：
asynchronous_connection_failover_add_source(channel-name,host,port,network-namespace,weight)
asynchronous_connection_failover_delete_source(channel-name,host,port,network-namespace)
权重值大的被优先级选择，可以配合MGR的选举权重配置 asynchronous_connection_failover的权重。当 MGR节点切换，异步复制也能切换到新的主节点。
SELECT asynchronous_connection_failover_add_source('mgr-single','127.0.0.1',23223,null,100); SELECT asynchronous_connection_failover_add_source('mgr-single','127.0.0.1',23224,null,80); SELECT asynchronous_connection_failover_add_source('mgr-single','127.0.0.1',23225,null,50);startslaveforchannel'mgr-single';
4.检查异步复制通道是否启用 failover。
mysql> SELECT CHANNEL_NAME, SOURCE_CONNECTION_AUTO_FAILOVER FROM performance_schema.replication_connection_configuration;+--------------+---------------------------------+| CHANNEL_NAME| SOURCE_CONNECTION_AUTO_FAILOVER|+--------------+---------------------------------+|mgr-single|1|+--------------+---------------------------------+1 row in set(0.01 sec
5.把 MGR的 primary节点 kill掉，这个从节点会在尝试几轮重连失败后自动切换到次权重的复制源，其日志中会输出切换信息。
注意：当主节点故障，一旦复制链路成功 failover后，在新的复制链路没有故障时，如果原主节点恢复，是不会回切的。如果当前复制链路发生故障，会再次选择权重高的进行切换
二、利用MySQL进行OGG数据管理mysql下ogg
Oracle GoldenGate（OGG）是一种数据复制和数据集成技术，可以实时地捕获事务并将它们传输到目标数据库。通常，OGG提供了一种快速、可靠、异构的数据迁移方案，可以在不影响生产系统的情况下完成迁移。
然而，对于OGG数据的管理，有时需要对其进行更细致的操作。MySQL是一种流行的开源关系型数据库管理系统，可用于存储、管理和分析数据。本文将介绍如何使用MySQL进行OGG数据管理。
我们需要创建一个MySQL表来存储OGG数据。该表应该包括OGG数据的关键信息，例如表名和列名。
operation VARCHAR(10) NOT NULL,
table_name VARCHAR(100) NOT NULL,
PRIMARY KEY(timestamp, table_name)
接下来，我们需要配置OGG，以确保它可以将数据写入MySQL表。在OGG的配置文件中，我们需要指定以下信息：
–要写入MySQL表的OGG数据的格式
以下是一个简单的OGG配置文件示例：
userid ogg, password ogg
rmthost 10.0.0.1, mgrport 7809
rmtuser mysql, rmtpassword mysql
rmtconnect mysql.example.com, database ogg_db
一旦OGG被配置好并且MySQL表被创建，我们可以开始向MySQL表发送OGG数据。这可以通过使用INSERT语句完成，可以选择自动生成该语句。
以下是一个Python脚本示例，用于将OGG数据发送到MySQL表。
# Parse input
operation= sys.argv[1]
table_name= sys.argv[2]
column_data= sys.argv[3]
timestamp= datetime.now()
# Insert data into MySQL table
cnx= mysql.connector.connect(user=’ogg_user’, password=’ogg_pass’,
host=’mysql.example.com’,
database=’ogg_db’)
cursor= cnx.cursor()
query=(“INSERT INTO ogg_data“
“(operation, table_name, column_data, timestamp)“
“VALUES(%s,%s,%s,%s)”)
data=(operation, table_name, column_data, timestamp)
cursor.execute(query, data)
cnx.commit()
cursor.close()
except mysql.connector.Error as err:
print(“Error:{}”.format(err))
finally:
cnx.close()
if __name__==‘__mn__’:
我们可以使用通常的SELECT语句从MySQL表中查询OGG数据，并使用适当的工具分析它。例如，我们可以使用Pandas库来分析OGG数据并绘制图表。
import matplotlib.pyplot as plt
cnx= mysql.connector.connect(user=’ogg_user’, password=’ogg_pass’,
host=’mysql.example.com’,
database=’ogg_db’)
# Retrieve data from MySQL table
df= pd.read_sql(‘SELECT table_name, operation, COUNT(*) AS count FROM ogg_data GROUP BY table_name, operation’, cnx)
df.pivot(index=’table_name’, columns=’operation’, values=’count’).plot(kind=’bar’, stacked=True, ax=ax)
通过使用MySQL进行OGG数据管理，我们可以更好地管理和分析OGG数据，并且可以轻松地查询和分析它。我们可以将OGG数据与MySQL表的其他数据进行混合和匹配，以获得更有意义的见解。
三、oracle数据库中的表如何能够导入到mysql中
OGG全称为Oracle GoldenGate,是由Oracle官方提供的用于解决异构数据环境中数据复制的一个商业工具。相比于其它迁移工具OGG的优势在于可以直接解析源端Oracle的redo log，因此能够实现在不需要对原表结构做太多调整的前提下完成数据增量部分的迁移。本篇文章将重点介绍如何使用OGG实现Oracle到MySQL数据的平滑迁移，以及讲述个人在迁移过程中所碰到问题的解决方案。
参照上图简单给大家介绍下OGG逻辑架构，让大家对OGG数据同步过程有个简单了解，后面章节会详细演示相关进程的配置方式，在OGG使用过程中主要涉及以下进程及文件：
Manager进程：需要源端跟目标端同时运行，主要作用是监控管理其它进程，报告错误，分配及清理数据存储空间，发布阈值报告等
Extract进程：运行在数据库源端，主要用于捕获数据的变化，负责全量、增量数据的抽取
Trails文件：临时存放在磁盘上的数据文件
Data Pump进程：运行在数据库源端，属于Extract进程的一个辅助进程，如果不配置Data Pump，Extract进程会将抽取的数据直接发送到目标端的Trail文件，如果配置了Data Pump，Extract进程会将数据抽取到本地Trail文件，然后通过Data Pump进程发送到目标端，配置Data Pump进程的主要好处是即使源端到目标端发生网络中断，Extract进程依然不会终止
Collector进程：接收源端传输过来的数据变化，并写入本地Trail文件中
Replicat进程：读取Trail文件中记录的数据变化，创建对应的DML语句并在目标端回放
OGG版本 OGG 12.2.0.2.2 For Oracle OGG 12.2.0.2.2 For MySQL
数据库版本 Oracle 11.2.0.4 MySQL 5.7.21
OGG_HOME/home/oracle/ogg/opt/ogg
表结构迁移属于难度不高但内容比较繁琐的一步，我们在迁移表结构时使用了一个叫sqlines的开源工具，对于sqlines工具在MySQL端创建失败及不符合预期的表结构再进行特殊处理，以此来提高表结构转换的效率。
注意：OGG在Oracle迁移MySQL的场景下不支持DDL语句同步，因此表结构迁移完成后到数据库切换前尽量不要再修改表结构。
数据同步的操作均采用OGG工具进行，考虑数据全量和增量的衔接，OGG需要先将增量同步的抽取进程启动，抓取数据库的redo log，待全量抽取结束后开启增量数据回放，应用全量和增量这段期间产生的日志数据，OGG可基于参数配置进行重复数据处理，所以使用OGG时优先将增量进行配置并启用。此外，为了避免本章节篇幅过长，OGG参数将不再解释，有需要的朋友可以查看官方提供的Reference文档查询任何你不理解的参数。
针对Oracle数据库，OGG需要数据库开启归档模式及增加辅助补充日志、强制记录日志等来保障OGG可抓取到完整的日志信息
查看当前环境是否满足要求，输出结果如下图所示：
OGG需要有一个用户有权限对数据库的相关对象做操作，以下为涉及的权限，该示例将创建一个用户名和密码均为ogg的Oracle数据库用户并授予以下权限
（4）源端OGG表级补全日志(trandata)配置
表级补全日志需要在最小补全日志打开的情况下才起作用,之前只在数据库级开启了最小补全日志(alter database add supplemental log data;)，redolog记录的信息还不够全面，必须再使用add trandata开启表级的补全日志以获得必要的信息。
（5）源端OGG抽取进程(extract)配置
Extract进程运行在数据库源端，负责从源端数据表或日志中捕获数据。Extract进程利用其内在的checkpoint机制，周期性地检查并记录其读写的位置，通常是写入到本地的trail文件。这种机制是为了保证如果Extract进程终止或者操作系统宕机，我们重启Extract进程后，GoldenGate能够恢复到以前的状态，从上一个断点处继续往下运行，而不会有任何数据损失。
（6）源端OGG传输进程(pump)配置
pump进程运行在数据库源端，其作用非常简单。如果源端的Extract抽取进程使用了本地trail文件，那么pump进程就会把trail文件以数据块的形式通过TCP/IP协议发送到目标端，Pump进程本质上是Extract进程的一种特殊形式，如果不使用trail文件，那么Extract进程在抽取完数据后，直接投递到目标端。
补充：pump进程启动时需要与目标端的mgr进程进行连接，所以需要优先将目标端的mgr提前配置好，否则会报错连接被拒绝，无法传输抽取的日志文件到目标端对应目录下
（7）源端OGG异构mapping文件(defgen)生成
该文件记录了源库需要复制的表的表结构定义信息，在源库生成该文件后需要拷贝到目标库的dirdef目录，当目标库的replica进程将传输过来的数据apply到目标库时需要读写该文件，同构的数据库不需要进行该操作。
mysql> create user'ogg'@'%' identified by'ogg';
mysql> grant all on*.* to'ogg'@'%';
####提前创建好ogg存放checkpoint表的数据库
mysql> create database ogg;
（2）目标端OGG管理进程(MGR)配置
目标端的MGR进程和源端配置一样，可直接将源端配置方式在目标端重复执行一次即可，该部分不在赘述
（3）目标端OGG检查点日志表(checkpoint)配置
checkpoint表用来保障一个事务执行完成后，在MySQL数据库从有一张表记录当前的日志回放点，与MySQL复制记录binlog的GTID或position点类似。
####切换至ogg软件目录并执行ggsci进入命令行终端
checkpointtable ogg.ggs_checkpoint
ggsci> dblogin sourcedb ogg@17X.1X.84.121:3306 userid ogg
ggsci> add checkpointtable ogg.ggs_checkpoint
（4）目标端OGG回放线程(replicat)配置
Replicat进程运行在目标端，是数据投递的最后一站，负责读取目标端Trail文件中的内容，并将解析其解析为DML语句，然后应用到目标数据库中。
####切换至ogg软件目录并执行ggsci进入命令行终端
####添加一个回放线程并与源端pump进程传输过来的trail文件关联，并使用checkpoint表确保数据不丢失
ggsci> add replicat r_cms,exttrail/opt/ogg/dirdat/ms,checkpointtable ogg.ggs_checkpoint
targetdb cms@17X.1X.84.121:3306,userid ogg,password ogg
sourcedefs/opt/ogg/dirdef/cms.def
discardfile/opt/ogg/dirrpt/r_cms.dsc,append,megabytes 1024
注意：replicat进程只需配置完成，无需启动，待全量抽取完成后再启动。
待全量数据抽取完毕后启动目标端回放进程即可完成数据准实时同步。
全量数据同步为一次性操作，当OGG软件部署完成及增量抽取进程配置并启动后，可配置1个特殊的extract进程从表中抽取数据，将抽取的数据保存到目标端生成文件，目标端同时启动一个单次运行的replicat回放进程将数据解析并回放至目标数据库中。
（1）源端OGG全量抽取进程(extract)配置
####切换至ogg软件目录并执行ggsci进入命令行终端
####增加/编辑全量抽取进程配置文件
####其中RMTFILE指定抽取的数据直接传送到远端对应目录下
####注意：RMTFILE参数指定的文件只支持2位字符，如果超过replicat则无法识别
SETENV(NLS_LANG="AMERICAN_AMERICA.AL32UTF8")
SETENV(ORACLE_HOME=/data/oracle/11.2/db_1)
RMTHOST 17X.1X.84.121,MGRPORT 7809
RMTFILE/opt/ogg/dirdat/ms,maxfiles 100,megabytes 1024,purge
shell> nohup./extract paramfile./dirprm/ei_cms.prm reportfile./dirrpt/ei_cms.rpt&
##查看日志是否正常进行全量抽取
shell> tail-f./dirrpt/ei_cms.rpt
（2）目标端OGG全量回放进程(replicat)配置
####切换至ogg软件目录并执行ggsci进入命令行终端
TARGETDB cms@17X.1X.84.121:3306,USERID ogg,PASSWORD ogg
DISCARDFILE./dirrpt/ri_cms.dsc,purge
shell> nohup./replicat paramfile./dirprm/ri_cms.prm reportfile./dirrpt/ri_cms.rpt&
####查看日志是否正常进行全量回放
shell> tail-f./dirrpt/ri_cms.rpt
数据校验是数据迁移过程中必不可少的环节，本章节提供给几个数据校验的思路共大家参数，校验方式可以由以下几个角度去实现：
1.通过OGG日志查看全量、增量过程中discards记录是否为0来判断是否丢失数据；
2.通过对源端、目标端的表执行count判断数据量是否一致；
3.编写类似于pt-table-checksum校验原理的程序，实现行级别一致性校验，这种方式优缺点特别明显，优点是能够完全准确对数据内容进行校验，缺点是需要遍历每一行数据，校验成本较高；
4.相对折中的数据校验方式是通过业务角度，提前编写好数十个返回结果较快的SQL，从业务角度抽样校验。
本章节将讲述迁移过程中碰到的一些问题及相应的解决方式。
在Oracle到MySQL的表结构迁移过程中主要碰到以下两个限制：
1. Oracle端的表结构因为最初设计不严谨，存在大量的列使用varchar(4000)数据类型，导致迁移到MySQL后超出行限制，表结构无法创建。由于MySQL本身数据结构的限制，一个16K的数据页最少要存储两行数据，因此单行数据不能超过65,535 bytes，因此针对这种情况有两种解决方式：
根据实际存储数据的长度，对超长的varchar列进行收缩；
对于无法收缩的列转换数据类型为text，但这在使用过程中可能导致一些性能问题；
2.与第一点类似，在Innodb存储引擎中，索引前缀长度限制是767 bytes，若使用DYNAMIC、COMPRESSED行格式且开启innodblargeprefix的场景下，这个限制是3072 bytes，即使用utf8mb4字符集时，最多只能对varchar(768)的列创建索引；
3.使用ogg全量初始化同步时，若存在外键约束，批量导入时由于各表的插入顺序不唯一，可能子表先插入数据而主表还未插入，导致报错子表依赖的记录不存在，因此建议数据迁移阶段禁用主外键约束，待迁移结束后再打开。
mysql>set global foreign_key_checks=off;
HANDLECOLLISIONS参数是实现OGG全量数据与增量数据衔接的关键，其实现原理是在全量抽取前先开启增量抽取进程，抓去全量应用期间产生的redo log，当全量应用完成后，开启增量回放进程，应用全量期间的增量数据。使用该参数后增量回放DML语句时主要有以下场景及处理逻辑：
目标端不存在delete语句的记录，忽略该问题并不记录到discardfile
-更新的是主键值，update转换成insert
-更新的键值是非主键，忽略该问题并不记录到discardfile
目标端重复insert已存在的主键值，这将被replicat进程转换为UPDATE现有主键值的行
在OGG版本选择上我们也根据用户的场景多次更换了OGG版本，最初因为客户的Oracle数据库版本为11.2.0.4，因此我们在选择OGG版本时优先选择使用了11版本，但是使用过程中发现，每次数据抽取生成的trail文件达到2G左右时，OGG报错连接中断，查看RMTFILE参数详细说明了解到trail文件默认限制为2G，后来我们替换OGG版本为12.3，使用MAXFILES参数控制生成多个指定大小的trail文件，回放时Replicat进程也能自动轮转读取Trail文件，最终解决该问题。但是如果不幸Oracle环境使用了Linux 5版本的系统，那么你的OGG需要再降一个小版本，最高只能使用OGG 12.2。
在迁移过程中还碰到一个比较难搞的问题就是当前Oracle端存在大量表没有主键。在MySQL中的表没有主键这几乎是不被允许的，因为很容易导致性能问题和主从延迟。同时在OGG迁移过程中表没有主键也会产生一些隐患，比如对于没有主键的表，OGG默认是将这个一行数据中所有的列拼凑起来作为唯一键，但实际还是可能存在重复数据导致数据同步异常，Oracle官方对此也提供了一个解决方案，通过对无主键表添加GUID列来作为行唯一标示，具体操作方式可以搜索MOS文档ID 1271578.1进行查看。
2019-03-08 06:15:22 ERROR OGG-01201 Error reported by MGR: Access denied.
错误信息含义源端报错表示为该抽取进程需要和目标端的mgr进程通讯，但是被拒绝，具体操作为：源端的extract进程需要与目标端mgr进行沟通，远程将目标的replicat进行启动，由于安全性现在而被拒绝连接。
在Oracle OGG 11版本后，增加了新特性安全性要求，如果需要远程启动目标端的replicat进程，需要在mgr节点增加访问控制参数允许远程调用
在源端和目标端的mgr节点上分别增加访问控制规则并重启
##表示该mgr节点允许(ALLOW)10.186网段(IPADDR)的所有类型程序(PROG*)进行连接访问ACCESSRULE, PROG*, IPADDR 10.186.*.*, ALLOW
2019-03-15 14:49:04 ERROR OGG-01192 Trying to use RMTTASK on data types which may be written as LOB chunks(Table:'UNIONPAYCMS.CMS_OT_CONTENT_RTF').
根据官方文档说明，当前直接通过Oracle数据库抽取数据写到MySQL这种initial-load方式，不支持LOBs数据类型，而表 UNIONPAYCMS.CMSOTCONTENT_RTF则包含了CLOB字段，无法进行传输,并且该方式不支持超过4k的字段数据类型
将抽取进程中的RMTTASK改为RMTFILE参数官方建议将数据先抽取成文件，再基于文件数据解析进行初始化导入
