mysql同步数据到hive---binlog方式

一、mysql同步数据到hive---binlog方式

mysql同步数据到hive大部分公司目前都是走的jdbc的方式。

这一步最主要的细节是将mysql库的所有binlog数据全部打入一个kafka topic，格式使用json。格式如下：

这一步的主要的细节在于写入到hdfs的结构，以及为什么不直接写入hive。

不写入到hive表的原因在于，binlog的数据结构是不固定的，而hive的结构相对是比较固定的。如果要写入到hive的话，就需要将不同的表的binlog写入到不同的hive表中，这个维护成本太高了。而且spark其实可以直接读取hdfs的json文件，因此直接放hdfs就好了。

写入到hdfs的话，考虑到后续读这个数据是要按照表去读增量数据，所以写入的目录一定是要带日期和表名称的。我这边用的目录结构是这样的：

也就是说要在flink根据数据所属的db、table_name、和日期将数据写入到不同的目录里。

在这一步的处理的过程中遇到了一些比较重要的参数问题。

2.如上所述checkpoint的时间间隔。不仅仅会影响checkpoint的频率，而且会影响hdfs文件的大小，而hdfs文件的大小可能会对hdfs的性能有很大影响。这个值如果太大，就会造成数据延迟太高，如果太小就会造成小文件过多。我这边设置的是5分钟。

细心的看官，这个时候会问了，既然你的目录是分table的，那么每个table每5分钟的binlog数据量是不一样的。对于某些大的mysql表，我们可能每5分钟生成一个文件还能接受。对于一些比较小的表，每五分钟生成一个文件那么文件就会非常小。所以我这边又做了一层的筛选，我把mysql的大的表筛选出来，只同步大的表到hdfs，用以binlog的数据同步。因为本身binlog的方式同步mysql数据为的就是节约mysql的读取压力，而小的表对于不会有太大压力，这些表可以直接通过jdbc的方式去同步。

这个是整个环节里面最复杂的一部分，涉及的细节也比较多。

首先，我们要明确一下总体的思路是什么。总体的思路就是要读取hdfs上的老的历史数据，然后和新的binlog数据合并生成新的快照。

其实这中间还涉及到一些其他的细节，比如mysql表结构变更，或者mysql和hive的数据结构不一致的情况。

另外我们这边还存在多个db的相同的表导入到hive的一张表中的其他问题，我就不赘述了。

二、mysql数据库同步问题

现在的网站随着访问量的增加,单一服务器无法承担巨大的访问量,有没有什么方便快捷的方式解决这个问题呢,答案是”有”!

比如建立服务器群,进行均衡负载.

但是如果要解决像电信网通这样的互访问题(中国网民的悲哀..),这个解决办法就无能为力了!

要解决这个问题最方便快捷的方式就是建立镜像网站!由访问者自己选择适合自己网络的速度最快的网站!这样即可以解决线路问题,又可以解决访问量问题!

一类是文件,比如HTML,ASP,PHP等网页文件,或者RAR,ZIP,RM,AVI等可下载文件!

要实现他们的同步很简单,用FTP同步软件就可以了!至于哪几个我会在后面做详细介绍.

一类是数据库数据文件,比如MySQL,SQLServer等等!

数据库同步的方法也很多,最简单的办法只是将数据库目录同步一下就OK了!

在这里用到的主要工具就是FTP,网站文件同步分两种情况,一种是本地到远程,一种是远程到远程(FXP)!第一种不用说了,第二种远程到远程即FXP,支持它的软件也很多,但是真正适合多网站同步镜像的却不多!

下面我介绍几个我认为不错的软件!

1.首先我要推荐的是国产的FTP软件”网络传神”,功能非常强大,特别是在网站的同步镜像方面,可惜的是,这款非常经典的软件已经不再更新了,最后更新时间是2003年3月,最后一个版本是3.12!虽然如此还是非常好用的!下面是一段官方的简介:

网络传神完全吸收了Cuteftp和UpdataNow的全部功能，并且增加了其他软件没有的多项功能：支持网站互传；支持网站同步(UPDATANOW)；支持后台上传(多线程上传多个文件)；可同时打开多个站点；多站点计划上传功能，支持镜像站点；支持宏操作支持计划操作；支持文件高级比较上传；支持目录隐藏过滤（为用ForntPage作主页的朋友带来福音）；服务器自动识别功能；资源管理器浏览方式；可以自定义命令；支持 RFC959标准具有更好的稳定性；完备的信息返回机制及错误监控机制完整的中文帮助。

2.第二款是由ReGet同一开发公司制作的专用于网站同步的软件”WebSynchronizer”,用这款软件,你才会体验到网站同步的方便快捷,简单容易.最新版本是1.3.62,网上能找到XX的最后版本是1.1版!下面是一段简介:

档案同步化工具-WebSynchronizer，由知名续传软件ReGet之软件出版公司所推出，是网站同步化、档案镜像、档案备份的绝佳工具，可以执行下列主要工作：1)本机资料夹及远程资料夹的同步化；2)两台远程计算机中的资料夹同步化；3)两个本机资料之同步化。

3.其他还有一些软件如同步快梭(AutoSyncFTP),也能实现简单的网站同步,不过,这款软件非常不稳定,而且2001年就已经停止开发.所以,不用考虑了!还有上次有朋友提到的SiteMirro,由于网上找不到可以用的版本,所以没有办法测试!

网络传神网站同步镜像使用傻瓜指南

上次在网络技术版已经发过一个简单的使用方法介绍,如果嫌我罗嗦(o(>_<)o),大家可以参考那篇文章:

第一次运行网络传神的时候,它会让你选择”完全模式”和”启动模式”,要使用网站同步必须选择”完全模式”.

进入主界面:你会发现这个软件非常像FlashGet,要使用网站同步功能,点击软件左下角的”FTP客户端”.

现在你要做的就是添加你的镜像母站和需要镜像的网站:文件->站点管理,在里面添加你需要同步的几个的FTP服务器,下面我将介绍具体设置(主要是镜像母站的设置)

母站设置最重要的地方就是”比较目录(网站同步)”:

就是手动拖动传送时候的传送方式,非拖动方式不受影响,因为母站的更新基本上是从本地目录进行的,所以建议这里选择第二项”只上传不同的文件”,镜像站点这里可以忽略

这个功能非常有用,可以通过文件长度和文件日期进行文件差异对比.

你还可以设置本地目录过滤和服务器目录过滤,非常灵活!

好了,添加好母站和镜像站之后,我们来设置同步:

如果是添加镜像站,则会跳出下面的母站选择窗口:

设置好多个镜像站点之后,返回主界面就可以进行网站同步了:

一般不要改动镜像站点前面的“对钩”标志，因为镜像站点同步的原理是“根据主站点的同步信息更新镜像站点”，如果景象站点没有更新那么必须将该镜像站点单独同步。

注意一般应该“选项窗口”-〉“FTP客户端”-〉“计划”中的“最大连接个数”和“最大线程个数”一般不要改动保持为“1”。

如果同步时某个站点出错同步没有完全完成只需按“计划”窗口中的按钮单独执行某个站点的传送即可。

再介绍一下网站镜像同步中必要的功能,定时同步,这样你就只要做好母站的更新,其他的让网络传神帮你完成:

进入网络传神的选项设置窗口,选中FTP客户端中的定时同步

定时下载：在指定的时段内下载文件。

定时上传：在指定的时段内用网站同步的方法进行上传。

开始时间：如果要使用定时方式必须设置此项，在设置的时间中会自动开始所有设置为计划的站点。

停止时间：如果设置此项则当系统时间大于停止时间时自动停止所有设置为计划的站点。

注意：定时上传种没有“停止时间”选项，网站同步完成后会自动停止，同时网站同步同一时间只能运行一次。

网络传神还有很多为便于同步镜像设置的功能,大家实际使用中去体会吧!

WebSynchronizer网站同步镜像使用傻瓜指南

WebSynchronizer功能非常强大,不单单是网站同步,还可以进行本地目录同步,本地到远程同步,功能方面远胜过传神,不过,国内好像没有汉化版,对于一些对英文感冒的朋友用起来会不太舒服,希望CCF里的汉化高手能将他中文化!

开始运行程序,老外的软件就是智能,一打开这个软件就会有一个同步向导跳出来!

在这里,你也看出来了吧,这个软件只支持两个目录间的同步.不过,我们可以创建多个项目来解决这个问题!具体我在后面介绍!这里,我们来看看如何建立两个远程目录的同步!

网站同步当然是选择第一项了!再进入下一步,要你选择同步的第一个服务器,建议在这里serverslist,先编辑好需要同步的几个FTP

第一项的意思是:上传下载所有改变的文件

第二项的意思是:不改变文件夹内容,只下载新的文件

点击下一步进行第二个服务器设置,方法和第一个一样!

设置完成后,你还可以修改任务名称!

我觉得这点就是这个软件非常优秀的地方,以任务的方式进行管理.非常方便!

OK,现在我们就可以看到他的主界面了!

还有一点要提,他的计划任务更能也很强大,在这里我就不再多说了!用过才知道他的强大!

有朋友会说,我要进行两个以上的网站同步怎么办?

很简单,再多建几个任务就可以了,要镜像多少网站都没有问题!

这个软件的网站同步镜像可以非常灵活,比如可以本地-远程,然后再远程-远程!或者本地-远程1,本地-远程2,远程1-远程2,任何情形下的同步都可以完成!

说完了文件同步,我们再来探讨一下数据库同步!

这里我主要教大家两种最常用的数据库的同步方法!

1.利用MySQL自身的数据库同步功能

2.利用MySQL数据库的特性(数据库存在固顶目录,并且以文件形式存储),进行数据库目录同步以达到数据同步目的

3.利用专用的MySQL数据库同步软件

1.利用MySQL自身的数据库同步功能(下面参考自网上的文章,写的非常详细了)

MySQL从3.23.15版本以后提供数据库复制功能。利用该功能可以实现两个数据库同步，主从模式，互相备份模式的功能.

数据库同步复制功能的设置都在mysql的设置文件中体现。mysql的配置文件（一般是my.cnf），在unix环境下在/etc/mysql/my.cnf或者在mysql用户的home目录下的my.cnf。

windows环境中，如果c:根目录下有my.cnf文件则取该配置文件。当运行mysql的winmysqladmin.exe工具时候，该工具会把c:根目录下的my.cnf命名为mycnf.bak。并在winnt目录下创建my.ini。mysql服务器启动时候会读该配置文件。所以可以把my.cnf中的内容拷贝到my.ini文件中，用my.ini文件作为mysql服务器的配置文件。

操作系统：window2000professional

1.增加一个用户最为同步的用户帐号：

GRANTFILEON*.*TObackup@'10.10.10.53'IDENTIFIEDBY‘1234’

2.增加一个数据库作为同步数据库：

1.增加一个用户最为同步的用户帐号：

GRANTFILEON*.*TObackup@'10.10.10.22'IDENTIFIEDBY‘1234’

2.增加一个数据库作为同步数据库：

修改Amysql的my.ini文件。在mysqld配置项中加入下面配置：

#设置需要记录log可以设置log-bin=c:mysqlbakmysqllog设置日志文件的目录，

#其中mysqllog是日志文件的名称，mysql将建立不同扩展名，文件名为mysqllog的几个日志文件。

binlog-do-db=backup#指定需要日志的数据库

用showmasterstatus命令看日志情况。

修改Bmysql的my.ini文件。在mysqld配置项中加入下面配置：

master-user=backup#同步用户帐号

master-connect-retry=60预设重试间隔60秒

replicate-do-db=backup告诉slave只做backup数据库的更新

用showslavestatus看同步配置情况。

注意：由于设置了slave的配置信息，mysql在数据库目录下生成master.info

所以如有要修改相关slave的配置要先删除该文件。否则修改的配置不能生效。

如果在A加入slave设置，在B加入master设置，则可以做B->A的同步。

在A的配置文件中mysqld配置项加入以下设置：

在B的配置文件中mysqld配置项加入以下设置：

注意：当有错误产生时*.err日志文件。同步的线程退出，当纠正错误后要让同步机制进行工作，运行slavestart

重起AB机器，则可以实现双向的热备。

向B批量插入大数据量表AA（1872000）条

A数据库每秒钟可以更新2500条数据。

2.数据库目录同步,方法和文件同步一样,设置好需要同步的两个数据库目录就可以了!

缺点很明显,数据同步只能单向进行,可以作为备份方案

3.用专用的MySQL同步软件进行同步

这方面的软件有SQLBalance和MyReplicator,优点是方便直观,还有很多争强功能!

当然你也可以修改镜像网站的程序为提交数据到母数据库,读取则在当前镜像下的数据,不过,修改起来麻烦!普通用户修改也非常难!呵呵,大家了解一下就可以!给大家一个思路!有能力的朋友可以试试阿!

由于数据来源的不可控制(不好表达),论坛数据是实时的,而且还要考虑来自镜像论坛的数据,如何实现镜像论坛与母论坛数据同步呢?

用1中介绍的MySQL自带的数据库同步功能互相备份模式就可以实现的!

不过,具体的应用我没有测试!稳定性不敢保证!

有能力的朋友推荐用下面这种思路来同步,相对来说减少点效率,但能减少发生的错误!

1.母论坛和镜像论坛的数据全写在母论坛数据库里,主从模式,读取只在本地读取,这个需要修改程序!

2.每次写数据,都同时提交到两个数据库中,安全,但是效率很差,也得修改程序!

MSSQL数据同步利用数据库复制技术实现数据同步更新(来自网络,也是非常完美的教程)

复制是将一组数据从一个数据源拷贝到多个数据源的技术，是将一份数据发布到多个存储站点上的有效方式。使用复制技术，用户可以将一份数据发布到多台服务器上，从而使不同的服务器用户都可以在权限的许可的范围内共享这份数据。复制技术可以确保分布在不同地点的数据自动同步更新，从而保证数据的一致性。

出版服务器、订阅服务器、分发服务器、出版物、文章

SQLSERVER主要采用出版物、订阅的方式来处理复制。源数据所在的服务器是出版服务器，负责发表数据。出版服务器把要发表的数据的所有改变情况的拷贝复制到分发服务器，分发服务器包含有一个分发数据库，可接收数据的所有改变，并保存这些改变，再把这些改变分发给订阅服务器

SQLSERVER提供了三种复制技术，分别是：

1、快照复制（呆会我们就使用这个）

只要把上面这些概念弄清楚了那么对复制也就有了一定的理解。接下来我们就一步一步来实现复制的步骤。

(2)从[工具]下拉菜单的[复制]子菜单中选择[发布、订阅服务器和分发]命令

(3)系统弹出一个对话框点[下一步]然后看着提示一直操作到完成。

(4)当完成了出版服务器的设置以后系统会为该服务器的树形结构中添加一个复制监视器。同时也生成一个分发数据库(distribution)

(2)从[工具]菜单的[复制]子菜单中选择[创建和管理发布]命令。此时系统会弹出一个对话框

(3)选择要创建出版物的数据库，然后单击[创建发布]

(4)在[创建发布向导]的提示对话框中单击[下一步]系统就会弹出一个对话框。对话框上的内容是复制的三个类型。我们现在选第一个也就是默认的快照发布(其他两个大家可以去看看帮助)

(5)单击[下一步]系统要求指定可以订阅该发布的数据库服务器类型，SQLSERVER允许在不同的数据库如ORACLE或ACCESS之间进行数据复制。但是在这里我们选择运行"SQLSERVER2000"的数据库服务器

(6)单击[下一步]系统就弹出一个定义文章的对话框也就是选择要出版的表

(7)然后[下一步]直到操作完成。当完成出版物的创建后创建出版物的数据库也就变成了一个共享数据库。

(2)从[工具]下拉菜单中选择[复制]子菜单的[请求订阅]

(3)按照单击[下一步]操作直到系统会提示检查SQLSERVER代理服务的运行状态，执行复制操作的前提条件是SQLSERVER代理服务必须已经启动。

完成上面的步骤其实复制也就是成功了。但是如何来知道复制是否成功了呢？这里可以通过这种方法来快速看是否成功。展开出版服务器下面的复制——发布内容——右键发布内容——属性——击活——状态然后点立即运行代理程序接着点代理程序属性击活调度把调度设置为每一天发生，每一分钟，在0：00：00和23：59：59之间。接下来就是判断复制是否成功了打开C:/ProgramFiles/MicrosoftSQLServer/MSSQL/REPLDATA/unc/XIAOWANGZI_database_database下面看是不是有一些以时间做为文件名的文件夹差不多一分中就产生一个。要是你还不信的话就打开你的数据库看在订阅的服务器的指定订阅数据库下看是不是看到了你刚才所发布的表—

--测试环境,SQLServer2000,远程服务器名:xz,用户名为:sa,无密码,测试数据库:test

--服务器上的表(查询分析器连接到服务器上创建)

createtable[user](idintprimarykey,numbervarchar(4),namevarchar(10))

--本机的表,state说明:null表示新增记录,1表示修改过的记录,0表示无变化的记录

ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[user]')andOBJECTPROPERTY(id,N'IsUserTable')=1)

createtable[user](idintidentity(1,1),numbervarchar(4),namevarchar(10),statebit)

--创建触发器,维护state字段的值

from[user]ajoininsertedbona.id=b.id

--为了方便同步处理,创建链接服务器到要同步的服务器

--这里的远程服务器名为:xz,用户名为:sa,无密码

ifexists(select1frommaster..sysserverswheresrvname='srv_lnk')

execsp_dropserver'srv_lnk','droplogins'

execsp_addlinkedserver'srv_lnk','','SQLOLEDB','xz'

execsp_addlinkedsrvlogin'srv_lnk','false',null,'sa'

ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[dbo].[p_synchro]')andOBJECTPROPERTY(id,N'IsProcedure')=1)

dropprocedure[dbo].[p_synchro]

--execmaster..xp_cmdshell'isql/S"xz"/U"sa"/P""/q"execmaster..xp_cmdshell''netstartmsdtc'',no_output"',no_output

--execmaster..xp_cmdshell'netstartmsdtc',no_output

--进行分布事务处理,如果表用标识列做主键,用下面的方法

deletefromsrv_lnk.test.dbo.[user]

whereidnotin(selectidfrom[user])

insertintosrv_lnk.test.dbo.[user]

selectid,number,namefrom[user]wherestateisnull

updatesrv_lnk.test.dbo.[user]set

update[user]setstate=0whereisnull(state,1)=1

--创建作业,定时执行数据同步的存储过程

ifexists(SELECT1frommsdb..sysjobswherename='数据处理')

EXECUTEmsdb.dbo.sp_delete_job@job_name='数据处理'

execmsdb..sp_add_job@job_name='数据处理'

declare@sqlvarchar(800),@dbnamevarchar(250)

select@sql='execp_synchro'--数据处理的命令

,@dbname=db_name()--执行数据处理的数据库名

execmsdb..sp_add_jobstep@job_name='数据处理',

@step_name='数据同步',

EXECmsdb..sp_add_jobschedule@job_name='数据处理',

@freq_interval=1,--每天执行一次

@active_start_time=00000--0点执行

see to

三、mysql如何实现两个数据库数据结构实时同步

1、在RDS上如果没有发生数据的增加、删除或修改，可以通过生成物理备份或逻辑备份，然后利用Xtrabackup或mysqldump将数据导入到自建库。然而，如果在生成物理备份后，数据库仍然有数据增删改操作，恢复物理备份后，还需要追加后续的binlog文件。可以通过API或控制台获取binlog文件，进而追加增量数据。需要注意的是，在解压物理备份文件后，除了数据和索引文件外，还会有其他文件，例如binlog文件等。这是因为应用binlog时需要记录binlog的pos点，而RDS采用主备架构，备份操作在从库上执行，生成的binlog文件可能是主库或从库上的，因此在物理备份文件中提供了两个binlog文件的pos点。

2、为了确保binlog应用的准确性，用户需要测试这两个pos点，看哪一个可以在binlog中找到，从该pos点开始应用binlog。另外，用户也可以利用DTS的数据订阅功能，将RDS上的增量数据同步到自建库的binlog上，通过SDK即可消费增量数据并自行应用。

3、总而言之，无论是物理备份还是逻辑备份，都需要考虑主备架构带来的binlog文件差异，以确保数据同步的完整性和准确性。同时，利用DTS的数据订阅功能可以实现增量数据的高效同步，减少数据同步的复杂度。

4、在实际操作过程中，用户还需要注意备份的频率、备份文件的存储位置以及网络带宽等因素，确保数据同步的实时性和稳定性。此外，定期检查备份文件的完整性和可用性，及时处理可能出现的问题，也是保证数据同步的重要步骤。

5、综上所述，通过合理利用RDS的备份和binlog功能，结合DTS的数据订阅功能，可以实现两个数据库之间数据结构的实时同步。这不仅需要用户具备一定的技术知识，还需要对备份策略和数据同步过程有深入的理解。

6、在进行数据同步时，还需要考虑数据的安全性和一致性，确保同步过程中的数据不会丢失或损坏。此外，还可以通过设置合适的恢复点目标，以确保在遇到故障时能够快速恢复数据。

7、总之，实现两个数据库数据结构的实时同步，需要综合运用多种技术手段和策略，才能达到高效、可靠的效果。