本文目录一览：
mysql数据库同步问题
mysql有事务的,没有问题.
最佳答案
.介绍
现在的网站随着访问量的增加,单一服务器无法承担巨大的访问量,有没有什么方便快捷的方式解决这个问题呢,答案是”有”!
比如建立服务器群,进行均衡负载.
但是如果要解决像电信网通这样的互访问题(中国网民的悲哀..),这个解决办法就无能为力了!
要解决这个问题最方便快捷的方式就是建立镜像网站!由访问者自己选择适合自己网络的速度最快的网站!这样即可以解决线路问题,又可以解决访问量问题!
2.网站同步的数据分类
网站数据基本分为两类:
一类是文件,比如HTML,ASP,PHP等网页文件,或者RAR,ZIP,RM,AVI等可下载文件!
要实现他们的同步很简单,用FTP同步软件就可以了!至于哪几个我会在后面做详细介绍.
一类是数据库数据文件,比如MySQL,SQLServer等等!
数据库同步的方法也很多,最简单的办法只是将数据库目录同步一下就OK了!
在后面我也会做详细讲解!
3.网站文件的同步
在这里用到的主要工具就是FTP,网站文件同步分两种情况,一种是本地到远程,一种是远程到远程(FXP)!第一种不用说了,第二种远程到远程即FXP,支持它的软件也很多,但是真正适合多网站同步镜像的却不多!
下面我介绍几个我认为不错的软件!
1.首先我要推荐的是国产的FTP软件”网络传神”,功能非常强大,特别是在网站的同步镜像方面,可惜的是,这款非常经典的软件已经不再更新了,最后更新时间是2003年3月,最后一个版本是3.12!虽然如此还是非常好用的!下面是一段官方的简介:
网络传神完全吸收了Cuteftp和UpdataNow的全部功能，并且增加了其他软件没有的多项功能：支持网站互传；支持网站同步 (UPDATANOW)；支持后台上传(多线程上传多个文件)；可同时打开多个站点；多站点计划上传功能，支持镜像站点；支持宏操作支持计划操作；支持文件高级比较上传；支持目录隐藏过滤（为用ForntPage作主页的朋友带来福音）；服务器自动识别功能；资源管理器浏览方式；可以自定义命令；支持 RFC959标准具有更好的稳定性；完备的信息返回机制及错误监控机制完整的中文帮助。
2.第二款是由ReGet同一开发公司制作的专用于网站同步的软件”WebSynchronizer”,用这款软件,你才会体验到网站同步的方便快捷,简单容易.最新版本是1.3.62,网上能找到XX的最后版本是1.1版!下面是一段简介:
档案同步化工具-WebSynchronizer，由知名续传软件ReGet之软件出版公司所推出，是网站同步化、档案镜像、档案备份的绝佳工具，可以执行下列主要工作：1)本机资料夹及远程资料夹的同步化；2)两台远程计算机中的资料夹同步化；3)两个本机资料之同步化。
3.其他还有一些软件如同步快梭(AutoSyncFTP),也能实现简单的网站同步,不过,这款软件非常不稳定,而且2001年就已经停止开发.所以,不用考虑了!还有上次有朋友提到的SiteMirro,由于网上找不到可以用的版本,所以没有办法测试!
网络传神网站同步镜像使用傻瓜指南
上次在网络技术版已经发过一个简单的使用方法介绍,如果嫌我罗嗦(o(_)o),大家可以参考那篇文章:
第一次运行网络传神的时候,它会让你选择”完全模式”和”启动模式”,要使用网站同步必须选择”完全模式”.
进入主界面:你会发现这个软件非常像FlashGet,要使用网站同步功能,点击软件左下角的”FTP客户端”.
现在你要做的就是添加你的镜像母站和需要镜像的网站:文件-站点管理,在里面添加你需要同步的几个的FTP服务器,下面我将介绍具体设置(主要是镜像母站的设置)
母站设置最重要的地方就是”比较目录(网站同步)”:
1.拖动传送
就是手动拖动传送时候的传送方式,非拖动方式不受影响,因为母站的更新基本上是从本地目录进行的,所以建议这里选择第二项”只上传不同的文件”,镜像站点这里可以忽略
2.磁盘比较设置
这个功能非常有用,可以通过文件长度和文件日期进行文件差异对比.
你还可以设置本地目录过滤和服务器目录过滤,非常灵活!
好了,添加好母站和镜像站之后,我们来设置同步:
如果是添加镜像站,则会跳出下面的母站选择窗口:
设置好多个镜像站点之后,返回主界面就可以进行网站同步了:
注意事项：
一般不要改动镜像站点前面的“对钩”标志，因为镜像站点同步的原理是“根据主站点的同步信息更新镜像站点”，如果景象站点没有更新那么必须将该镜像站点单独同步。
注意一般应该“选项窗口”-〉“FTP客户端”-〉“计划”中的“最大连接个数”和“最大线程个数”一般不要改动保持为“1”。
如果同步时某个站点出错同步没有完全完成只需按“计划”窗口中的按钮单独执行某个站点的传送即可。
再介绍一下网站镜像同步中必要的功能,定时同步,这样你就只要做好母站的更新,其他的让网络传神帮你完成:
点击设置:
进入网络传神的选项设置窗口,选中FTP客户端中的定时同步
定时下载：在指定的时段内下载文件。
定时上传：在指定的时段内用网站同步的方法进行上传。
开始时间：如果要使用定时方式必须设置此项，在设置的时间中会自动开始所有设置为计划的站点。
停止时间：如果设置此项则当系统时间大于停止时间时自动停止所有设置为计划的站点。
注意：定时上传种没有“停止时间”选项，网站同步完成后会自动停止，同时网站同步同一时间只能运行一次。
网络传神还有很多为便于同步镜像设置的功能,大家实际使用中去体会吧!
WebSynchronizer网站同步镜像使用傻瓜指南
WebSynchronizer功能非常强大,不单单是网站同步,还可以进行本地目录同步,本地到远程同步,功能方面远胜过传神,不过,国内好像没有汉化版,对于一些对英文感冒的朋友用起来会不太舒服,希望CCF里的汉化高手能将他中文化!
开始运行程序,老外的软件就是智能,一打开这个软件就会有一个同步向导跳出来!
在这里,你也看出来了吧,这个软件只支持两个目录间的同步.不过,我们可以创建多个项目来解决这个问题!具体我在后面介绍!这里,我们来看看如何建立两个远程目录的同步!
选择第二项,进入下一个选择框:
网站同步当然是选择第一项了!再进入下一步,要你选择同步的第一个服务器,建议在这里serverslist,先编辑好需要同步的几个FTP
同步方式设置说明:
第一项的意思是:上传下载所有改变的文件
第二项的意思是:不改变文件夹内容,只下载新的文件
点击下一步进行第二个服务器设置,方法和第一个一样!
设置完成后,你还可以修改任务名称!
我觉得这点就是这个软件非常优秀的地方,以任务的方式进行管理.非常方便!
OK,现在我们就可以看到他的主界面了!
还有一点要提,他的计划任务更能也很强大,在这里我就不再多说了!用过才知道他的强大!
有朋友会说,我要进行两个以上的网站同步怎么办?
很简单,再多建几个任务就可以了,要镜像多少网站都没有问题!
这个软件的网站同步镜像可以非常灵活,比如可以本地-远程,然后再远程-远程!或者本地-远程1,本地-远程2,远程1-远程2,任何情形下的同步都可以完成!
数据库同步操作指南
说完了文件同步,我们再来探讨一下数据库同步!
这里我主要教大家两种最常用的数据库的同步方法!
MySQL
MySQL数据同步主要有三种方式:
1.利用MySQL自身的数据库同步功能
2.利用MySQL数据库的特性(数据库存在固顶目录,并且以文件形式存储),进行数据库目录同步以达到数据同步目的
3.利用专用的MySQL数据库同步软件
1.利用MySQL自身的数据库同步功能(下面参考自网上的文章,写的非常详细了)
MySQL从3.23.15版本以后提供数据库复制功能。利用该功能可以实现两个数据库同步，主从模式，互相备份模式的功能.
数据库同步复制功能的设置都在mysql的设置文件中体现。mysql的配置文件（一般是my.cnf），在unix环境下在/etc/mysql/my.cnf或者在mysql用户的home目录下的my.cnf。
windows环境中，如果c:根目录下有my.cnf文件则取该配置文件。当运行mysql的winmysqladmin.exe工具时候，该工具会把c:根目录下的my.cnf命名为mycnf.bak。并在winnt目录下创建my.ini。mysql服务器启动时候会读该配置文件。所以可以把my.cnf中的内容拷贝到my.ini文件中，用my.ini文件作为mysql服务器的配置文件。
设置方法：
设置范例环境：
操作系统：window2000professional
mysql：4.0.4-beta-max-nt-log
Aip:10.10.10.22
Bip:10.10.10.53
A:设置
1.增加一个用户最为同步的用户帐号：
GRANTFILEON*.*TObackup@'10.10.10.53'IDENTIFIEDBY‘1234’
2.增加一个数据库作为同步数据库：
createdatabasebackup
B:设置
1.增加一个用户最为同步的用户帐号：
GRANTFILEON*.*TObackup@'10.10.10.22'IDENTIFIEDBY‘1234’
2.增加一个数据库作为同步数据库：
createdatabasebackup
主从模式：A-B
A为master
修改Amysql的my.ini文件。在mysqld配置项中加入下面配置：
server-id=1
log-bin
#设置需要记录log可以设置log-bin=c:mysqlbakmysqllog设置日志文件的目录，
#其中mysqllog是日志文件的名称，mysql将建立不同扩展名，文件名为mysqllog的几个日志文件。
binlog-do-db=backup#指定需要日志的数据库
重起数据库服务。
用showmasterstatus命令看日志情况。
B为slave
修改Bmysql的my.ini文件。在mysqld配置项中加入下面配置：
server-id=2
master-host=10.10.10.22
master-user=backup#同步用户帐号
master-password=1234
master-port=3306
master-connect-retry=60预设重试间隔60秒
replicate-do-db=backup告诉slave只做backup数据库的更新
重起数据库
用showslavestatus看同步配置情况。
注意：由于设置了slave的配置信息，mysql在数据库目录下生成master.info
所以如有要修改相关slave的配置要先删除该文件。否则修改的配置不能生效。
双机互备模式。
如果在A加入slave设置，在B加入master设置，则可以做B-A的同步。
在A的配置文件中mysqld配置项加入以下设置：
master-host=10.10.10.53
master-user=backup
master-password=1234
replicate-do-db=backup
master-connect-retry=10
在B的配置文件中mysqld配置项加入以下设置：
log-bin=c:mysqllogmysqllog
binlog-do-db=backup
注意：当有错误产生时*.err日志文件。同步的线程退出，当纠正错误后要让同步机制进行工作，运行slavestart
重起AB机器，则可以实现双向的热备。
测试：
向B批量插入大数据量表AA（1872000）条
A数据库每秒钟可以更新2500条数据。
2.数据库目录同步,方法和文件同步一样,设置好需要同步的两个数据库目录就可以了!
缺点很明显,数据同步只能单向进行,可以作为备份方案
3.用专用的MySQL同步软件进行同步
这方面的软件有SQLBalance和MyReplicator,优点是方便直观,还有很多争强功能!
缺点和2一样,只能单项同步!
当然你也可以修改镜像网站的程序为提交数据到母数据库,读取则在当前镜像下的数据,不过,修改起来麻烦!普通用户修改也非常难!呵呵,大家了解一下就可以!给大家一个思路!有能力的朋友可以试试阿!
4.关于MySQL论坛的数据同步
由于数据来源的不可控制(不好表达),论坛数据是实时的,而且还要考虑来自镜像论坛的数据,如何实现镜像论坛与母论坛数据同步呢?
用1中介绍的MySQL自带的数据库同步功能互相备份模式就可以实现的!
不过,具体的应用我没有测试!稳定性不敢保证!
有能力的朋友推荐用下面这种思路来同步,相对来说减少点效率,但能减少发生的错误!
比如镜像论坛数据同步:
1.母论坛和镜像论坛的数据全写在母论坛数据库里,主从模式,读取只在本地读取,这个需要修改程序!
2.每次写数据,都同时提交到两个数据库中,安全,但是效率很差,也得修改程序!
MSSQL
MSSQL数据同步利用数据库复制技术实现数据同步更新(来自网络,也是非常完美的教程)
复制的概念
复制是将一组数据从一个数据源拷贝到多个数据源的技术，是将一份数据发布到多个存储站点上的有效方式。使用复制技术，用户可以将一份数据发布到多台服务器上，从而使不同的服务器用户都可以在权限的许可的范围内共享这份数据。复制技术可以确保分布在不同地点的数据自动同步更新，从而保证数据的一致性。
SQL复制的基本元素包括
出版服务器、订阅服务器、分发服务器、出版物、文章
SQL复制的工作原理
SQLSERVER主要采用出版物、订阅的方式来处理复制。源数据所在的服务器是出版服务器，负责发表数据。出版服务器把要发表的数据的所有改变情况的拷贝复制到分发服务器，分发服务器包含有一个分发数据库，可接收数据的所有改变，并保存这些改变，再把这些改变分发给订阅服务器
SQLSERVER复制技术类型
SQLSERVER提供了三种复制技术，分别是：
1、快照复制（呆会我们就使用这个）
2、事务复制
3、合并复制
只要把上面这些概念弄清楚了那么对复制也就有了一定的理解。接下来我们就一步一步来实现复制的步骤。
第一先来配置出版服务器
(1)选中指定[服务器]节点
(2)从[工具]下拉菜单的[复制]子菜单中选择[发布、订阅服务器和分发]命令
(3)系统弹出一个对话框点[下一步]然后看着提示一直操作到完成。
(4)当完成了出版服务器的设置以后系统会为该服务器的树形结构中添加一个复制监视器。同时也生成一个分发数据库(distribution)
第二创建出版物
(1)选中指定的服务器
(2)从[工具]菜单的[复制]子菜单中选择[创建和管理发布]命令。此时系统会弹出一个对话框
(3)选择要创建出版物的数据库，然后单击[创建发布]
(4)在[创建发布向导]的提示对话框中单击[下一步]系统就会弹出一个对话框。对话框上的内容是复制的三个类型。我们现在选第一个也就是默认的快照发布(其他两个大家可以去看看帮助)
(5)单击[下一步]系统要求指定可以订阅该发布的数据库服务器类型，SQLSERVER允许在不同的数据库如ORACLE或ACCESS之间进行数据复制。但是在这里我们选择运行"SQLSERVER2000"的数据库服务器
(6)单击[下一步]系统就弹出一个定义文章的对话框也就是选择要出版的表
(7)然后[下一步]直到操作完成。当完成出版物的创建后创建出版物的数据库也就变成了一个共享数据库。
第三设计订阅
(1)选中指定的订阅服务器
(2)从[工具]下拉菜单中选择[复制]子菜单的[请求订阅]
(3)按照单击[下一步]操作直到系统会提示检查SQLSERVER代理服务的运行状态，执行复制操作的前提条件是SQLSERVER代理服务必须已经启动。
(4)单击[完成]。完成订阅操作。
完成上面的步骤其实复制也就是成功了。但是如何来知道复制是否成功了呢？这里可以通过这种方法来快速看是否成功。展开出版服务器下面的复制——发布内容——右键发布内容——属性——击活——状态然后点立即运行代理程序接着点代理程序属性击活调度把调度设置为每一天发生，每一分钟，在0：00：00 和23：59：59之间。接下来就是判断复制是否成功了打开C: /ProgramFiles/MicrosoftSQLServer/MSSQL/REPLDATA/unc/XIAOWANGZI_database_database 下面看是不是有一些以时间做为文件名的文件夹差不多一分中就产生一个。要是你还不信的话就打开你的数据库看在订阅的服务器的指定订阅数据库下看是不是看到了你刚才所发布的表—
一个手工同步的方案
--定时同步服务器上的数据
--例子:
--测试环境,SQLServer2000,远程服务器名:xz,用户名为:sa,无密码,测试数据库:test
--服务器上的表(查询分析器连接到服务器上创建)
createtable[user](idintprimarykey,numbervarchar(4),namevarchar(10))
go
--以下在局域网(本机操作)
--本机的表,state说明:null表示新增记录,1表示修改过的记录,0表示无变化的记录
ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[user]')andOBJECTPROPERTY(id,N'IsUserTable')=1)
droptable[user]
GO
createtable[user](idintidentity(1,1),numbervarchar(4),namevarchar(10),statebit)
go
--创建触发器,维护state字段的值
createtriggert_stateon[user]
afterupdate
as
update[user]setstate=1
from[user]ajoininsertedbona.id=b.id
wherea.stateisnotnull
go
--为了方便同步处理,创建链接服务器到要同步的服务器
--这里的远程服务器名为:xz,用户名为:sa,无密码
ifexists(select1frommaster..sysserverswheresrvname='srv_lnk')
execsp_dropserver'srv_lnk','droplogins'
go
execsp_addlinkedserver'srv_lnk','','SQLOLEDB','xz'
execsp_addlinkedsrvlogin'srv_lnk','false',null,'sa'
go
--创建同步处理的存储过程
ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[dbo].[p_synchro]')andOBJECTPROPERTY(id,N'IsProcedure')=1)
dropprocedure[dbo].[p_synchro]
GO
createprocp_synchro
as
--setXACT_ABORTon
--启动远程服务器的MSDTC服务
--execmaster..xp_cmdshell'isql/S"xz"/U"sa"/P""/q"execmaster..xp_cmdshell''netstartmsdtc'',no_output"',no_output
--启动本机的MSDTC服务
--execmaster..xp_cmdshell'netstartmsdtc',no_output
--进行分布事务处理,如果表用标识列做主键,用下面的方法
--BEGINDISTRIBUTEDTRANSACTION
--同步删除的数据
deletefromsrv_lnk.test.dbo.[user]
whereidnotin(selectidfrom[user])
--同步新增的数据
insertintosrv_lnk.test.dbo.[user]
selectid,number,namefrom[user]wherestateisnull
--同步修改的数据
updatesrv_lnk.test.dbo.[user]set
number=b.number,name=b.name
fromsrv_lnk.test.dbo.[user]a
join[user]bona.id=b.id
whereb.state=1
--同步后更新本机的标志
update[user]setstate=0whereisnull(state,1)=1
--COMMITTRAN
go
--创建作业,定时执行数据同步的存储过程
ifexists(SELECT1frommsdb..sysjobswherename='数据处理')
EXECUTEmsdb.dbo.sp_delete_job@job_name='数据处理'
execmsdb..sp_add_job@job_name='数据处理'
--创建作业步骤
declare@sqlvarchar(800),@dbnamevarchar(250)
select@sql='execp_synchro'--数据处理的命令
,@dbname=db_name()--执行数据处理的数据库名
execmsdb..sp_add_jobstep@job_name='数据处理',
@step_name='数据同步',
@subsystem='TSQL',
@database_name=@dbname,
@command=@sql,
@retry_attempts=5,--重试次数
@retry_interval=5--重试间隔
--创建调度
EXECmsdb..sp_add_jobschedule@job_name='数据处理',
@name='时间安排',
@freq_type=4,--每天
@freq_interval=1,--每天执行一次
@active_start_time=00000--0点执行
go
see to
mysql中间件有哪些
mysql-proxy是官方提供的mysql中间件产品可以实现负载平衡，读写分离，failover等，但其不支持大数据量的分库分表且性能较差。下面介绍几款能代替其的mysql开源中间件产品，Atlas，cobar，tddl，让我们看看它们各自有些什么优点和新特性吧。
Atlas
Atlas是由 Qihoo 360, Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上，对其进行了优化，增加了一些新的功能特性。360内部使用Atlas运行的mysql业务，每天承载的读写请求数达几十亿条。
Altas架构：
Atlas是一个位于应用程序与MySQL之间，它实现了MySQL的客户端与服务端协议，作为服务端与应用程序通讯，同时作为客户端与MySQL通讯。它对应用程序屏蔽了DB的细节，同时为了降低MySQL负担，它还维护了连接池。
以下是一个可以参考的整体架构，LVS前端做负载均衡，两个Altas做HA,防止单点故障。
Altas的一些新特性：
1.主库宕机不影响读
主库宕机，Atlas自动将宕机的主库摘除，写操作会失败，读操作不受影响。从库宕机，Atlas自动将宕机的从库摘除，对应用没有影响。在mysql官方的proxy中主库宕机，从库亦不可用。
2.通过管理接口，简化管理工作，DB的上下线对应用完全透明，同时可以手动上下线。
3.自己实现读写分离
（1）为了解决读写分离存在写完马上就想读而这时可能存在主从同步延迟的情况，Altas中可以在SQL语句前增加 /*master*/ 就可以将读请求强制发往主库。
主库可设置多项，用逗号分隔，从库可设置多项和权重，达到负载均衡。
4.自己实现分表
（1）需带有分表字段。
（2）支持SELECT、INSERT、UPDATE、DELETE、REPLACE语句。
（3）支持多个子表查询结果的合并和排序。
这里不得不吐槽Atlas的分表功能，不能实现分布式分表，所有的子表必须在同一台DB的同一个database里且所有的子表必须事先建好，Atlas没有自动建表的功能。
5.之前官方主要功能逻辑由使用lua脚本编写，效率低，Atlas用C改写，QPS提高，latency降低。
6.安全方面的提升
（1）通过配置文件中的pwds参数进行连接Atlas的用户的权限控制。
（2）通过client-ips参数对有权限连接Atlas的ip进行过滤。
（3）日志中记录所有通过Altas处理的SQL语句，包括客户端IP、实际执行该语句的DB、执行成功与否、执行所耗费的时间 ，如下面例子。
图4
7.平滑重启
通过配置文件中设置lvs-ips参数实现平滑重启功能，否则重启Altas的瞬间那些SQL请求都会失败。该参数前面挂接的lvs的物理网卡的ip，注意不是虚ip。平滑重启的条件是至少有两台配置相同的Atlas且挂在lvs之后。
source：
alibaba.cobar
Cobar是阿里巴巴（B2B）部门开发的一种关系型数据的分布式处理系统，它可以在分布式的环境下看上去像传统数据库一样为您提供海量数据服务。那么具体说说我们为什么要用它，或说cobar--能干什么？以下是我们业务运行中会存在的一些问题：
1.随着业务的进行数据库的数据量和访问量的剧增，需要对数据进行水平拆分来降低单库的压力，而且需要高效且相对透明的来屏蔽掉水平拆分的细节。
2.为提高访问的可用性，数据源需要备份。
3.数据源可用性的检测和failover。
4.前台的高并发造成后台数据库连接数过多，降低了性能，怎么解决。
针对以上问题就有了cobar施展自己的空间了，cobar中间件以proxy的形式位于前台应用和实际数据库之间，对前台的开放的接口是mysql通信协议。将前台SQL语句变更并按照数据分布规则转发到合适的后台数据分库，再合并返回结果，模拟单库下的数据库行为。
Cobar应用举例
应用架构：
应用介绍：
1.通过Cobar提供一个名为test的数据库，其中包含t1,t2两张表。后台有3个MySQL实例(ip:port)为其提供服务，分别为：A,B,C。
2.期望t1表的数据放置在实例A中，t2表的数据水平拆成四份并在实例B和C中各自放两份。t2表的数据要具备HA功能，即B或者C实例其中一个出现故障，不影响使用且可提供完整的数据服务。
cabar优点总结：
1.数据和访问从集中式改变为分布：
（1）Cobar支持将一张表水平拆分成多份分别放入不同的库来实现表的水平拆分
（2）Cobar也支持将不同的表放入不同的库
（3） 多数情况下，用户会将以上两种方式混合使用
注意！：Cobar不支持将一张表，例如test表拆分成test_1,test_2, test_3.....放在同一个库中，必须将拆分后的表分别放入不同的库来实现分布式。
2.解决连接数过大的问题。
3.对业务代码侵入性少。
4.提供数据节点的failover,HA：
(1)Cobar的主备切换有两种触发方式，一种是用户手动触发，一种是Cobar的心跳语句检测到异常后自动触发。那么，当心跳检测到主机异常，切换到备机，如果主机恢复了，需要用户手动切回主机工作，Cobar不会在主机恢复时自动切换回主机，除非备机的心跳也返回异常。
(2)Cobar只检查MySQL主备异常，不关心主备之间的数据同步，因此用户需要在使用Cobar之前在MySQL主备上配置双向同步。
cobar缺点：
开源版本中数据库只支持mysql，并且不支持读写分离。
source：
TDDL
淘宝根据自己的业务特点开发了TDDL（Taobao Distributed Data Layer 外号:头都大了 ©_Ob）框架，主要解决了分库分表对应用的透明化以及异构数据库之间的数据复制，它是一个基于集中式配置的 jdbc datasource实现，具有主备，读写分离，动态数据库配置等功能。
TDDL所处的位置（tddl通用数据访问层，部署在客户端的jar包，用于将用户的SQL路由到指定的数据库中）：
淘宝很早就对数据进行过分库的处理， 上层系统连接多个数据库，中间有一个叫做DBRoute的路由来对数据进行统一访问。DBRoute对数据进行多库的操作、数据的整合，让上层系统像操作一个数据库一样操作多个库。但是随着数据量的增长，对于库表的分法有了更高的要求，例如，你的商品数据到了百亿级别的时候，任何一个库都无法存放了，于是分成2个、4个、8个、16个、32个……直到1024个、2048个。好，分成这么多，数据能够存放了，那怎么查询它？这时候，数据查询的中间件就要能够承担这个重任了，它对上层来说，必须像查询一个数据库一样来查询数据，还要像查询一个数据库一样快（每条查询在几毫秒内完成），TDDL就承担了这样一个工作。在外面有些系统也用DAL（数据访问层） 这个概念来命名这个中间件。
下图展示了一个简单的分库分表数据查询策略：
主要优点：
1.数据库主备和动态切换
2.带权重的读写分离
3.单线程读重试
4.集中式数据源信息管理和动态变更
5.剥离的稳定jboss数据源
6.支持mysql和oracle数据库
7.基于jdbc规范，很容易扩展支持实现jdbc规范的数据源
8.无server,client-jar形式存在，应用直连数据库
9.读写次数,并发度流程控制，动态变更
10.可分析的日志打印,日志流控，动态变更
镜像网站怎么实现数据同步?
一步一步教你网站同步镜像
1.介绍
现在的网站随着访问量的增加,单一服务器无法
承担巨大的访问量,有没有什么方便快捷的方式
解决这个问题呢,答案是”有”!
比如建立服务器群,进行均衡负载.
但是如果要解决像电信网通这样的互访问题(中
国网民的悲哀..),这个解决办法就无能为力了!
要解决这个问题最方便快捷的方式就是建立镜像
网站!由访问者自己选择适合自己网络的速度最
快的网站!这样即可以解决线路问题,又可以解决
访问量问题!
2.网站同步的数据分类
网站数据基本分为两类:
一类是文件,比如HTML,ASP,PHP等网页文件,或者
RAR,ZIP,RM,AVI等可下载文件!
要实现他们的同步很简单,用FTP同步软件就可以
了!至于哪几个我会在后面做详细介绍.
一类是数据库数据文件,比如MySQL,SQLServer等
等!
数据库同步的方法也很多,最简单的办法只是将
数据库目录同步一下就OK了!
在后面我也会做详细讲解!
3.网站文件的同步
在这里用到的主要工具就是FTP,网站文件同步分
两种情况,一种是本地到远程,一种是远程到远程
(FXP)!第一种不用说了,第二种远程到远程即FXP
,支持它的软件也很多,但是真正适合多网站同步
镜像的却不多!
下面我介绍几个我认为不错的软件!
1.首先我要推荐的是国产的FTP软件”网络传神
”,功能非常强大,特别是在网站的同步镜像方面
,可惜的是,这款非常经典的软件已经不再更新了
,最后更新时间是2003年3月,最后一个版本是3.1
2!虽然如此还是非常好用的!下面是一段官方的
简介:
网络传神完全吸收了Cuteftp和UpdataNow的全部
功能，并且增加了其他软件没有的多项功能：支
持网站互传；支持网站同步(UPDATANOW)；支持
后台上传(多线程上传多个文件)；可同时打开多
个站点；多站点计划上传功能，支持镜像站点；
支持宏操作支持计划操作；支持文件高级比较上
传；支持目录隐藏过滤（为用ForntPage作主页
的朋友带来福音）；服务器自动识别功能；资源
管理器浏览方式；可以自定义命令；支持RFC959
标准具有更好的稳定性；完备的信息返回机制及
错误监控机制完整的中文帮助。
2.第二款是由ReGet同一开发公司制作的专用于
网站同步的软件”WebSynchronizer”,用这款软
件,你才会体验到网站同步的方便快捷,简单容易
.最新版本是1.3.62,网上能找到XX的最后版本是
1.1版!下面是一段简介:
档案同步化工具-WebSynchronizer，由知名续传
软件ReGet之软件出版公司所推出，是网站同步
化、档案镜像、档案备份的绝佳工具，可以执行
下列主要工作：1)本机资料夹及远程资料夹的同
步化；2)两台远程计算机中的资料夹同步化；3)
两个本机资料之同步化。
3.其他还有一些软件如同步快梭(AutoSyncFTP),
也能实现简单的网站同步,不过,这款软件非常不
稳定,而且2001年就已经停止开发.所以,不用考
虑了!还有上次有朋友提到的SiteMirro,由于网
上找不到可以用的版本,所以没有办法测试!
网络传神网站同步镜像使用傻瓜指南
上次在网络技术版已经发过一个简单的使用方法
介绍,如果嫌我罗嗦(o(_)o),大家可以参考那
篇文章:
0129
第一次运行网络传神的时候,它会让你选择”完
全模式”和”启动模式”,要使用网站同步必须
选择”完全模式”.
进入主界面:你会发现这个软件非常像FlashGet,
要使用网站同步功能,点击软件左下角的”FTP客
户端”.
现在你要做的就是添加你的镜像母站和需要镜像
的网站:文件-站点管理,在里面添加你需要同步
的几个的FTP服务器,下面我将介绍具体设置(主
要是镜像母站的设置)
母站设置最重要的地方就是”比较目录(网站同
步)”:
1.拖动传送
就是手动拖动传送时候的传送方式,非拖动方式
不受影响,因为母站的更新基本上是从本地目录
进行的,所以建议这里选择第二项”只上传不同
的文件”,镜像站点这里可以忽略
2.磁盘比较设置
这个功能非常有用,可以通过文件长度和文件日
期进行文件差异对比.
你还可以设置本地目录过滤和服务器目录过滤,
非常灵活!
好了,添加好母站和镜像站之后,我们来设置同步
:
如果是添加镜像站,则会跳出下面的母站选择窗
口:
设置好多个镜像站点之后,返回主界面就可以进
行网站同步了:
注意事项：
一般不要改动镜像站点前面的“对钩”标志，因
为镜像站点同步的原理是“根据主站点的同步信
息更新镜像站点”，如果景象站点没有更新那么
必须将该镜像站点单独同步。
注意一般应该“选项窗口”-〉“FTP客户端”-
〉“计划”中的“最大连接个数”和“最大线程
个数”一般不要改动保持为“1”。
如果同步时某个站点出错同步没有完全完成只需
按“计划”窗口中的按钮单独执行某个站点的传
送即可。
再介绍一下网站镜像同步中必要的功能,定时同
步,这样你就只要做好母站的更新,其他的让网络
传神帮你完成:
点击设置:
进入网络传神的选项设置窗口,选中FTP客户端中
的定时同步
定时下载：在指定的时段内下载文件。
定时上传：在指定的时段内用网站同步的方法进
行上传。
开始时间：如果要使用定时方式必须设置此项，
在设置的时间中会自动开始所有设置为计划的站
点。
停止时间：如果设置此项则当系统时间大于停止
时间时自动停止所有设置为计划的站点。
注意：定时上传种没有“停止时间”选项，网站
同步完成后会自动停止，同时网站同步同一时间
只能运行一次。
网络传神还有很多为便于同步镜像设置的功能,
大家实际使用中去体会吧!
WebSynchronizer网站同步镜像使用傻瓜指南
WebSynchronizer功能非常强大,不单单是网站同
步,还可以进行本地目录同步,本地到远程同步,
功能方面远胜过传神,不过,国内好像没有汉化版
,对于一些对英文感冒的朋友用起来会不太舒服,
希望CCF里的汉化高手能将他中文化!
开始运行程序,老外的软件就是智能,一打开这个
软件就会有一个同步向导跳出来!
在这里,你也看出来了吧,这个软件只支持两个目
录间的同步.不过,我们可以创建多个项目来解决
这个问题!具体我在后面介绍!这里,我们来看看
如何建立两个远程目录的同步!
选择第二项,进入下一个选择框:
网站同步当然是选择第一项了!再进入下一步,要
你选择同步的第一个服务器,建议在这里servers
list,先编辑好需要同步的几个FTP
同步方式设置说明:
第一项的意思是:上传下载所有改变的文件
第二项的意思是:不改变文件夹内容,只下载新的
文件
点击下一步进行第二个服务器设置,方法和第一
个一样!
设置完成后,你还可以修改任务名称!
我觉得这点就是这个软件非常优秀的地方,以任
务的方式进行管理.非常方便!
OK,现在我们就可以看到他的主界面了!
还有一点要提,他的计划任务更能也很强大,在这
里我就不再多说了!用过才知道他的强大!
有朋友会说,我要进行两个以上的网站同步怎么
办?
很简单,再多建几个任务就可以了,要镜像多少网
站都没有问题!
这个软件的网站同步镜像可以非常灵活,比如可
以本地-远程,然后再远程-远程!或者本地-远程1
,本地-远程2,远程1-远程2,任何情形下的同步都
可以完成!
数据库同步操作指南
说完了文件同步,我们再来探讨一下数据库同步!
这里我主要教大家两种最常用的数据库的同步方
法!
MySQL
MySQL数据同步主要有三种方式:
1.利用MySQL自身的数据库同步功能
2.利用MySQL数据库的特性(数据库存在固顶目录
,并且以文件形式存储),进行数据库目录同步以
达到数据同步目的
3.利用专用的MySQL数据库同步软件
1.利用MySQL自身的数据库同步功能(下面参考自
网上的文章,写的非常详细了)
MySQL从3.23.15版本以后提供数据库复制功能。
利用该功能可以实现两个数据库同步，主从模式
，互相备份模式的功能.
数据库同步复制功能的设置都在mysql的设置文
件中体现。mysql的配置文件（一般是my.cnf）
，在unix环境下在/etc/mysql/my.cnf或者在mys
ql用户的home目录下的my.cnf。
windows环境中，如果c:根目录下有my.cnf文件
则取该配置文件。当运行mysql的winmysqladmin
.exe工具时候，该工具会把c:根目录下的my.cnf
命名为mycnf.bak。并在winnt目录下创建my.ini
。mysql服务器启动时候会读该配置文件。所以
可以把my.cnf中的内容拷贝到my.ini文件中，用
my.ini文件作为mysql服务器的配置文件。
设置方法：
设置范例环境：
操作系统：window2000professional
mysql：4.0.4-beta-max-nt-log
Aip:10.10.10.22
Bip:10.10.10.53
A:设置
1.增加一个用户最为同步的用户帐号：
GRANTFILEON*.*TObackup@'10.10.10.53'ID
ENTIFIEDBY‘1234’
2.增加一个数据库作为同步数据库：
createdatabasebackup
B:设置
1.增加一个用户最为同步的用户帐号：
GRANTFILEON*.*TObackup@'10.10.10.22'ID
ENTIFIEDBY‘1234’
2.增加一个数据库作为同步数据库：
createdatabasebackup
主从模式：A-B
A为master
修改Amysql的my.ini文件。在mysqld配置项
中加入下面配置：
server-id=1
log-bin
#设置需要记录log可以设置log-bin=c:mysq
lbakmysqllog设置日志文件的目录，
#其中mysqllog是日志文件的名称，mysql将
建立不同扩展名，文件名为mysqllog的几个日志
文件。
binlog-do-db=backup#指定需要日志的数据
库
重起数据库服务。
用showmasterstatus命令看日志情况。
B为slave
修改Bmysql的my.ini文件。在mysqld配置项
中加入下面配置：
server-id=2
master-host=10.10.10.22
master-user=backup#同步用户帐号
master-password=1234
master-port=3306
master-connect-retry=60预设重试间隔60
秒
replicate-do-db=backup告诉slave只做bac
kup数据库的更新
重起数据库
用showslavestatus看同步配置情况。
注意：由于设置了slave的配置信息，mysql
在数据库目录下生成master.info
所以如有要修改相关slave的配置要先删除
该文件。否则修改的配置不能生效。
双机互备模式。
如果在A加入slave设置，在B加入master设
置，则可以做B-A的同步。
在A的配置文件中mysqld配置项加入以下设
置：
master-host=10.10.10.53
master-user=backup
master-password=1234
replicate-do-db=backup
master-connect-retry=10
在B的配置文件中mysqld配置项加入以下设
置：
log-bin=c:mysqllogmysqllog
binlog-do-db=backup
注意：当有错误产生时*.err日志文件。同
步的线程退出，当纠正错误后要让同步机制进行
工作，运行slavestart
重起AB机器，则可以实现双向的热备。
测试：
向B批量插入大数据量表AA（1872000）条
A数据库每秒钟可以更新2500条数据。
2.数据库目录同步,方法和文件同步一样,设置好
需要同步的两个数据库目录就可以了!
缺点很明显,数据同步只能单向进行,可以作为备
份方案
3.用专用的MySQL同步软件进行同步
这方面的软件有SQLBalance和MyReplicator,优
点是方便直观,还有很多争强功能!
缺点和2一样,只能单项同步!
当然你也可以修改镜像网站的程序为提交数据到
母数据库,读取则在当前镜像下的数据,不过,修
改起来麻烦!普通用户修改也非常难!呵呵,大家
了解一下就可以!给大家一个思路!有能力的朋友
可以试试阿!
4.关于MySQL论坛的数据同步
由于数据来源的不可控制(不好表达),论坛数据
是实时的,而且还要考虑来自镜像论坛的数据,如
何实现镜像论坛与母论坛数据同步呢?
用1中介绍的MySQL自带的数据库同步功能互相备
份模式就可以实现的!
不过,具体的应用我没有测试!稳定性不敢保证!
有能力的朋友推荐用下面这种思路来同步,相对
来说减少点效率,但能减少发生的错误!
比如镜像论坛数据同步:
1.母论坛和镜像论坛的数据全写在母论坛数据库
里,主从模式,读取只在本地读取,这个需要修改
程序!
2.每次写数据,都同时提交到两个数据库中,安全
,但是效率很差,也得修改程序!
MSSQL
MSSQL数据同步利用数据库复制技术实现数据同
步更新(来自网络,也是非常完美的教程)
复制的概念
复制是将一组数据从一个数据源拷贝到多个数据
源的技术，是将一份数据发布到多个存储站点上
的有效方式。使用复制技术，用户可以将一份数
据发布到多台服务器上，从而使不同的服务器用
户都可以在权限的许可的范围内共享这份数据。
复制技术可以确保分布在不同地点的数据自动同
步更新，从而保证数据的一致性。
SQL复制的基本元素包括
出版服务器、订阅服务器、分发服务器、出版物
、文章
SQL复制的工作原理
SQLSERVER主要采用出版物、订阅的方式来处理
复制。源数据所在的服务器是出版服务器，负责
发表数据。出版服务器把要发表的数据的所有改
变情况的拷贝复制到分发服务器，分发服务器包
含有一个分发数据库，可接收数据的所有改变，
并保存这些改变，再把这些改变分发给订阅服务
器
SQLSERVER复制技术类型
SQLSERVER提供了三种复制技术，分别是：
1、快照复制（呆会我们就使用这个）
2、事务复制
3、合并复制
只要把上面这些概念弄清楚了那么对复制也就有
了一定的理解。接下来我们就一步一步来实现复
制的步骤。
第一先来配置出版服务器
(1)选中指定[服务器]节点
(2)从[工具]下拉菜单的[复制]子菜单中选择[发
布、订阅服务器和分发]命令
(3)系统弹出一个对话框点[下一步]然后看着提
示一直操作到完成。
(4)当完成了出版服务器的设置以后系统会为该
服务器的树形结构中添加一个复制监视器。同时
也生成一个分发数据库(distribution)
第二创建出版物
(1)选中指定的服务器
(2)从[工具]菜单的[复制]子菜单中选择[创建和
管理发布]命令。此时系统会弹出一个对话框
(3)选择要创建出版物的数据库，然后单击[创建
发布]
(4)在[创建发布向导]的提示对话框中单击[下一
步]系统就会弹出一个对话框。对话框上的内容
是复制的三个类型。我们现在选第一个也就是默
认的快照发布(其他两个大家可以去看看帮助)
(5)单击[下一步]系统要求指定可以订阅该发布
的数据库服务器类型，SQLSERVER允许在不同的
数据库如ORACLE或ACCESS之间进行数据复制。但
是在这里我们选择运行"SQLSERVER2000"的数据
库服务器
(6)单击[下一步]系统就弹出一个定义文章的对
话框也就是选择要出版的表
(7)然后[下一步]直到操作完成。当完成出版物
的创建后创建出版物的数据库也就变成了一个共
享数据库。
第三设计订阅
(1)选中指定的订阅服务器
(2)从[工具]下拉菜单中选择[复制]子菜单的[请
求订阅]
(3)按照单击[下一步]操作直到系统会提示检查S
QLSERVER代理服务的运行状态，执行复制操作的
前提条件是SQLSERVER代理服务必须已经启动。
(4)单击[完成]。完成订阅操作。
完成上面的步骤其实复制也就是成功了。但是如
何来知道复制是否成功了呢？这里可以通过这种
方法来快速看是否成功。展开出版服务器下面的
复制——发布内容——右键发布内容——属性—
—击活——状态然后点立即运行代理程序接着点
代理程序属性击活调度把调度设置为每一天发生
，每一分钟，在0：00：00和23：59：59之间。
接下来就是判断复制是否成功了打开C:/Program
Files/MicrosoftSQLServer/MSSQL/REPLDATA/un
c/XIAOWANGZI_database_database下面看是不是
有一些以时间做为文件名的文件夹差不多一分中
就产生一个。要是你还不信的话就打开你的数据
库看在订阅的服务器的指定订阅数据库下看是不
是看到了你刚才所发布的表—
一个手工同步的方案
--定时同步服务器上的数据
--例子:
--测试环境,SQLServer2000,远程服务器名:xz,
用户名为:sa,无密码,测试数据库:test
--服务器上的表(查询分析器连接到服务器上创
建)
createtable[user](idintprimarykey,numberva
rchar(4),namevarchar(10))
go
--以下在局域网(本机操作)
--本机的表,state说明:null表示新增记录,1表
示修改过的记录,0表示无变化的记录
ifexists(select*fromdbo.sysobjectswhereid=
object_id(N'[user]')andOBJECTPROPERTY(id,N
'IsUserTable')=1)
droptable[user]
GO
createtable[user](idintidentity(1,1),numbe
rvarchar(4),namevarchar(10),statebit)
go
--创建触发器,维护state字段的值
createtriggert_stateon[user]
afterupdate
as
update[user]setstate=1
from[user]ajoininsertedbona.id=b.id
wherea.stateisnotnull
go
--为了方便同步处理,创建链接服务器到要同步
的服务器
--这里的远程服务器名为:xz,用户名为:sa,无密
码
ifexists(select1frommaster..sysserverswher
esrvname='srv_lnk')
execsp_dropserver'srv_lnk','droplogins'
go
execsp_addlinkedserver'srv_lnk','','SQLOLE
DB','xz'
execsp_addlinkedsrvlogin'srv_lnk','false',
null,'sa'
go
--创建同步处理的存储过程
ifexists(select*fromdbo.sysobjectswhereid=
object_id(N'[dbo].[p_synchro]')andOBJECTPR
OPERTY(id,N'IsProcedure')=1)
dropprocedure[dbo].[p_synchro]
GO
createprocp_synchro
as
--setXACT_ABORTon
--启动远程服务器的MSDTC服务
--execmaster..xp_cmdshell'isql/S"xz"/U"sa"
/P""/q"execmaster..xp_cmdshell''netstartms
dtc'',no_output"',no_output
--启动本机的MSDTC服务
--execmaster..xp_cmdshell'netstartmsdtc',n
o_output
--进行分布事务处理,如果表用标识列做主键,用
下面的方法
--BEGINDISTRIBUTEDTRANSACTION
--同步删除的数据
deletefromsrv_lnk.test.dbo.[user]
whereidnotin(selectidfrom[user])
--同步新增的数据
insertintosrv_lnk.test.dbo.[user]
selectid,number,namefrom[user]wherestateis
null
--同步修改的数据
updatesrv_lnk.test.dbo.[user]set
number=b.number,name=b.name
fromsrv_lnk.test.dbo.[user]a
join[user]bona.id=b.id
whereb.state=1
--同步后更新本机的标志
update[user]setstate=0whereisnull(state,1)
=1
--COMMITTRAN
go
--创建作业,定时执行数据同步的存储过程
ifexists(SELECT1frommsdb..sysjobswherename
='数据处理')
EXECUTEmsdb.dbo.sp_delete_job@job_name='数
据处理'
execmsdb..sp_add_job@job_name='数据处理'
--创建作业步骤
declare@sqlvarchar(800),@dbnamevarchar(250
)
select@sql='execp_synchro'--数据处理的命令
,@dbname=db_name()--执行数据处理的数据库名
execmsdb..sp_add_jobstep@job_name='数据处
理',
@step_name='数据同步',
@subsystem='TSQL',
@database_name=@dbname,
@command=@sql,
@retry_attempts=5,--重试次数
@retry_interval=5--重试间隔
--创建调度
EXECmsdb..sp_add_jobschedule@job_name='数
据处理',
@name='时间安排',
@freq_type=4,--每天
@freq_interval=1,--每天执行一次
@active_start_time=00000--0点执行
go
