阿里开源的MySQL 数据库增量日志解析，提供增量数据订阅和消费。

mcy a6798c61df 空数据sleep 100ms		6 jaren geleden
client	e450c3f83f fix #912 通过maven插件将guava修改包路径打包进canal.client	6 jaren geleden
client-adapter	6b94f396ff 移除kafka client基于zk的HA机制	7 jaren geleden
client-launcher	e450c3f83f fix #912 通过maven插件将guava修改包路径打包进canal.client	6 jaren geleden
common	9bde69b6d6 [maven-release-plugin] prepare for next development iteration	7 jaren geleden
dbsync	a9cccb3017 fixed format	7 jaren geleden
deployer	f5bf1667a9 fixed mq and client launcher	7 jaren geleden
docker	0f3c427e28 fixed docker run	7 jaren geleden
driver	82f8a9fc98 fixed issue #483 , show slave hosts	7 jaren geleden
example	9bde69b6d6 [maven-release-plugin] prepare for next development iteration	7 jaren geleden
filter	9bde69b6d6 [maven-release-plugin] prepare for next development iteration	7 jaren geleden
images	5588da59b9 Update response time image.	7 jaren geleden
instance	9bde69b6d6 [maven-release-plugin] prepare for next development iteration	7 jaren geleden
meta	9bde69b6d6 [maven-release-plugin] prepare for next development iteration	7 jaren geleden
parse	82f8a9fc98 fixed issue #483 , show slave hosts	7 jaren geleden
prometheus	06275a46ed Fix no data points while execTime exceeding current time of canal server.	7 jaren geleden
protocol	9bde69b6d6 [maven-release-plugin] prepare for next development iteration	7 jaren geleden
server	a6798c61df 空数据sleep 100ms	6 jaren geleden
sink	9bde69b6d6 [maven-release-plugin] prepare for next development iteration	7 jaren geleden
store	47ac10ca18 fixed issue #868 , NPE fixed	7 jaren geleden
.gitignore	7fd958a490 fixed issue #801 , support canal docker	7 jaren geleden
LICENSE.txt	a0defe575b init	11 jaren geleden
README.md	20807e58c8 Update README.md	7 jaren geleden
RELEASE.txt	a0defe575b init	11 jaren geleden
codeformat.xml	7ebb3fd1ab fixed code template and format	10 jaren geleden
codetemplates.xml	7ebb3fd1ab fixed code template and format	10 jaren geleden
pom.xml	4fe6c36c49 Merge branch 'develop-tmp'	7 jaren geleden

<div class="iteye-blog-content-contain">

背景

早期，阿里巴巴B2B公司因为存在杭州和美国双机房部署，存在跨机房同步的业务需求。不过早期的数据库同步业务，主要是基于trigger的方式获取增量变更，不过从2010年开始，阿里系公司开始逐步的尝试基于数据库的日志解析，获取增量变更进行同步，由此衍生出了增量订阅&消费的业务，从此开启了一段新纪元。

ps. 目前内部版本已经支持mysql和oracle部分版本的日志解析，当前的canal开源版本支持5.7及以下的版本(阿里内部mysql 5.7.13, 5.6.10, mysql 5.5.18和5.1.40/48)

基于日志增量订阅&消费支持的业务：

数据库镜像
数据库实时备份
多级索引 (卖家和买家各自分库索引)
search build
业务cache刷新
价格变化等重要业务消息

项目介绍

名称：canal [kə'næl]

译意：水道/管道/沟渠

语言：纯java开发

定位：基于数据库增量日志解析，提供增量数据订阅&消费，目前主要支持了mysql

关键词： mysql binlog parser / real-time / queue&topic

工作原理

mysql主备复制实现

从上层来看，复制分成三步：

master将改变记录到二进制日志(binary log)中（这些记录叫做二进制日志事件，binary log events，可以通过show binlog events进行查看）；
slave将master的binary log events拷贝到它的中继日志(relay log)；
slave重做中继日志中的事件，将改变反映它自己的数据。

canal的工作原理：

原理相对比较简单：

canal模拟mysql slave的交互协议，伪装自己为mysql slave，向mysql master发送dump协议
mysql master收到dump请求，开始推送binary log给slave(也就是canal)
canal解析binary log对象(原始为byte流)

问题反馈

qq交流群： 161559791
邮件交流： jianghang115@gmail.com
新浪微博： agapple0002
报告issue：issues

【招聘】阿里巴巴中间件团队招聘JAVA高级工程师
岗位主要为技术型内容(非业务部门)，阿里中间件整个体系对于未来想在技术上有所沉淀的同学还是非常有帮助的
工作地点：杭州、北京均可. ps. 阿里待遇向来都是不错的，有意者可以QQ、微博私聊. 
具体招聘内容：https://job.alibaba.com/zhaopin/position_detail.htm?positionId=32666

README.md

最新更新

背景

项目介绍

工作原理

mysql主备复制实现

canal的工作原理：

相关文档

wiki文档列表

相关资料

相关开源

相关产品

问题反馈