阿里开源的MySQL 数据库增量日志解析，提供增量数据订阅和消费。
Xin Wang
21309cb065
resove Could not resolve dependencies for project com.alibaba.otter:client-adapter.hbase:jar:1.1.4-SNAPSHOT: Could not find artifact jdk.tools:jdk.tools:jar:1.7 at specified path
|
6 年之前 | |
|---|---|---|
| .github | 6 年之前 | |
| .mvn | 6 年之前 | |
| client | 6 年之前 | |
| client-adapter | 6 年之前 | |
| common | 6 年之前 | |
| dbsync | 6 年之前 | |
| deployer | 6 年之前 | |
| docker | 6 年之前 | |
| driver | 6 年之前 | |
| example | 6 年之前 | |
| filter | 6 年之前 | |
| images | 7 年之前 | |
| instance | 6 年之前 | |
| meta | 6 年之前 | |
| parse | 6 年之前 | |
| prometheus | 6 年之前 | |
| protocol | 6 年之前 | |
| server | 6 年之前 | |
| sink | 6 年之前 | |
| store | 6 年之前 | |
| .gitignore | 6 年之前 | |
| .travis.yml | 6 年之前 | |
| LICENSE.txt | 11 年之前 | |
| README.md | 6 年之前 | |
| RELEASE.txt | 11 年之前 | |
| codeformat.xml | 10 年之前 | |
| codetemplates.xml | 10 年之前 | |
| mvnw | 6 年之前 | |
| pom.xml | 6 年之前 |
README.md
<div class="iteye-blog-content-contain">
背景
早期，阿里巴巴B2B公司因为存在杭州和美国双机房部署，存在跨机房同步的业务需求。不过早期的数据库同步业务，主要是基于trigger的方式获取增量变更，不过从2010年开始，阿里系公司开始逐步的尝试基于数据库的日志解析，获取增量变更进行同步，由此衍生出了增量订阅&消费的业务，从此开启了一段新纪元。
ps. 目前内部版本已经支持mysql和oracle部分版本的日志解析，当前的canal开源版本支持5.7及以下的版本(阿里内部mysql 5.7.13, 5.6.10, mysql 5.5.18和5.1.40/48)
基于日志增量订阅&消费支持的业务：
- 数据库镜像
- 数据库实时备份
- 多级索引 (卖家和买家各自分库索引)
- search build
- 业务cache刷新
- 价格变化等重要业务消息
项目介绍
名称：canal [kə'næl]
译意： 水道/管道/沟渠
语言： 纯java开发
定位： 基于数据库增量日志解析，提供增量数据订阅&消费，目前主要支持了mysql
关键词： mysql binlog parser / real-time / queue&topic
工作原理
mysql主备复制实现
从上层来看，复制分成三步：
- master将改变记录到二进制日志(binary log)中（这些记录叫做二进制日志事件，binary log events，可以通过show binlog events进行查看）；
- slave将master的binary log events拷贝到它的中继日志(relay log)；
- slave重做中继日志中的事件，将改变反映它自己的数据。
canal的工作原理：
原理相对比较简单：
- canal模拟mysql slave的交互协议，伪装自己为mysql slave，向mysql master发送dump协议
- mysql master收到dump请求，开始推送binary log给slave(也就是canal)
- canal解析binary log对象(原始为byte流)
重要版本更新说明
canal 1.1.x系列，参考release文档：版本发布信息
- 整体性能测试&优化,提升了150%. #726 参考: 【Performance】
- 原生支持prometheus监控 #765 【Prometheus QuickStart】
- 原生支持kafka消息投递 #695 【Canal Kafka/RocketMQ QuickStart】
- 原生支持aliyun rds的binlog订阅 (解决自动主备切换/oss binlog离线解析) 参考: 【Aliyun RDS QuickStart】
- 原生支持docker镜像 #801 参考: 【Docker QuickStart】
相关文档
See the wiki page for : wiki文档
wiki文档列表
- Home
- Introduction
- QuickStart
- AdminGuide
- ClientExample
- ClientAPI
- Performance
- DevGuide
- BinlogChange(Mysql5.6)
- BinlogChange(MariaDB)
- TableMetaTSDB
- ReleaseNotes
- Download
- FAQ
多语言业务
- canal整体交互协议设计上使用了protobuf3.0，理论上可以支持绝大部分的多语言场景，欢迎大家提交多客户端的PR
- canal java客户端: https://github.com/alibaba/canal/wiki/ClientExample
- canal c#客户端开源项目地址： https://github.com/dotnetcore/CanalSharp
- canal go客户端开源项目地址： https://github.com/CanalClient/canal-go
- canal作为MySQL binlog的增量获取工具，可以将数据投递到MQ系统中，比如Kafka/RocketMQ，可以借助于MQ的多语言能力
相关资料
- ADC阿里技术嘉年华分享ppt (放在google docs上，可能需要翻墙): ppt下载
- 与阿里巴巴的RocketMQ配合使用
相关开源
- 阿里巴巴分布式数据库同步系统(解决中美异地机房)：http://github.com/alibaba/otter
- 阿里巴巴去Oracle数据迁移同步工具(目标支持MySQL/DRDS)：http://github.com/alibaba/yugong
相关产品
问题反馈
- qq交流群： 161559791
- 邮件交流： jianghang115@gmail.com
- 新浪微博： agapple0002
- 报告issue：issues
最新更新
- canal发布重大版本更新1.1.0，具体releaseNode参考：https://github.com/alibaba/canal/releases/tag/canal-1.1.0
- canal c#客户端开源项目地址： https://github.com/dotnetcore/CanalSharp ，推荐!
- canal QQ讨论群已经建立，群号：161559791 ，欢迎加入进行技术讨论。
- canal消费端项目开源: Otter(分布式数据库同步系统)，地址：https://github.com/alibaba/otter