当前位置:  软件>java软件

binlog的增量订阅&消费组件 canal

    来源:    发布时间:2015-01-20

    本文导语:  canal 是阿里巴巴mysql数据库binlog的增量订阅&消费组件。 名称:canal [kə'næl]译意: 水道/管道/沟渠语言: 纯java开发定位: 基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了mysql 早期,阿里巴巴B2B公司因...

canal 是阿里巴巴mysql数据库binlog的增量订阅&消费组件。

名称:canal [kə'næl]
译意: 水道/管道/沟渠
语言: 纯java开发
定位: 基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了mysql

早期,阿里巴巴B2B公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求。不过早期的数据库同步业务,主要是基于trigger的方式获取增量 变更,不过从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务,从此开 启了一段新纪元。ps. 目前内部使用的同步,已经支持mysql5.x和oracle部分版本的日志解析

 

基于日志增量订阅&消费支持的业务:

  • 数据库镜像

  • 数据库实时备份

  • 多级索引 (卖家和买家各自分库索引)

  • search build

  • 业务cache刷新

  • 价格变化等重要业务消息

  • Canal 工作原理:

    binlog的增量订阅&消费组件 canal[图片]

    原理相对比较简单:

  • canal模拟mysql slave的交互协议,伪装自己为mysql slave,向mysql master发送dump协议

  • mysql master收到dump请求,开始推送binary log给slave(也就是canal)

  • canal解析binary log对象(原始为byte流)


  •     
     
     

    您可能感兴趣的文章:

     
    本站(WWW.)旨在分享和传播互联网科技相关的资讯和技术,将尽最大努力为读者提供更好的信息聚合和浏览方式。
    本站(WWW.)站内文章除注明原创外,均为转载、整理或搜集自网络。欢迎任何形式的转载,转载请注明出处。












  • 相关文章推荐
  • PHP Client for Mysql Binlog
  • [MySQL binlog]mysql如何彻底解析Mixed日志格式的binlog
  • mysql主从连接失败,怎样通过binlog日志恢复呢?
  • binlog分析程序 Open Replicator
  • 使用mysql事件调度器定时删除binlog
  • mysql手动删除BINLOG的方法
  • Mysql Data目录和 Binlog 目录 搬迁的方法
  • mysql对binlog的处理说明
  • mysql问题之slow log中出现大量的binlog dump记录的解决方法
  • 批量清除128组节点db上面过期的binlog释放磁盘空间实现思路
  • mysql binlog二进制日志详解
  • MySQL中的binlog相关命令和恢复技巧
  • 教你自动恢复MySQL数据库的日志文件(binlog)


  • 站内导航:


    特别声明:169IT网站部分信息来自互联网,如果侵犯您的权利,请及时告知,本站将立即删除!

    ©2012-2021,,E-mail:www_#163.com(请将#改为@)

    浙ICP备11055608号-3