flink cdc 的学习 | server 运维论坛-大发黄金版app下载
参考资料
故障和恢复
当flink的任务意外终止后,可以通过指定恢复点从恢复点继续运行,运行命令如下:flink run -s file:///c:/addons/checkpoints/e8072d0f5e9cd7d407fe1edd06b679aa/chk-27 path/to/jar
创建恢复点可以用savepoints和checkpoints,两者的区别如下:
配置保存目录 | 区别1 | 区别2 |
---|---|---|
state.checkpoints.dir | 系统自动创建 | 文件轻量 |
state.savepoints.dir | 需手动命令创建 | 文件较大,包含整个状态 |
消费binlog的数据格式
datachangeevent包含五个字段:
table id
: table idbefore
: 数据改变前after
: 数据改变后operation type
: 数据改变类型meta
: 数据的元数据
operation type
有四个类型:
- insert: 新数据,此时
before = null
andafter = new data
- delete: 删数据,此时
before = removed
data andafter = null
- update: 修改数据,此时
before = data before change
andafter = data after change
- replace: 暂无
与canal数据格式的区别如下:
本作品采用《cc 协议》,转载必须注明作者和本文链接