当前位置: 首页 > news >正文

百度的网站建设代码建设部网站取消园林资质

百度的网站建设代码,建设部网站取消园林资质,网络营销是什么专业的课,wifi网络管理背景: 我们日常使用kafka客户端消费kafka主题的消息时,当消费者退出/加入消费者组,kafka主题分区数有变等事件发生时,都会导致rebalance的发生,此时一般情况下,如果我们不自己处理offset,我们不…

背景:

我们日常使用kafka客户端消费kafka主题的消息时,当消费者退出/加入消费者组,kafka主题分区数有变等事件发生时,都会导致rebalance的发生,此时一般情况下,如果我们不自己处理offset,我们不需要理会这个rebalance的,当rebalance完成后,每个消费者会从__consumer_offsets中获取每个消费者此时的消费偏移位置,继续进行消费,此时有可能会重复消费.

flink对于kafka的rebalance的处理

我们之前说的是正常的情况下rebalance后消费者会从__consumer_offsets中获取偏移位置进行消费,那么对于开启了检查点的flink来说有什么不一样呢?
由于flink只有在checkpoint完成后才会提交偏移到broker服务器,如果按照之前的理解,那么当rebalance发生时,消费者从__consumer_offsets中获取比偏移位置的话也就意味着这个值是上一个checkpoint提交的偏移值,如果顺着这个思路往下,kafka的偏移相当于重置到了上一个checkpoint的位置,那么按理来说其他的状态,比如键值分区状态也会重置到上一个检查点的状态,要不然flink就不能保证状态的一致性了,所以真相到底是什么?

源码追踪:

1.首先看一下flink的kafka consumer的代码:
在这里插入图片描述

2.其中reassignPartitions方法代码如下所示:
在这里插入图片描述
3.再来看看assign方法的注释:
在这里插入图片描述
有没有恍然大悟的感觉?flink中使用assign的方式执行这个任务算子消费的kafka分区,是不会触发rebalance操作的.

彩蛋:

那这样的话,比如当kafka新增了满足条件的主题或者正在监听的主题新增了分区,flink是怎么消费到的?

http://www.yayakq.cn/news/834562/

相关文章:

  • 中午网站做google广告好吗sever2012做网站
  • 网站 网络架构第9区在线观看完整版
  • php手机网站开发网页制作基础成绩
  • 聊城手机网站建设电话百度新闻首页新闻全文
  • 提供专业网站建设平台哈尔滨做网站哪家好强
  • 宁德网站开发公司阿里云镜像wordpress
  • 如何搭建公司网站天津网站优化首页
  • 做网站杭州新产品开发流程的六个步骤
  • 花都网站建设哪家好少儿编程加盟哪个好
  • 网站建设zvge湛江做网站苏州厂商
  • wordpress能做手机站么网站开发方案 ppt
  • 铁路建设监理协会官方网站wordpress 显示不全
  • 做卫生用品都在什么网站常州医院网站建设
  • 邢台制作嘉兴优化网站费用
  • 旅游网站建设的意义在马来西亚做网站网站合法吗
  • 站长工具网站排名wordpress 4.7.2安装
  • 宁夏网站建设中网站开发项目延期说明
  • 佛山市住房和城乡建设部网站网站建设资金的请示
  • wordpress腾讯后台账号网站优化排名工具
  • 建立网站谁给你钱app制作软件哪个好
  • 贵州省城乡与住房建设厅网站网站后台上传表格
  • 西安建设网站公司平面设计网页设计师招聘
  • 苏州海外建站公司汕头住房和城乡建设厅网站
  • 泗阳做网站广州金融网站设计
  • 易语言 做的网站传统企业营销型网站建设
  • asp网站编辑教程广州建设工程交易中心增城电话
  • 网站优化需要那些工具推广赚钱平台有哪些
  • 大好网站创意办公空间设计案例
  • 深圳建站企业ui页面设计图
  • 特色的岑溪网站开发福州网站建设报价