什么是消费者组?
Kafka并没有使用JDK自带的Timer或者DelayQueue来实现延迟的功能,而是基于时间轮自定 义了一个用于实现延迟功能的定时器(SystemTimer)。JDK的Timer和DelayQueue插入和 删除操作的平均时间复杂度为O(nlog(n)),并不能满足Kafka的高性能要求,而基于时间轮可 以将插入和删除操作的时间复杂度都降为O(1)。时间轮的应用并非Kafka独有,其应用场景还 有很多,在Netty、Akka、Quartz、Zookeeper等组件中都存在时间轮的踪影。
底层使用数组实现,数组中的每个元素可以存放一个TimerTaskList对象。TimerTaskList是 一个环形双向链表,在其中的链表项TimerTaskEntry中封装了真正的定时任务TimerTask. Kafka中到底是怎么推进时间的呢?Kafka中的定时器借助了JDK中的DelayQueue来协助推进 时间轮。具体做法是对于每个使用到的TimerTaskList都会加入到DelayQueue中。Kafka中 的TimingWheel专门用来执行插入和删除TimerTaskEntry的操作,而DelayQueue专门负责 时间推进的任务。再试想一下,DelayQueue中的第一个超时任务列表的expiration为 200ms,第二个超时任务为840ms,这里获取DelayQueue的队头只需要O(1)的时间复杂 度。如果采用每秒定时推进,那么获取到第一个超时的任务列表时执行的200次推进中有199 次属于“空推进”,而获取到第二个超时任务时有需要执行639次“空推进”,这样会无故空耗机 器的性能资源,这里采用DelayQueue来辅助以少量空间换时间,从而做到了“精准推进”。 Kafka中的定时器真可谓是“知人善用”,用TimingWheel做最擅长的任务添加和删除操作, 而用DelayQueue做最擅长的时间推进工作,相辅相成。