kafka系列之彻底弄清楚各版本差异
时间:2022-07-23
本文章向大家介绍kafka系列之彻底弄清楚各版本差异,主要内容包括其使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
我自己用了 kafka 也挺久的了,关于kafka的版本规则,各个大版本的升级究竟做了哪些优化等,并没有特别的关注。
本文打算做一个比较详细的整理。
1、版本命名规则
1.x之后,kafka 全面启用三位数的命名规则。也就是说,以前的版本都是这样色的,
- 0.8.2.2
- 0.9.0.1
- 0.10.0.0
后来1·x之后,kafka 全面启用了三位数版本规则,如果下图所示,
新的版本规则,即 “大版本-小版本-patch版本“ 比较符合主流。
我们现在看到的 kafka 版本通常是这样的,
- kafka_2.11-2.2.0
前面部分2.11其实是scala的版本(kafka是scala编写的),后面三位就是真正的 kafka 版本。
2、几个主要的里程碑
0.8.2版本
- 为了提高吞吐量,producer 都以异步批量的方式发送消息到 broker 节点。
- consumer 的消费偏移位置 offset 由原来的保存在 zookeeper 改为保存在 kafka 本身。
0.9版本
- 增加安全相关特性,客户端连接 kafka 可以使用ssl或者sasl进行验证。
- 增加 kafka connect 模块
- 新的 consumer api
1.0.0版本
- 支持 java 9
- 增强 stream api
- 引入了线程协议,便于升级
2.0.0版本
- 最低支持 java8
- 弃用多处 scala 相关的依赖,java 成主流
2.2.0
- 默认的consumer group id 由 "" 改为 null。
-
binkafka-topic.sh
支持指定--bootstrap-server
,代替原来的--zookeeper
。
3、关于客户端版本
kafka 支持多个语言的客户端api,我只关注 java 客户端。maven 的工程我们一般这样引入 kafka 客户端,
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka_2.11</artifactId>
<version>0.10.2.0</version>
</dependency>
这种会引入两个依赖jar,分别是
- kafka-clients-0.10.2.0.jar
- kafka_2.11-0.10.2.0.jar
前者是官方推荐的java客户端,后者是scala客户端。调用方式有所不同。如果确定不使用 scala api,也可以用下面这种方式只包含java版本的客户端。
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
<version>0.10.2.0</version>
</dependency>
一个原则是,尽量保持客户端版本和服务器上运行的server版本一致。
参考:
http://kafka.apache.org/documentation.html#upgrade_110_notable
- 算法——贝叶斯
- 机器学习算法实现解析——liblbfgs之L-BFGS算法
- 机器学习算法实现解析——libFM之libFM的训练过程之Adaptive Regularization
- 虚拟化平台cloudstack(2)——安装(上)
- 机器学习算法实现解析——libFM之libFM的训练过程之SGD的方法
- 虚拟化平台cloudstack(3)——安装(下)
- 机器学习算法实现解析——libFM之libFM的训练过程概述
- 虚拟化平台cloudstack(4)——几个异常
- Golang语言 xml解析实例
- 机器学习算法实现解析——libFM之libFM的模型处理部分
- Go语言使用protobuf数据通信--师出同门,懂的人理解吧
- 虚拟化平台cloudstack(6)——使用maven:jetty调试
- 虚拟化平台cloudstack(7)——新版本的调试
- 一行代码,Pandas秒变分布式,快速处理TB级数据
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- pytorch查看模型weight与grad方式
- php+ajax 文件上传代码实例
- PHP将整数数字转换为罗马数字实例分享
- PHP如何通过表单直接提交大文件详解
- PHP基于openssl实现的非对称加密操作示例
- python图片验证码识别最新模块muggle_ocr的示例代码
- virtualenv介绍及简明教程
- Keras 数据增强ImageDataGenerator多输入多输出实例
- TensorFlow中如何确定张量的形状实例
- 使用Dajngo 通过代码添加xadmin用户和权限(组)
- python和js交互调用的方法
- Python中flatten( ),matrix.A用法说明
- python中id函数运行方式
- CentOS 7如何实现定时执行python脚本
- PHP自动生成缩略图函数的源码示例