当前位置: 首页 > news >正文

kafka----初步安装与配置

目录标题

      • ⭐`kafka` 与 `zookeeper`间的关系
      • 一.集群部署
      • 二.修改配置文件
      • 三.分发安装包
      • 四.启动与关闭

kafkazookeeper 相同,是以集群的形式使用

kafkazookeeper间的关系

  • kafka 的使用 要在 zookeeper 集群配置好的基础上 使用
  • 要想启动kafka 要先启动 zookeeper

原因如下

Kafka 启动前需要先启动 ZooKeeper,因为 Kafka 依赖 ZooKeeper 完成以下核心功能

  1. 集群管理
    ZooKeeper 存储 Kafka 集群的元数据(如 Broker 列表、Topic 配置、分区副本信息),Broker 启动时必须向 ZooKeeper 注册自身信息并同步集群状态
  2. 控制器选举
    Kafka 集群需要选出一个主节点(Controller)来协调分区和副本的故障恢复,ZooKeeper 负责实现这一选举过程
  3. 故障监测
    ZooKeeper 通过临时节点实时监控 Broker 存活状态,一旦 Broker 宕机,立即触发副本切换或重新选举
  4. 配置同步
    动态配置(如 Topic 参数)通过 ZooKeeper 统一管理,确保所有 Broker 配置一致

如果 ZooKeeper 未启动
Kafka Broker 无法获取集群信息、无法选举控制器、无法感知其他节点,导致启动失败或集群不可用



新版本的kafka(2.8+)支持 独立运行


一.集群部署

  1. 下载安装包
  2. 解压安装包 至 指定位置
  3. 修改名称为 kafka
  4. 配置 环境变量
export KAFKA_HOME = /opt/module/kafka
export PATH = $PATH:$KAFKA_HOME/bin

内容为 kafka 中,bin文件 的位置

  1. 刷新 profile文件 使环境变量 生效
source /etc/profile

事后将 环境变量 分发给 集群内其他虚拟机


二.修改配置文件

配置文件名为 server.properties
位于 kafka/config/

  • 修改内容有三处
  1. 本机 kafka 的编号 (唯一性)
    broker.id=
  2. kafka 日志文件存放的位置
    因为 默认位置 在电脑 关机初始化的文件夹中
    log.dirs= /opt/module/kafka/datas
  3. 连接 zookeeper 集群地址
    (并存储在zookeeper 下的 kafka,方便管理)
    zookeeper.connect = 虚拟机名:2181,虚拟机名:2181,虚拟机名:2181/kafka

三.分发安装包

scp -r 文件名 虚拟机名:位置
  • ⭐切记
    分发后,一定要将 server.properties 内的 kafka编号 更改
    broker.id=
    使编号 不重复,且集群内 虚拟机的编号 最好连续(可以为“0”)

四.启动与关闭

进入到kafka
启动
bin/kafka-server-start.sh start config/server.properties
关闭
bin/kafka-server-stop.sh

相关文章:

  • iOS设备投屏Archlinux
  • stm32之PWR、WDG
  • Rust 环境变量管理秘籍:从菜鸟到老鸟都爱的 dotenv 教程
  • 【2025最新】Windows系统装VSCode搭建C/C++开发环境(附带所有安装包)
  • 【嵌入式】记一次解决VScode+PlatformIO安装卡死的经历
  • 基于大模型的腰椎管狭窄术前、术中、术后全流程预测与治疗方案研究报告
  • 硬密封保温 V 型球阀:恒温工况下复杂介质控制的性价比之选-耀圣
  • RDMA网络通信技术、NCCL集合通讯(GPU)
  • STM32 修炼手册
  • 2025.05.11拼多多机考真题算法岗-第二题
  • 直接在Excel中用Python Matplotlib/Seaborn/Plotly......
  • 论文学习_Understanding the AI-powered Binary Code Similarity Detection
  • 游戏引擎学习第277天:稀疏实体系统
  • Hadoop和Spark生态系统
  • Python----神经网络(《Inverted Residuals and Linear Bottlenecks》论文概括和MobileNetV2网络)
  • 组策略+注册表解决 系统还原 被禁问题
  • 文件相关操作
  • tomcat与nginx之间实现多级代理
  • NPOI 操作 Word 文档
  • 【Qt开发】信号与槽
  • 检疫期缩减至30天!香港优化内地进口猫狗检疫安排
  • 从普通人经历中发现历史,王笛解读《线索与痕迹》
  • 珠峰窗口期5月开启 普通人登一次有多烧钱?
  • 2024年度全国秋粮收购达3.45亿吨
  • 百利天恒董事长向复旦捐赠三千万元,用于支持创新药物靶点发现等师资建设需要
  • 干部任职公示:陕西宁强、镇安两县县长拟进一步使用