当前位置: 首页 > news >正文

Kafka 菜鸟教程:从入门到实践

​一、Kafka 核心概念​

Kafka 是 Apache 开发的​​分布式流处理平台​​,核心功能包括:

  • ​发布/订阅消息​​:类似消息队列,支持多生产者、多消费者;

  • ​持久化存储​​:以 append log 形式存储消息,支持长期保留;

  • ​实时流处理​​:可对数据流进行转换、聚合等操作。

关键术语解释:

  1. ​Topic(主题)​​:消息的“类别”,所有消息按主题分类存储(如“用户订单”“日志事件”)。

  2. ​Partition(分区)​​:Topic 的物理分片,用于扩展吞吐量(一个 Topic 可分为多个 Partition,分布在不同 Broker 上)。

  3. ​Broker(代理)​​:Kafka 集群中的节点,负责存储和转发消息(单机部署时仅需 1 个 Broker)。

  4. ​Producer(生产者)​​:向 Topic 发送消息的应用程序。

  5. ​Consumer(消费者)​​:从 Topic 订阅并处理消息的应用程序(同一 Consumer Group 内的消费者共享消息,不同 Group 则广播)。

​二、环境准备​

1. 系统要求

  • ​操作系统​​:支持 Linux、macOS、Windows(本文以 ​​Linux​​ 为例,Windows 步骤类似);

  • ​Java 环境​​:Kafka 依赖 Java 8+,需提前安装(java -version检查版本);

  • ​磁盘空间​​:建议预留至少 10GB(用于存储消息日志)。

2. 安装 Kafka

(1)下载 Kafka

从 Apache 官网下载最新稳定版本(以 3.6.1 为例):

wget https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgz
(2)解压并进入目录
tar -xzf kafka_2.13-3.6.1.tgz
cd kafka_2.13-3.6.1
(3)配置 Kafka

修改 config/server.properties文件(关键配置):

# Broker 唯一 ID(单机设为 0)
broker.id=0
# 数据存储目录(建议选磁盘大的路径)
log.dirs=/tmp/kafka-logs
# 监听地址(本地用 localhost,生产环境用服务器 IP)
listeners=PLAINTEXT://localhost:9092
# Zookeeper 连接地址(Kafka 依赖 Zookeeper 管理集群)
zookeeper.connect=localhost:2181

​三、启动 Kafka​

1. 启动 Zookeeper(Kafka 依赖)

Kafka 使用 Zookeeper 存储集群元数据,需先启动:

bin/zookeeper-server-start.sh config/zookeeper.prope
http://www.dtcms.com/a/605602.html

相关文章:

  • pytorch——从核心特性到多模态与相机系统优化的实践
  • 广东广东网站建设工作网页平面设计公司
  • 可视化图解算法68:数组中出现次数超过一半的数字
  • 在ec2上部署CosyVoice2模型
  • wish跨境电商平台四川成都网站优化
  • GitHub Copilot 与 Visual Studio 漏洞可致攻击者绕过安全防护功能
  • 将qt界面中加载css或者qss样式
  • 离线部署指南:本地下载MySQL 8.0.37并上传服务器Centos7.9安装
  • Camera Tuning:视觉时代的核心岗位
  • 商城类网站怎么优化网站建设实验代码
  • 【JavaEE】-- IoC DI
  • 制作网站低价网页设计的重点和难点
  • 基于灵动MM32F0130 MCU微控制器的智能插排设计
  • Java-170 Neo4j 事务、索引与约束实战:语法、并发陷阱与速修清单
  • Javaee—— CAS
  • 图片上传git时压缩
  • Flutter 聊天界面使用ListView的reverse:true,导致条目太少的时候会从下往上显示,导致顶部大片空白
  • 湛江市政工程建设公司网站仿别人的网站违法嘛
  • 石景山企业网站建设公司网站开发策划
  • RDMA拥塞控制之CNP
  • 终端Kitty,主要是看有人聊到opencode需要的终端
  • 基于Python的新能源汽车销量数据分析与预测系统设计与实现
  • android recyclerview缓存_缓存问题解决办法
  • GEN-0深度剖析:物理交互数据如何重塑机器人学习的“扩展定律”
  • 各大网站的名字大全百度招聘
  • 泰州网站关键词优化软件咨询在线crm系统是啥
  • ZC序列的原理及在LTE中的应用
  • 山东网站seo推广优化价格对单位网站的要求吗
  • Ubuntu25.10安装Samba
  • Ubuntu 虚拟机文件传输到 Windows的一种好玩的办法