TT Bigdata TT Bigdata
首页
GitHub (opens new window)
JaneTTR

JaneTTR

数据酿造智慧,每一滴都是沉淀!
  • 产品中心

  • 安装与使用

    • Ambari Plus 安装

    • 组件安装

      • 组件安装总览
      • Solr 安装
      • Ranger 安装
      • Knox 安装
      • HDFS 安装
      • YARN 安装
      • MapReduce2 安装
      • Tez 安装
      • Hive 安装
      • Sqoop 安装
      • HBase 安装
      • Kafka 安装
        • Kafka 安装
        • 1. 选择 Kafka 服务
        • 2. 分配 Kafka Broker
        • 3. 确认没有 Slave 和 Client
        • 4. 检查 Kafka 推荐配置
        • 5. 确认安装清单
        • 6. 提交 Kerberos 管理员凭据
        • 7. 等待 Kafka 安装完成
        • 8. 回到服务列表确认状态
      • Flink 安装
      • Spark 安装
      • Hue 安装
      • Livy 安装
      • Zeppelin 安装
      • DolphinScheduler 安装
      • Doris 安装
      • Celeborn 安装
      • Ozone 安装
      • Impala 安装
      • Trino 安装
      • Paimon 安装
      • Hudi 安装
      • Atlas 安装
      • Superset 安装
      • Alluxio 安装
    • 开启高可用

    • 权限与安全专题

    • Ambari Plus Monitor

    • 常见问题

  • 发布与支持

  • 会员与访问

目录
Kafka 安装
1. 选择 Kafka 服务
2. 分配 Kafka Broker
3. 确认没有 Slave 和 Client
4. 检查 Kafka 推荐配置
5. 确认安装清单
6. 提交 Kerberos 管理员凭据
7. 等待 Kafka 安装完成
8. 回到服务列表确认状态

Kafka 安装2.8.1

# Kafka 安装

Kafka 用来承载消息发布订阅和流式数据管道。它依赖 ZooKeeper,本篇环境已经提前安装并启动了三节点 ZooKeeper,所以可以直接进入 Kafka 安装。

本次教程环境采用单 Broker,放在 hadoop1.test.com。这样步骤更短,适合先跑通安装链路;生产环境不要照搬单 Broker,至少要规划多 Broker、副本数、磁盘目录、Topic 保留策略和 Ranger Kafka Plugin。

主机 Kafka 角色
hadoop1.test.com KAFKA_BROKER
hadoop2.test.com 无
hadoop3.test.com 无

注意

单 Broker 只适合教程、开发和功能验证。页面里也会提示“生产环境存在单点风险”。如果是生产集群,建议把 Broker 分散到多台机器,并把 default.replication.factor、min.insync.replicas、日志目录和磁盘容量一起规划好。

# 1. 选择 Kafka 服务

进入 服务与组件,点击 新增服务,勾选 Kafka。

选择 Kafka 服务

页面会显示 Kafka 依赖 ZooKeeper。前面已经完成 ZooKeeper 安装,所以这里不需要额外补依赖。

# 2. 分配 Kafka Broker

Master 分配页里,Kafka 的运行角色是 KAFKA_BROKER。

分配 Kafka Broker

本次保持教程环境的单 Broker 分配:

组件 主机 说明
KAFKA_BROKER hadoop1.test.com 对外提供 Kafka 消息读写服务。

如果你要做三 Broker,可以在这里把 hadoop1.test.com、hadoop2.test.com、hadoop3.test.com 都选上。多 Broker 时,后面的副本数和 ISR 配置也要一起改,不要只多选主机。

# 3. 确认没有 Slave 和 Client

Slave 与 Client 分配页里,Kafka 没有额外角色需要分配。

Kafka 无 Slave 和 Client

这里直接下一步即可。Kafka 的主要安装动作都围绕 Broker 组件展开。

# 4. 检查 Kafka 推荐配置

进入自定义配置页后,页面会根据当前集群拓扑生成 Kafka 配置。

Kafka 推荐配置

先确认 待填写 0,再重点看这些配置方向:

配置方向 说明
listeners Broker 监听地址,Kerberos 环境里要和主机名、Principal 对齐。
Log directories Kafka 日志数据目录,生产环境建议放在独立磁盘。
default.replication.factor 单 Broker 环境只能按 1 跑,多 Broker 再提高副本数。
min.insync.replicas 与副本数配套调整,避免写入确认策略和 Broker 数不匹配。
ranger-kafka-* 安装 Ranger 后会出现 Kafka 审计和插件相关配置。

提示

第一次安装先让服务启动成功。Topic 级别的分区、副本、保留时间、压缩策略,可以等 Broker 正常后再按业务场景细化。

# 5. 确认安装清单

确认页里会看到新增服务和 Broker 分配结果。

Kafka 安装确认页

本次确认结果如下:

检查项 本次结果
新增服务 KAFKA
Master 分配 KAFKA_BROKER -> hadoop1.test.com
Slave 分配 无
Client 分配 无
配置校验 必填项已填写

确认无误后点击 开始安装。

# 6. 提交 Kerberos 管理员凭据

开启 Kerberos 的集群中,新增 Kafka 也需要 KDC 管理员授权。

提交 Kafka Kerberos 凭据

填写 KDC 管理员 Principal 和密码后提交,系统会生成并分发 Kafka 相关 keytab。

这里最容易填错的是密码:它不是数据库密码,也不是 Kafka 自己的密码,而是 KDC 管理员密码。

# 7. 等待 Kafka 安装完成

安装完成页出现 KAFKA,说明 Broker 安装、Kerberos 凭据分发、启动和服务检查已经完成。

Kafka 安装完成

安装过程中主要看:

阶段 期望结果
安装包 KAFKA_BROKER 安装完成。
Kerberos Kafka principal / keytab 分发完成。
启动服务 Kafka Broker 启动完成。
Service Check Kafka 服务检查成功。

如果 Broker 启动失败,先看 server.properties 里的监听地址、ZooKeeper 地址和 Kerberos principal。单 Broker 环境还要留意副本数配置不要大于 Broker 数。

# 8. 回到服务列表确认状态

回到 服务与组件 页面,Kafka 会出现在 查询数据 分类下。

Kafka 服务运行中

页面里可以看到:

组件 状态
Kafka Broker 运行中

命令行可以做一个版本确认:

kafka-topics.sh --version
1

正常会看到类似结果:

2.8.1 (Commit:unknown)
1

到这里,Kafka 的基础安装完成。下一步继续安装 Flink,后面如果要接 Atlas、Ranger Kafka Plugin 或业务 Topic,再单独补权限和 Topic 规划。

#Kafka#ZooKeeper#Kerberos#Ranger#Ambari Plus
HBase 安装
Flink 安装

← HBase 安装 Flink 安装→

最近更新
01
当前版本 2026/08
08-29
02
把 Ambari Server HA 稳稳地跑起来
08-17
03
从一次启用操作追到主备就绪
08-17
更多文章>
Theme by Vdoing | Copyright © 2017-2026 JaneTTR | MIT License
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式