TT Bigdata TT Bigdata
首页
  • 部署专题

    • 常规安装
    • 一键部署
  • 组件安装

    • 常规&高可用
  • 版本专题

    • 更新说明
  • Ambari-Env

    • 环境准备
    • 开始使用
  • 组件编译

    • 专区—Ambari
    • 专区—Bigtop
  • 报错解决

    • 专区—Ambari
    • 专区—Bigtop
  • 其他技巧

    • Maven镜像加速
    • Gradle镜像加速
    • Bower镜像加速
    • 虚拟环境思路
    • R环境安装+一键安装脚本
    • Ivy配置私有镜像仓库
    • Node.js 多版本共存方案
    • Ambari Web本地启动
    • Npm镜像加速
    • PostgreSQL快速安装
    • Temurin JDK 23快速安装
  • 成神之路

    • 专区—Ambari
    • 专区—Bigtop
  • 集成案例

    • Redis集成教学
    • Dolphin集成教学
    • Doris集成教学
    • 持续整理...
  • 模板代码

    • 各类组件
    • 通用模板
  • 国产化&其他系统

    • Centos系列
    • Kylin系列
    • OpenEuler系列
    • Rocky系列
    • Ubuntu系列
  • 生产调优

    • 组件调优指南
    • 1v1指导调优
  • 定制开发

    • 组件版本定制
    • 样式风格定制
  • 蓝图愿景
  • 技术支持
  • 合作共建
GitHub (opens new window)

JaneTTR

数据酿造智慧,每一滴都是沉淀!
首页
  • 部署专题

    • 常规安装
    • 一键部署
  • 组件安装

    • 常规&高可用
  • 版本专题

    • 更新说明
  • Ambari-Env

    • 环境准备
    • 开始使用
  • 组件编译

    • 专区—Ambari
    • 专区—Bigtop
  • 报错解决

    • 专区—Ambari
    • 专区—Bigtop
  • 其他技巧

    • Maven镜像加速
    • Gradle镜像加速
    • Bower镜像加速
    • 虚拟环境思路
    • R环境安装+一键安装脚本
    • Ivy配置私有镜像仓库
    • Node.js 多版本共存方案
    • Ambari Web本地启动
    • Npm镜像加速
    • PostgreSQL快速安装
    • Temurin JDK 23快速安装
  • 成神之路

    • 专区—Ambari
    • 专区—Bigtop
  • 集成案例

    • Redis集成教学
    • Dolphin集成教学
    • Doris集成教学
    • 持续整理...
  • 模板代码

    • 各类组件
    • 通用模板
  • 国产化&其他系统

    • Centos系列
    • Kylin系列
    • OpenEuler系列
    • Rocky系列
    • Ubuntu系列
  • 生产调优

    • 组件调优指南
    • 1v1指导调优
  • 定制开发

    • 组件版本定制
    • 样式风格定制
  • 蓝图愿景
  • 技术支持
  • 合作共建
GitHub (opens new window)
  • 编译_Zookeeper_3.2.0-3.5.9
  • 编译_Hadoop_3.2.0-3.3.4
    • 📦 背景介绍
    • 1️⃣ 编译前准备
      • 1.1 环境要求
      • 1.2 安装依赖工具链
    • 2️⃣ 编译 Hadoop
      • 2.1 构建命令
      • 2.2 编译产物
      • 2.3 获取源码
    • 3️⃣ 使用 ambari-env 脚本构建(推荐)
  • 编译_Flink_3.2.0-1.15.3
  • 编译_Hbase_3.2.0-2.4.13
  • 编译_Hive_3.2.0-3.1.3
  • 编译_Kafka_3.2.0-2.8.1
  • 编译_Spark_3.2.0-3.2.3
  • 编译_Solr_3.2.0-8.11.2
  • 编译_Tez_3.2.0-0.10.1
  • 编译_Zepplin_3.2.0-0.10.1
  • 编译_Livy_3.2.0-0.7.1
  • 编译_Phoenix_3.2.0-5.1.2
  • 开始使用
JaneTTR
2023-04-06
目录

编译Hadoop3.2.0-3.3.41.0.0+

# 📦 背景介绍

Bigtop 是一个专注于 构建、打包、测试大数据生态组件 的 Apache 顶级项目,常与 Ambari 配合用于企业级集群部署。 本文将基于 Ambari 2.8.0 + Bigtop 3.2.0 环境,介绍如何编译 Hadoop 3.3.4,生成可用于集群部署的 RPM 安装包。适用于定制化 Hadoop 部署场景

# 1️⃣ 编译前准备

# 1.1 环境要求

环境说明

建议使用 CentOS 7 系统,避免兼容性问题。构建工具和依赖项如下表所示。

组件 版本 说明
JDK JDK 1.8 Bigtop 3.2.0 默认依赖
Maven ≥ 3.3.9 构建部分子模块
Gradle ≥ 5.6 Bigtop 编译核心
Python 2.7 Python2 仍为默认
g++ - 编译 C/C++ 组件
rpm-build - 构建 RPM 包
setuptools - 通过 pip 安装

📖 官方参考:Ambari Development (opens new window)

# 1.2 安装依赖工具链

我们已为以下构建工具准备好独立文档及一键安装脚本:

  • JDK 安装指南:点此查看
  • Maven 安装指南:点此查看
  • Gradle 安装指南:点此查看

# 2️⃣ 编译 Hadoop

# 2.1 构建命令

在准备好 bigtop 仓库源码后,进入根目录并执行以下命令:

gradle hadoop-rpm -PparentDir=/usr/bigtop -Dbuildwithdeps=true -PpkgSuffix -d
1

参数说明:

  • hadoop-rpm:编译目标为 Hadoop
  • -PparentDir:输出目录根路径
  • -Dbuildwithdeps:是否编译依赖模块
  • -PpkgSuffix:可选后缀,用于区分测试版本
⚙️ Gradle 是构建主力工具

执行该命令后,将开始下载依赖、配置环境并编译 Hadoop 的 RPM 包。

# 2.2 编译产物

构建成功后,将生成如下路径下的 RPM 包:

编译输出路径

文件示例(以 hadoop 为前缀):

Hadoop 编译结果

# 2.3 获取源码

建议从 Gitee 克隆本地已适配版本:

仓库地址:https://gitee.com/tt-bigdata/bigtop-hadoop (opens new window) 版本标签:v3.2.0_3.3.4 (opens new window)

代码位置

# 3️⃣ 使用 ambari-env 脚本构建(推荐)

我们封装了一套适配 Ambari 和 Bigtop 的自动构建脚本,执行以下命令即可一键编译:

bash /scripts/build/bigtop/build.sh
1

脚本特性:

  • 自动安装依赖
  • 自动执行 Gradle 构建
  • 自动收集 RPM 包
  • 可复用性强,适配多组件

脚本执行后的产物

#Hadoop#Bigtop#Gradle#编译#Ambari 集成#分布式构建#RPM 构建
编译_Zookeeper_3.2.0-3.5.9
编译_Flink_3.2.0-1.15.3

← 编译_Zookeeper_3.2.0-3.5.9 编译_Flink_3.2.0-1.15.3→

最近更新
01
Pandoc 缺失导致 SparkR 构建失败
06-08
02
Cyrus SASL/GSASL 缺失解决
06-07
03
Hadoop_3.3.4 编译实战 1.0.0+
06-06
更多文章>
Theme by Vdoing | Copyright © 2017-2025 JaneTTR | MIT License
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式