TT Bigdata TT Bigdata
首页
GitHub (opens new window)
JaneTTR

JaneTTR

数据酿造智慧,每一滴都是沉淀!
  • 开发环境

  • Ambari 编译

  • Bigtop 编译

  • Ambari 源码编译

  • 前端开发

  • 后端开发

  • 官方组件编译

    • 准备阶段

    • 理解packages.gradle

    • 理解bigtop.bom

    • Hadoop编译

    • Flink编译

    • Spark编译

      • version-3.2.3

      • version-3.5.5

        • Spark_3.5.5编译
        • [B]Spark版本适配改造(一)
          • 背景说明
          • 第一步:修改 bigtop.bom
        • [B]Spark版本适配改造(二)
    • Livy编译

    • Zeppelin编译

    • Zookeeper编译

    • Hbase编译

    • Hive编译

    • Kafka编译

    • Solr编译

    • Tez编译

  • 扩展组件编译

  • 源码编译
  • 官方组件编译
  • Spark编译
  • version-3.5.5
JaneTTR
2025-05-06
目录
背景说明
第一步:修改 bigtop.bom

[B]Spark版本适配改造(一)

# 背景说明

在使用 Bigtop 进行 Spark 构建时,所有组件版本的管理入口集中在 bigtop.bom 文件中。因此,版本升级的第一步就是修改 bom 文件中关于 Spark 的配置块。

提示

Bigtop 采用统一的 Groovy DSL 风格配置,任何一个组件版本变更都需要在 bigtop.bom 中登记,才能驱动后续打包流程。

# 第一步:修改 bigtop.bom

我们将 Spark 的 base 版本号从 3.2.3 升级到 3.5.5,只需定位到 bom 文件中 spark 段落,并修改如下配置:

'spark' {
    name = 'spark'
    pkg = 'spark'
    rpm_pkg_suffix = "_" + bigtop.base_version.replace(".", "_")
    relNotes = 'Apache Spark'
    /*
     * Remember to fetch the new LICENSE-binary and licenses-binary files
     * when upgrading spark version.
     * See comments in [bigtop-packages/src/common/spark/install_spark.sh] for details.
     */
    version { base = '3.5.5'; pkg = base; release = 1 }
    tarball {
        destination = "$name-${version.base}.tar.gz"
        source = "$name-${version.base}.tgz"
    }
    url {
        download_path = "/$name/$name-${version.base}"
        site = "${apache.APACHE_MIRROR}/${download_path}"
        archive = "${apache.APACHE_ARCHIVE}/${download_path}"
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
#Spark#Bigtop#源码编译
Spark_3.5.5编译
[B]Spark版本适配改造(二)

← Spark_3.5.5编译 [B]Spark版本适配改造(二)→

最近更新
01
当前版本 2026/08
08-29
02
把 Ambari Server HA 稳稳地跑起来
08-17
03
从一次启用操作追到主备就绪
08-17
更多文章>
Theme by Vdoing | Copyright © 2017-2026 JaneTTR | MIT License
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式