TT Bigdata TT Bigdata
首页
  • 部署专题

    • 常规安装
    • 一键部署
  • 组件安装

    • 常规&高可用
  • 版本专题

    • 更新说明
  • Ambari-Env

    • 环境准备
    • 开始使用
  • 组件编译

    • 专区—Ambari
    • 专区—Bigtop
  • 报错解决

    • 专区—Ambari
    • 专区—Bigtop
  • 其他技巧

    • Maven镜像加速
    • Gradle镜像加速
    • Bower镜像加速
    • 虚拟环境思路
    • R环境安装+一键安装脚本
    • Ivy配置私有镜像仓库
    • Node.js 多版本共存方案
    • Ambari Web本地启动
    • Npm镜像加速
    • PostgreSQL快速安装
    • Temurin JDK 23快速安装
  • 成神之路

    • 专区—Ambari
    • 专区—Bigtop
  • 集成案例

    • Redis集成教学
    • Dolphin集成教学
    • Doris集成教学
    • 持续整理...
  • 模板代码

    • 各类组件
    • 通用模板
  • 国产化&其他系统

    • Centos系列
    • Kylin系列
    • OpenEuler系列
    • Rocky系列
    • Ubuntu系列
  • 生产调优

    • 组件调优指南
    • 1v1指导调优
  • 定制开发

    • 组件版本定制
    • 样式风格定制
  • 蓝图愿景
  • 技术支持
  • 合作共建
GitHub (opens new window)

JaneTTR

数据酿造智慧,每一滴都是沉淀!
首页
  • 部署专题

    • 常规安装
    • 一键部署
  • 组件安装

    • 常规&高可用
  • 版本专题

    • 更新说明
  • Ambari-Env

    • 环境准备
    • 开始使用
  • 组件编译

    • 专区—Ambari
    • 专区—Bigtop
  • 报错解决

    • 专区—Ambari
    • 专区—Bigtop
  • 其他技巧

    • Maven镜像加速
    • Gradle镜像加速
    • Bower镜像加速
    • 虚拟环境思路
    • R环境安装+一键安装脚本
    • Ivy配置私有镜像仓库
    • Node.js 多版本共存方案
    • Ambari Web本地启动
    • Npm镜像加速
    • PostgreSQL快速安装
    • Temurin JDK 23快速安装
  • 成神之路

    • 专区—Ambari
    • 专区—Bigtop
  • 集成案例

    • Redis集成教学
    • Dolphin集成教学
    • Doris集成教学
    • 持续整理...
  • 模板代码

    • 各类组件
    • 通用模板
  • 国产化&其他系统

    • Centos系列
    • Kylin系列
    • OpenEuler系列
    • Rocky系列
    • Ubuntu系列
  • 生产调优

    • 组件调优指南
    • 1v1指导调优
  • 定制开发

    • 组件版本定制
    • 样式风格定制
  • 蓝图愿景
  • 技术支持
  • 合作共建
GitHub (opens new window)
  • 准备阶段

  • 理解packages.gradle

  • 理解bigtop.bom

  • Hadoop编译

  • Flink编译

  • Spark编译

    • version-3.2.3

    • version-3.5.5

      • Spark_3.5.5编译
      • [B]Spark版本适配改造(一)
        • 背景说明
        • 第一步:修改 bigtop.bom
      • [B]Spark版本适配改造(二)
  • Atlas编译

  • Superset编译

  • Zookeeper编译

  • Hbase编译

  • Hive编译

  • Kafka编译

  • Solr编译

  • Tez编译

  • Zeppelin编译

  • 组件编译-Bigtop
  • Spark编译
  • version-3.5.5
JaneTTR
2025-05-06
目录

[B]Spark版本适配改造(一)1.0.7+

# 背景说明

在使用 Bigtop 进行 Spark 构建时,所有组件版本的管理入口集中在 bigtop.bom 文件中。因此,版本升级的第一步就是修改 bom 文件中关于 Spark 的配置块。

提示

Bigtop 采用统一的 Groovy DSL 风格配置,任何一个组件版本变更都需要在 bigtop.bom 中登记,才能驱动后续打包流程。

# 第一步:修改 bigtop.bom

我们将 Spark 的 base 版本号从 3.2.3 升级到 3.5.5,只需定位到 bom 文件中 spark 段落,并修改如下配置:

'spark' {
    name = 'spark'
    pkg = 'spark'
    rpm_pkg_suffix = "_" + bigtop.base_version.replace(".", "_")
    relNotes = 'Apache Spark'
    /*
     * Remember to fetch the new LICENSE-binary and licenses-binary files
     * when upgrading spark version.
     * See comments in [bigtop-packages/src/common/spark/install_spark.sh] for details.
     */
    version { base = '3.5.5'; pkg = base; release = 1 }
    tarball {
        destination = "$name-${version.base}.tar.gz"
        source = "$name-${version.base}.tgz"
    }
    url {
        download_path = "/$name/$name-${version.base}"
        site = "${apache.APACHE_MIRROR}/${download_path}"
        archive = "${apache.APACHE_ARCHIVE}/${download_path}"
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
#Bigtop#Spark#版本升级#编译适配
Spark_3.5.5编译
[B]Spark版本适配改造(二)

← Spark_3.5.5编译 [B]Spark版本适配改造(二)→

最近更新
01
Pandoc 缺失导致 SparkR 构建失败
06-08
02
Cyrus SASL/GSASL 缺失解决
06-07
03
Hadoop_3.3.4 编译实战 1.0.0+
06-06
更多文章>
Theme by Vdoing | Copyright © 2017-2025 JaneTTR | MIT License
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式