[B]Spark版本适配改造(一)1.0.7+
# 背景说明
在使用 Bigtop 进行 Spark 构建时,所有组件版本的管理入口集中在 bigtop.bom
文件中。因此,版本升级的第一步就是修改 bom 文件中关于 Spark 的配置块。
提示
Bigtop 采用统一的 Groovy DSL 风格配置,任何一个组件版本变更都需要在 bigtop.bom
中登记,才能驱动后续打包流程。
# 第一步:修改 bigtop.bom
我们将 Spark 的 base
版本号从 3.2.3
升级到 3.5.5
,只需定位到 bom 文件中 spark
段落,并修改如下配置:
'spark' {
name = 'spark'
pkg = 'spark'
rpm_pkg_suffix = "_" + bigtop.base_version.replace(".", "_")
relNotes = 'Apache Spark'
/*
* Remember to fetch the new LICENSE-binary and licenses-binary files
* when upgrading spark version.
* See comments in [bigtop-packages/src/common/spark/install_spark.sh] for details.
*/
version { base = '3.5.5'; pkg = base; release = 1 }
tarball {
destination = "$name-${version.base}.tar.gz"
source = "$name-${version.base}.tgz"
}
url {
download_path = "/$name/$name-${version.base}"
site = "${apache.APACHE_MIRROR}/${download_path}"
archive = "${apache.APACHE_ARCHIVE}/${download_path}"
}
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21