RocketMQ部署之动态设置JVM启动参数

2023-11-08

这里是weihubeats,觉得文章不错可以关注公众号小奏技术,文章首发。拒绝营销号,拒绝标题党

背景

线上的RocketMQ集群有运行一段时间了。比如测试环境和线上环境的RocketMQ集群部署的机器内存大小肯定不一样。所以可能要写多个部署脚本。非常麻烦
官方的部署脚本是不支持根据宿主机内存大小动态设置JVM启动参数的

可以看到是写死的,给4g。
但是比如我线上的机器内存大小为8g,实际我要给的内存可能是6g。我又需要手动改脚本非常麻烦。所以想要修改基于宿主机内存大小自动调节JVM内存大小

基于jvm自带参数

实际上jdk在11就支持动态参数了,比如上面的脚本我们可以改成如下方式

choose_gc_options()
{
    # Example of JAVA_MAJOR_VERSION value : '1', '9', '10', '11', ...
    # '1' means releases befor Java 9
    JAVA_MAJOR_VERSION=$("$JAVA" -version 2>&1 | sed -r -n 's/.* version "([0-9]*).*$/\1/p')
    if [ -z "$JAVA_MAJOR_VERSION" ] || [ "$JAVA_MAJOR_VERSION" -lt "9" ] ; then
      JAVA_OPT="${JAVA_OPT} -server -XX:MaxRAMPercentage=70 -XX:MinRAMPercentage=70 -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
      JAVA_OPT="${JAVA_OPT} -XX:+UseG1GC -XX:G1HeapRegionSize=16m -XX:G1ReservePercent=25 -XX:InitiatingHeapOccupancyPercent=30 -XX:SoftRefLRUPolicyMSPerMB=0"
      JAVA_OPT="${JAVA_OPT} -Xlog:gc*:file=${GC_LOG_DIR}/rmq_srv_gc_%p_%t.log:time,tags:filecount=5,filesize=30M"
    else
      JAVA_OPT="${JAVA_OPT} -server -Xms8g -Xmx8g -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
      JAVA_OPT="${JAVA_OPT} -XX:+UseG1GC -XX:G1HeapRegionSize=16m -XX:G1ReservePercent=25 -XX:InitiatingHeapOccupancyPercent=30 -XX:SoftRefLRUPolicyMSPerMB=0"
      JAVA_OPT="${JAVA_OPT} -Xlog:gc*:file=${GC_LOG_DIR}/rmq_srv_gc_%p_%t.log:time,tags:filecount=5,filesize=30M"
    fi
}
  1. -XX:MaxRAMPercentage 用于设置JVM可使用的最大RAM百分比。举例来说,你可以使用 -XX:MaxRAMPercentage=75 指定JVM最多可用服务器内存的75%。

但是实际启动会报错,当前的服务器jdk版本不支持
我的jdk版本为1.8.0_362
实际我们是可以改动RocketMQ源码去支持jdk11的部署,但是这种方式比较耗费精力。所以我这里决定使用sh脚本来实现

sh脚本实现

核心脚本代码主要是这几行

# 获取宿主机内存总量(单位:M)
total_mem=$(grep MemTotal /proc/meminfo | awk '{print int($2/1024)}')

# 将内存总量转为单位:G 向上取整
mem_in_g=$((total_mem + 1023 / 1024))

# 判断内存大小,按需设定内存分配比例
if [ $mem_in_g -lt 16 ]; then
  mem_ratio=85
elif [ $mem_in_g -ge 16 -a $mem_in_g -lt 32 ]; then
  mem_ratio=90
elif [ $mem_in_g -ge 32 ]; then
  mem_ratio=95
fi

heap_size=$(($total_mem * $mem_ratio /100 / 1024))
metaspace_size=$(echo "$total_mem * 0.02" | bc | awk '{print int($1+0.5)}' | sed -e 's/^0\{1,\}//')
max_metaspace_size=$(echo "$total_mem * 0.04" | bc | awk '{print int($1+0.5)}' | sed -e 's/^0\{1,\}//')

choose_gc_options()
{
    # Example of JAVA_MAJOR_VERSION value : '1', '9', '10', '11', ...
    # '1' means releases befor Java 9
    JAVA_MAJOR_VERSION=$("$JAVA" -version 2>&1 | sed -r -n 's/.* version "([0-9]*).*$/\1/p')
    if [ -z "$JAVA_MAJOR_VERSION" ] || [ "$JAVA_MAJOR_VERSION" -lt "9" ] ; then
      JAVA_OPT="${JAVA_OPT} -server -Xms${heap_size}g -Xmx${heap_size}g -XX:MetaspaceSize=${metaspace_size}m -XX:MaxMetaspaceSize=${max_metaspace_size}m"
      JAVA_OPT="${JAVA_OPT} -XX:+UseG1GC -XX:G1HeapRegionSize=16m -XX:G1ReservePercent=25 -XX:InitiatingHeapOccupancyPercent=30 -XX:SoftRefLRUPolicyMSPerMB=0"
      JAVA_OPT="${JAVA_OPT} -verbose:gc -Xloggc:${GC_LOG_DIR}/rmq_srv_gc_%p_%t.log -XX:+PrintGCDetails -XX:+PrintGCDateStamps"
      JAVA_OPT="${JAVA_OPT} -XX:+UseGCLogFileRotation -XX:NumberOfGCLogFiles=5 -XX:GCLogFileSize=30m"
    else
      JAVA_OPT="${JAVA_OPT} -server -Xms8g -Xmx8g -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
      JAVA_OPT="${JAVA_OPT} -XX:+UseG1GC -XX:G1HeapRegionSize=16m -XX:G1ReservePercent=25 -XX:InitiatingHeapOccupancyPercent=30 -XX:SoftRefLRUPolicyMSPerMB=0"
      JAVA_OPT="${JAVA_OPT} -Xlog:gc*:file=${GC_LOG_DIR}/rmq_srv_gc_%p_%t.log:time,tags:filecount=5,filesize=30M"
    fi
}

上面的脚本都有注释。我们大致还是解释下

  1. 获取宿主机的内存大小(非可用内存,我们要保证宿主机分配不到预定内存就启动报错)
  2. 小于16g内存给总内存的85%,比如我们的服务器是8G(实际可用为7G左右),则給到的内存为6G
  3. 大于等于16g小于32g内存我们给总内存的90%,比如我们的内存为16g(实际可用为15G),则分配的内存为13G
  4. 大于等于32g的我们也给95%内存。比如我们的内存为64g(实际可用为61G),则分配到的内存为58G
  5. 元空间大小我们给总内存的0.02
  6. 最大元空间大小我们给总内存的0。04
  7. 注意获取到的总内存要向上取整,因为8g的机器我们实际获取到的内存大小大概为7296M,我们加一个1023(一个无线趋近于1的数就可以向上取整了)

最后给一个完整的runserver.sh

  • runserver.sh
#!/bin/sh

# Licensed to the Apache Software Foundation (ASF) under one or more
# contributor license agreements.  See the NOTICE file distributed with
# this work for additional information regarding copyright ownership.
# The ASF licenses this file to You under the Apache License, Version 2.0
# (the "License"); you may not use this file except in compliance with
# the License.  You may obtain a copy of the License at
#
#     http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
# See the License for the specific language governing permissions and
# limitations under the License.

#===========================================================================================
# Java Environment Setting
#===========================================================================================
error_exit ()
{
    echo "ERROR: $1 !!"
    exit 1
}

find_java_home()
{
    case "`uname`" in
        Darwin)
            JAVA_HOME=$(/usr/libexec/java_home)
        ;;
        *)
            JAVA_HOME=$(dirname $(dirname $(readlink -f $(which javac))))
        ;;
    esac
}

find_java_home

[ ! -e "$JAVA_HOME/bin/java" ] && JAVA_HOME=$HOME/jdk/java
[ ! -e "$JAVA_HOME/bin/java" ] && JAVA_HOME=/usr/java
[ ! -e "$JAVA_HOME/bin/java" ] && error_exit "Please set the JAVA_HOME variable in your environment, We need java(x64)!"

export JAVA_HOME
export JAVA="$JAVA_HOME/bin/java"
export BASE_DIR=$(dirname $0)/..
export CLASSPATH=.:${BASE_DIR}/conf:${BASE_DIR}/lib/*:${CLASSPATH}

#===========================================================================================
# JVM Configuration
#===========================================================================================
# The RAMDisk initializing size in MB on Darwin OS for gc-log
DIR_SIZE_IN_MB=600

# 获取宿主机内存总量(单位:M)
total_mem=$(grep MemTotal /proc/meminfo | awk '{print int($2/1024)}')

# 将内存总量转为单位:G 向上取整
mem_in_g=$((total_mem + 1023 / 1024))

# 判断内存大小,按需设定内存分配比例
if [ $mem_in_g -lt 16 ]; then
  mem_ratio=90
elif [ $mem_in_g -ge 16 -a $mem_in_g -lt 32 ]; then
  mem_ratio=95
elif [ $mem_in_g -ge 32 ]; then
  mem_ratio=95
fi

heap_size=$(($total_mem * $mem_ratio /100 / 1024))
metaspace_size=$(echo "$total_mem * 0.02" | bc | awk '{print int($1+0.5)}' | sed -e 's/^0\{1,\}//')
max_metaspace_size=$(echo "$total_mem * 0.04" | bc | awk '{print int($1+0.5)}' | sed -e 's/^0\{1,\}//')


choose_gc_log_directory()
{
    case "`uname`" in
        Darwin)
            if [ ! -d "/Volumes/RAMDisk" ]; then
                # create ram disk on Darwin systems as gc-log directory
                DEV=`hdiutil attach -nomount ram://$((2 * 1024 * DIR_SIZE_IN_MB))` > /dev/null
                diskutil eraseVolume HFS+ RAMDisk ${DEV} > /dev/null
                echo "Create RAMDisk /Volumes/RAMDisk for gc logging on Darwin OS."
            fi
            GC_LOG_DIR="/Volumes/RAMDisk"
        ;;
        *)
            # check if /dev/shm exists on other systems
            if [ -d "/dev/shm" ]; then
                GC_LOG_DIR="/dev/shm"
            else
                GC_LOG_DIR=${BASE_DIR}
            fi
        ;;
    esac
}

choose_gc_options()
{
    # Example of JAVA_MAJOR_VERSION value : '1', '9', '10', '11', ...
    # '1' means releases befor Java 9
    JAVA_MAJOR_VERSION=$("$JAVA" -version 2>&1 | sed -r -n 's/.* version "([0-9]*).*$/\1/p')
    if [ -z "$JAVA_MAJOR_VERSION" ] || [ "$JAVA_MAJOR_VERSION" -lt "9" ] ; then
      JAVA_OPT="${JAVA_OPT} -server -Xms${heap_size}g -Xmx${heap_size}g -XX:MetaspaceSize=${metaspace_size}m -XX:MaxMetaspaceSize=${max_metaspace_size}m"
      JAVA_OPT="${JAVA_OPT} -XX:+UseG1GC -XX:G1HeapRegionSize=16m -XX:G1ReservePercent=25 -XX:InitiatingHeapOccupancyPercent=30 -XX:SoftRefLRUPolicyMSPerMB=0"
      JAVA_OPT="${JAVA_OPT} -verbose:gc -Xloggc:${GC_LOG_DIR}/rmq_srv_gc_%p_%t.log -XX:+PrintGCDetails -XX:+PrintGCDateStamps"
      JAVA_OPT="${JAVA_OPT} -XX:+UseGCLogFileRotation -XX:NumberOfGCLogFiles=5 -XX:GCLogFileSize=30m"
    else
      JAVA_OPT="${JAVA_OPT} -server -Xms8g -Xmx8g -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
      JAVA_OPT="${JAVA_OPT} -XX:+UseG1GC -XX:G1HeapRegionSize=16m -XX:G1ReservePercent=25 -XX:InitiatingHeapOccupancyPercent=30 -XX:SoftRefLRUPolicyMSPerMB=0"
      JAVA_OPT="${JAVA_OPT} -Xlog:gc*:file=${GC_LOG_DIR}/rmq_srv_gc_%p_%t.log:time,tags:filecount=5,filesize=30M"
    fi
}

choose_gc_log_directory
choose_gc_options
JAVA_OPT="${JAVA_OPT} -XX:-OmitStackTraceInFastThrow"
JAVA_OPT="${JAVA_OPT} -XX:-UseLargePages"
#JAVA_OPT="${JAVA_OPT} -Xdebug -Xrunjdwp:transport=dt_socket,address=9555,server=y,suspend=n"
JAVA_OPT="${JAVA_OPT} ${JAVA_OPT_EXT}"
JAVA_OPT="${JAVA_OPT} -cp ${CLASSPATH}"

$JAVA ${JAVA_OPT} $@

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

RocketMQ部署之动态设置JVM启动参数 的相关文章

随机推荐

  • Linux地图投影Proj4应用,proj4 地图投影坐标转换库 - 下载 - 搜珍网

    压缩包 proj 4 7 0 zip 列表 proj 4 7 0 proj 4 7 0 README proj 4 7 0 configure in proj 4 7 0 aclocal m4 proj 4 7 0 Makefile am
  • RestTemplate使用方法

    单独使用调用其他服务请求 public static void getRestTemplate String urls RestTemplate restTemplate new RestTemplate MultiValueMap
  • S7协议解析

    S7 1 西门子通信场景 西门子设备使用多种不同现场总线协议 例如 MPI Profibus IE Profinet 等 Profinet用于将PLC连接到IO模块 而不是设备的管理协议 S7以太网通信协议 主要用于将PLC连接到 i pc
  • Linux内核相关知识点记录【内存管理】【进程调度】【异常调试】【锁】【kvm虚拟化】【内核启动】

    1 内存管理 怎么阐述自己的理解 硬件原理 分页机制原理 内核内存管理由MMU提供硬件支持 MMU实现虚实地址VA gt PA的转换以及权限检查 虚拟地址和物理地址之间的映射关系是页表机制 每一个页表项都保持物理地址页及其访问权限 页表机制
  • unity 循环选择列表

    用DoTween做卡片选择功能 说明 例1 例2 说明 DOTween 是一个快速 高效 完全类型安全的面向对象的 Unity 动画引擎 针对 C 用户进行了优化 免费且开源 具有大量高级功能 这里展示了使用DoTween做出来的两个典型的
  • ideal修改页面没有变化解决方案

    1 依次点击操作file gt Settings gt Build Execution Deployment gt Compiler 勾选上Build project automatically 2 按快捷键 Ctrl Shift Alt
  • Pip安装失败ReadTimeoutError: HTTPSConnectionPool(host=‘files.pythonhosted.org‘, , port=443)解决方案

    使用pip install r requirements txt安装失败 一直报错 pip vendor urllib3 exceptions ReadTimeoutError HTTPSConnectionPool host files
  • RMSNorm论文阅读

    RMSNorm论文阅读 1 论文 1 1 RMSNorm介绍 RMSNorm论文中对LayerNorm的公式做了改造 在原有LayerNorm中借助了每个layer统计的mean和variance对参数进行了调整 但RMSNorm认为re
  • 辛普森悖论理解

    目录 辛普森悖论 介绍 分析 数学原理 图像表示 基本比率谬误 介绍 数学原理 参考 辛普森悖论 介绍 观察下面 表格 Treatment A Treatment B Small stones Group 1 93 81 87 Group
  • Maven警告解决:Using platform encoding (UTF-8 actually) to copy filtered resources, i.e. build is platfor

    在pom xml文件中增加如下代码即可解决
  • 4 个有用的 JavaScript 闭包技巧

    什么是闭包 根据 MDN 闭包是捆绑在一起 封闭 的函数及其周围状态 词法环境 的引用的组合 换句话说 闭包使您可以从内部函数访问外部函数的作用域 在 JavaScript 中 每次创建函数时都会创建闭包 例如 const getShowN
  • ioctl函数详解

    大部分驱动除了需要具备读写设备的能力之外 还需要具备对硬件控制的能力 一 在用户空间 使用ioctl系统调用来控制设备 原型如下 cpp view plain copy int ioctl int fd unsigned long cmd
  • IDEA+创建Maven多模块springboot项目

    第一步 创建顶级pom工程 一路next后 删掉顶级工程的src目录 父工程只需要管理好全局依赖和变量就好
  • 搭建nginx网站服务器

    1 检查网络环境 查看服务器是否可以上网 ifup ens33 打开ens33网卡 ping www baidu com 2 Centos 7配置阿里云yum源和安装EPEL源 1 对默认原文件进行备份 cd etc yum repos d
  • 计算机视觉的上游任务和下游任务

    这几天看CV论文和视频 经常提及什么上游任务 下游任务 简单来说下游任务是具体部署 上游任务是训练一个用于特征提取的预训练模型 比如这几年很火的CLIP 1 GPT 2 计算机视觉四大任务 分类 解决 what 定位 解决 where 检测
  • Unable to open debugger port

    今天在启动idea debug情形下报了如下错误 就是 Error running tomcat Unable to open debugger port 127 0 0 1 58946 java net SocketException s
  • java es score_elasticsearch系列(五)score

    概述 score在ES中有着很重要的作用 有了它才有了rank 是验证文档相关性的关键数据 score越大代表匹配到的文档相关性越大 官方解释 查询的时候可以用explain来展示score的计算过程 也可以增加format yaml来讲j
  • JAVA机试练习(2023华为od练手题PDF)

    目录 一 字符串操作 二 排序 三 栈 四 排列组合 五 双指针 六 深度搜索 七 二叉树 八 其他 1 HJ5进制转换 16变10 JAVA实现16进制转10进制 java十六进制转十进制 奥特曼下象棋的博客 CSDN博客 2 HJ3去除
  • Spring依赖注入的三种方式及其区别

    一 基于构造器的依赖注入 private final InventoryMapper inventoryMapper public InventoryController InventoryMapper inventoryMapper th
  • RocketMQ部署之动态设置JVM启动参数

    这里是weihubeats 觉得文章不错可以关注公众号小奏技术 文章首发 拒绝营销号 拒绝标题党 背景 线上的RocketMQ集群有运行一段时间了 比如测试环境和线上环境的RocketMQ集群部署的机器内存大小肯定不一样 所以可能要写多个部