Keras Tuner：根据层数选择单元数

我正在使用 Keras Tuner 来调整神经网络的超参数。

我想搜索隐藏层的最佳数量以及每层中的最佳单元数。为了避免模型过度参数化，我想施加以下条件：

• 如果模型有两层，则选择最佳的单元数；每层最多 64 个
• 如果模型有一层，则选择最佳的单元数；每层最多 128 个

如何施加这个条件？

如果我尝试过这个：

for i in range(hp.Choice('num_layers', [1, 2])):
            
    max_units = 128 if i == 1 else 64
    hp_units = hp.Int(f'units_{i}', min_value=16, max_value=max_units, step=16)
    model.add(tf.keras.layers.Dense(units=hp_units, activation='relu', use_bias=True))
    

但这只会导致以下情况：

• 如果探索第二层，则选择最佳的单元数；第二层最多64个
• 如果探索第一层，则选择最佳的单元数；第一层最多128个

我认为最好只创建两个 hparams 选择变量，每个变量用于一层中的单位计数。如果第二层的单位为零，它将完全消失。

neurons_first_layer = hp.Choice('neurons_first_layer', [16,32,64,128])
neurons_second_layer = hp.Choice('neurons_second_layer', [0,16,32,64,])
model.add(tf.keras.layers.Dense(units=neurons_first_layer, activation='relu', use_bias=True))
if neurons_second_layer: # if second layer has units
    model.add(tf.keras.layers.Dense(units=neurons_second_layer,activation='relu', use_bias=True))

这样你就得到 16 种组合：

[(16, 0), (16, 16), (16, 32), (16, 64), (32, 0), (32, 16), (32, 32), 
(32, 64), (64, 0), (64, 16), (64, 32), (64, 64), (128, 0), (128, 16), ...]