如何访问生成器提供的 Keras 自定义损失函数中的样本权重?

2024-02-27

我有一个生成器函数,可以无限循环某些图像目录并输出 3 元组的批次形式

[img1, img2], label, weight

where img1 and img2 are batch_size x M x N x 3张量,以及label and weight是每个batch_sizex 1 张量。

我将这个生成器提供给fit_generator使用 Keras 训练模型时的函数。

对于这个模型,我有一个自定义的余弦对比损失函数,

def cosine_constrastive_loss(y_true, y_pred):
    cosine_distance = 1 - y_pred
    margin = 0.9
    cdist = y_true * y_pred + (1 - y_true) * keras.backend.maximum(margin - y_pred, 0.0)
    return keras.backend.mean(cdist)

从结构上讲,我的模型一切正常。没有错误,并且它正在按预期消耗来自生成器的输入和标签。

但现在我正在寻求直接使用每个批次的权重参数并在其中执行一些自定义逻辑cosine_contrastive_loss基于样品特定的重量。

如何在执行损失函数时从一批样本的结构中访问此参数?

请注意,由于它是一个无限循环的生成器,因此不可能预先计算权重或动态计算它们以将权重咖喱到损失函数中或生成它们。

它们必须与正在生成的样本一致生成,实际上我的数据生成器中有自定义逻辑,可以根据以下属性动态确定权重img1, img2 and label目前它们是为一批生成的。


手动训练循环替代方案

我唯一能想到的是手动训练循环,您可以自己获取权重。

有一个权重张量和一个不可变的批量大小:

weights = K.variable(np.zeros((batch_size,)))

在您的自定义损失中使用它们:

def custom_loss(true, pred):
    return someCalculation(true, pred, weights)

对于“生成器”:

for e in range(epochs):
    for s in range(steps_per_epoch):
        x, y, w = next(generator) #or generator.next(), not sure
        K.set_value(weights, w)

        model.train_on_batch(x, y)

For a keras.utils.Sequence:

for e in range(epochs):
    for s in range(len(generator)):
        x,y,w = generator[s]

        K.set_value(weights, w)
        model.train_on_batch(x,y)

我知道这个答案不是最佳的,因为它不会并行化从生成器获取数据,因为它发生在fit_generator。但这是我能想到的最好的简单解决方案。 Keras 没有公开权重,它们会自动应用在一些隐藏的源代码中。


让模型计算权重替代方案

如果可以计算权重x and y,您可以将此任务委托给损失函数本身。

这有点hacky,但可能有效:

input1 = Input(shape1)
input2 = Input(shape2)

# .... model creation .... #

model = Model([input1, input2], outputs)

让损失者能够获得input1 and input2:

def custom_loss(y_true, y_pred):
    w = calculate_weights(input1, input2, y_pred)
    # .... rest of the loss .... #

这里的问题是您是否可以根据输入将权重计算为张量。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

如何访问生成器提供的 Keras 自定义损失函数中的样本权重? 的相关文章

随机推荐