LSTM 与 Keras

我有一些训练数据x_train以及一些相应的标签x_train called y_train。这是如何x_train and y_train构造：

train_x = np.array([np.random.rand(1, 1000)[0] for i in range(10000)])
train_y = (np.random.randint(1,150,10000))

train_x有 10000 行，每行 1000 列。train_ytrain_x 中的每个样本都有一个介于 1 到 150 之间的标签，并表示每个 train_x 样本的代码。

我还有一个名为 Sample 的样本，它有 1 行 1000 列，我想用它来对此 LSTM 模型进行预测。该变量定义为

sample = np.random.rand(1,1000)[0]

我正在尝试使用 Keras 在此数据上训练和预测 LSTM。我想获取这个特征向量并使用这个 LSTM 来预测 1 到 150 范围内的代码之一。我知道这些是随机数组，但我无法发布我拥有的数据。我已经尝试了以下我认为应该有效的方法，但遇到了一些问题

    model = Sequential()
    model.add(LSTM(output_dim = 32, input_length = 10000, input_dim = 1000,return_sequences=True))
    model.add(Dense(150, activation='relu'))
    model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy']) 
    history = model.fit(train_x, train_y,
              batch_size=128, nb_epoch=1,
              verbose = 1)
    model.predict(sample)

对此管道的任何帮助或调整都会很棒。我不确定是否output_dim是正确的。我想在 1000 维数据的每个样本上通过训练 LSTM，然后重现 1 到 150 范围内的特定代码。谢谢。

我认为你至少需要改变三件事：

1. 更改这一行：

   model.add(Dense(150, activation='relu'))
   

   to:

   model.add(Dense(150, activation='softmax'))
   

   作为离开'relu'因为激活使你的输出不受限制，而它需要有一个概率解释（当你使用categorical_crossentropy).

2. 改变损失或目标：

   当你正在使用categorical_crossentropy你需要改变你的目标独热编码长度为 150 的向量。另一种方法是离开目标，但将损失更改为sparse_categorical_crossentropy.

3. 改变你的目标范围：

   Keras有一个从 0 开始的数组索引（如Python, C and C++所以你的值应该在范围内[0, 150)反而[1, 150].