Keras：嵌入/向量的附加层？

我有 3 个词嵌入：

• 嵌入#1：[w11、w12、w13、w14]
• 嵌入#2 : [w21, w22, w23, w24]
• 嵌入#3：[w31、w32、w33、w34]

有没有办法通过添加所有三个向量来获得第四个嵌入，并使用所有向量的可训练权重，例如：

• 嵌入#4：[w11 + w21 + w31、w12 + w22 + w32、w13 + w23 + w33、w14 + w24 + w34]

？有没有办法在 keras 层中做到这一点？

Problem
我想学习印度尼西亚语的词嵌入。我计划通过使用 LSTM 训练序列预测机来实现此目的。

然而，印尼语的语法与英语不同。特别是，在印度尼西亚语中，您可以使用前缀和后缀来修饰单词。名词词加上前缀就可以变成动词，加上后缀就可以变成形容词。您可以将如此多的词放入一个单词中，这样单个基本单词就可以有 5 个或更多的变体。

例如 ：

1. tani 的意思是农场（动词）
2. pe-tani 意思是农民
3. per-tani-an 的意思是农场（名词）
4. ber-tani 意思是农场（动词，含义略有不同）

通过向单词附加前缀来完成的语义转换在单词之间是一致的。例如 ：

1. pe-tani 与 tani 之间的关系就如同 pe-layan 与layan 之间的关系一样，pe-layar 与layar 之间的关系是什么，pe-tembak 与tembak 之间的关系是什么，等等。
2. per-main-an 与 main 的关系相当于 per-guru-an 与 guru 的关系，per-kira-an 与 kira 的关系，per-surat-an 与 surat 的关系，等等。

因此，我计划将前缀和后缀表示为嵌入，这将用于对基本单词的嵌入进行添加，从而产生新的嵌入。因此，复合词的含义是从基本词和词缀的嵌入中得出的，而不是存储为单独的嵌入。但是我不知道如何在 Keras 层中执行此操作。如果以前有人问过，我找不到它。

当你说“三词嵌入”时，我看到三个嵌入层，例如：

input1 = Input((sentenceLength,))
input2 = Input((sentenceLength,))
input3 = Input((sentenceLength,))

emb1 = Embedding(...options...)(input1)
emb2 = Embedding(...options...)(input2)
emb3 = Embedding(...options...)(input3)

您可以使用一个简单的Add()层将三者相加：

summed = Add()([emb1,emb2,emb3])

然后你继续你的建模......

#after creating the rest of the layers and getting the desired output:
model = Model([input1,input2,input3],output)

如果您不使用嵌入层，但输入三个向量：

input1 = Input((4,)) #or perhaps (sentenceLength,4)
input2 = Input((4,))
input3 = Input((4,))

added = Add()([input1,input2,input3])

其余的都是一样的。

如果这不是您的问题，请提供有关三个“词嵌入”的来源、您打算如何选择它们等的更多详细信息。