我有一个预训练的 word2vec 模型，我将其加载到spacy对新单词进行矢量化。给定我执行的新文本nlp('hi').vector获取单词“hi”的向量。
最终，需要对一个新单词进行向量化，该新单词不存在于我的预训练模型的词汇表中。在这种情况下spacy默认为用零填充的向量。我希望能够为 OOV 术语设置此默认向量。
Example:
import spacy
path_model= '/home/bionlp/spacy.bio_word2vec.model'
nlp=spacy.load(path_spacy)
print(nlp('abcdef').vector, '\n',nlp('gene').vector)
此代码输出单词“gene”的密集向量和单词“abcdef”的全 0 向量（因为它不存在于词汇表中）：
我的目标是能够指定缺失单词的向量，因此您可以获得（例如）一个充满 1 的向量，而不是为单词“abcdef”获取充满 0 的向量。
如果您只想使用插件向量而不是 SpaCy 默认的全零向量，则可以添加一个额外的步骤，用您的向量替换任何全零向量。例如：
words = ['words', 'may', 'by', 'fehlt']
my_oov_vec = ... # whatever you like
spacy_vecs = [nlp(word) for word in words]
fixed_vecs = [vec if vec.any() else my_oov_vec
for vec in spacy_vecs]
我不确定你为什么要这样做。许多关于词向量的工作只是简单地删除了词汇表之外的词。使用任何插头值，包括 SpaCy 的零向量，可能只会增加无用的噪音。
如果更好地处理 OOV 单词很重要，请注意，其他一些单词向量模型（如 FastText）可以通过使用在训练期间为子单词片段学习的向量来合成 OOV 单词的猜测向量。这类似于人们通常可以从熟悉的词根中找出单词的主旨。