在 Elasticsearch 和 Lucene 4.4 中使用 Shingles 和停用词

在我正在构建的索引中，我有兴趣运行查询，然后（使用方面）返回该查询的带状疱疹。这是我在文本上使用的分析器：

{
  "settings": {
    "analysis": {
      "analyzer": {
        "shingleAnalyzer": {
          "tokenizer": "standard",
          "filter": [
            "standard",
            "lowercase",
            "custom_stop",
            "custom_shingle",
            "custom_stemmer"
          ]
        }
      },
      "filter": {
        "custom_stemmer" : {
            "type": "stemmer",
            "name": "english"
        },
        "custom_stop": {
            "type": "stop",
            "stopwords": "_english_"
        },
        "custom_shingle": {
            "type": "shingle",
            "min_shingle_size": "2",
            "max_shingle_size": "3"
        }
      }
    }
  }
}

主要问题是，对于 Lucene 4.4，停止过滤器不再支持enable_position_increments参数来消除包含停用词的木瓦。相反，我会得到像这样的结果。

“红色和黄色”

"terms": [
    {
        "term": "red",
        "count": 43
    },
    {
        "term": "red _",
        "count": 43
    },
    {
        "term": "red _ yellow",
        "count": 43
    },
    {
        "term": "_ yellow",
        "count": 42
    },
    {
        "term": "yellow",
        "count": 42
    }
]

自然，这极大地扭曲了退回的带状疱疹的数量。 Lucene 4.4 之后是否有一种方法可以在不对结果进行后处理的情况下管理此问题？

可能不是最好的解决方案，但最直率的方法是在分析器中添加另一个过滤器来删除“_”填充标记。在下面的示例中，我将其称为“kill_fillers”：

   "shingleAnalyzer": {
      "tokenizer": "standard",
      "filter": [
        "standard",
        "lowercase",
        "custom_stop",
        "custom_shingle",
        "custom_stemmer",
        "kill_fillers"
       ],
       ...

将“kill_fillers”过滤器添加到过滤器列表中：

"filters":{
...
  "kill_fillers": {
    "type": "pattern_replace",
    "pattern": ".*_.*",
    "replace": "",
  },
...
}