本文主要是介绍logstash实现reindex,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
参考:https://www.phpmianshi.com/?id=253
概念
Elasticsearch 本身不提供对索引的 rename,mapping 的 alter 等操作。所以,如果有需要对全索引数据进行导出,或者修改某个已有字段的 mapping 设置等情况下,我们只能通过 scroll API 导出全部数据,然后重新做一次索引写入。这个过程,叫做 reindex。
logstash实现reindex
在最新版的 Logstash 中,对 logstash-input-elasticsearch 插件做了一定的修改,使得通过 logstash 完成 reindex 成为可能。
reindex 操作的 logstash 配置如下:
input {elasticsearch {hosts => [ "192.168.0.2" ]index => "old_index"size => 500scroll => "5m"docinfo => true} } output {elasticsearch {hosts => [ "192.168.0.3" ]index => "%{[@metadata][_index]}"document_type => "%{[@metadata][_type]}"document_id => "%{[@metadata][_id]}"} }
如果你做 reindex 的源索引并不是 logstash 记录的内容,也就是没有 @timestamp
, @version
这两个 logstash 字段,那么可以在上面配置中添加一段 filter 配置,确保前后索引字段完全一致:
filter {mutate {remove_field => [ "@timestamp", "@version" ]} }
这篇关于logstash实现reindex的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!