Solr搜索引擎第八篇-索引提交方式

2024-02-25 08:08
文章标签 索引 方式 提交 搜索引擎 第八篇 solr

本文主要是介绍Solr搜索引擎第八篇-索引提交方式，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

文章目录

  • 通过WEB控制台提交
  • 使用POST工具提交
  • Java客户端使用SorlJ
  • 结构化数据导入DIH

通过WEB控制台提交

登陆web控制台，从这里可以提交索引数据，支持JSON、CSV、XML、上传文件、Solr Command的方式提交索引
在这里插入图片描述
具体提交的数据格式以及携带参数可以参看官方文档：
https://lucene.apache.org/solr/guide/7_5/uploading-data-with-index-handlers.html

使用POST工具提交

其实和使用web控制台提交是一样的，服务端提供了http接口，无非就是调用这个http接口罢了，至于客户端使用什么工具都是可以的。在web控制台中没有具体说明提交数据的格式，在这里会一一说明。

Java客户端使用SorlJ

Java客户端应用可以使用solrj这个工具包，提交索引并查询索引。
pom.xml文件引入solrj：

<dependency><groupId>org.apache.solr</groupId><artifactId>solr-solrj</artifactId><version>7.3.0</version>
</dependency>

solrj底层使用httpclient连接solr服务器实例的。核心的API有SolrClient、SolrRequest、SolrResponse。
SolrClient的子类有如下，需要看情况使用对应的子类：

  • HttpSolrClient – 与指定的一个solr节点通信的客户端，适用于单机模式
  • LBHttpSolrClient –负载均衡地访问一组节点的客户端，适用于SolrCloud模式
  • CloudSolrClient – 访问solrCloud的客户端，适用于SolrCloud模式，常用
  • ConcurrentUpdateSolrClient –并发更新索引用的客户端

SolrClient提供了很多方法，包括增删改查。具体的SolrClient、SolrRequest、SolrResponse提供了哪些方法，可以直接查看代码。
如下一个简单的示例：

package com.dalomao.framework.solr;import java.util.ArrayList;
import java.util.List;
import java.util.Optional;
import java.util.UUID;import org.apache.solr.client.solrj.SolrClient;
import org.apache.solr.client.solrj.impl.CloudSolrClient;
import org.apache.solr.client.solrj.impl.HttpSolrClient;
import org.apache.solr.client.solrj.impl.LBHttpSolrClient;
import org.apache.solr.client.solrj.response.UpdateResponse;
import org.apache.solr.common.SolrInputDocument;/*** solr各种客户端demo* 要想跑通该demo，必须启动solr实例，且创建内核mycore* 实际开发的时候，client客户端设为单例*/
public class SolrJClientDemo {// baseSolrUr 示例private static String baseSolrUrl = "http://localhost:8983/solr/";private static String baseSolrUrl2 = "http://localhost:7001/solr/";//指定集合/内核的URL地址private static String baseSolrUrlWithCollection = "http://localhost:8983/solr/mycore";//zk地址，适用于SolrCloud模式private static String zkServerUrl = "localhost:9983";/*** HttpSolrClient:与一个solr Server 通过http进行通信* 适用于独立服务器模式（单机）*/public static SolrClient getHttpSolrClient(String baseSolrUrl) {return new HttpSolrClient.Builder(baseSolrUrl).withConnectionTimeout(1000).withSocketTimeout(6000).build();}public static SolrClient getHttpSolrClient() {return new HttpSolrClient.Builder(baseSolrUrl).withConnectionTimeout(1000).withSocketTimeout(6000).build();}/*** LBHttpSolrClient: 负载均衡的httpSolrClient <br>* 负载均衡方式： 轮询给定的多个solr server url。* 当某个url不通时，url地址会从活跃列表移到死亡列表中，用下一个地址再次发送请求。<br>* 对于死亡列表中的url地址，会定期（默认每隔1分钟，可设置）去检测是否变活了，再加入到活跃列表中。 <br>* 注意： <br>* 1、不可用于主从结构master/slave的索引场景，因为主从结构必须通过主节点来更新。 <br>* 2、适用于SolrCloud模式，在solrCloud中可用它来进行索引更新，solrCloud中的节点会将请求转发到对应的leader。* 3、对于SolrCloud(leader/replica)，使用CloudSolrClient更好。*/public static SolrClient getLBHttpSolrClient(String... solrUrls) {return new LBHttpSolrClient.Builder().withBaseSolrUrls(solrUrls).build();}public static SolrClient getLBHttpSolrClient() {return new LBHttpSolrClient.Builder().withBaseSolrUrls(baseSolrUrl, baseSolrUrl2).build();}/*** 访问SolrCloud集群用CloudSolrClient<br>* CloudSolrClient 实例通过访问zookeeper得到集群中集合的节点列表，<br>* 然后通过LBHttpSolrClient来负载均衡地发送请求。<br>* 注意：这个类默认文档的唯一键字段为“id”，如果不是的，通过 setIdField(String)方法指定。*/public static SolrClient getCloudSolrClient(List<String> zkHosts,Optional<String> zkChroot) {return new CloudSolrClient.Builder(zkHosts, zkChroot).build();}public static SolrClient getCloudSolrClient() {//zk地址，可以多个（zk集群情况下）List<String> zkHosts = new ArrayList<String>();zkHosts.add(zkServerUrl);//zk的根目录若有变更，则需要设置，否则直接放空（一般zk主目录不会变更）Optional<String> zkChroot = Optional.empty();return new CloudSolrClient.Builder(zkHosts, zkChroot).build();}public static void main(String[] args) throws Exception {// HttpSolrClient 示例：SolrClient client = SolrJClientDemo.getHttpSolrClient();SolrInputDocument doc = new SolrInputDocument();doc.addField("id", UUID.randomUUID().toString());doc.addField("name", "HttpSolrClient");UpdateResponse updateResponse = client.add("mycore", doc);// 记得要提交client.commit("mycore");System.out.println("------------ HttpSolrClient ------------");System.out.println("add doc:" + doc);System.out.println("response: " + updateResponse.getResponse());client.close();// LBHttpSolrClient 示例client = SolrJClientDemo.getLBHttpSolrClient();doc.clear();doc.addField("id", UUID.randomUUID().toString());doc.addField("name", "LBHttpSolrClient");updateResponse = client.add("mycore", doc);// 记得要提交client.commit("mycore");System.out.println("------------ LBHttpSolrClient ------------");System.out.println("add doc:" + doc);System.out.println("response: " + updateResponse.getResponse());client.close();// CloudSolrClient 示例client = SolrJClientDemo.getCloudSolrClient();doc.clear();doc.addField("id", UUID.randomUUID().toString());doc.addField("name", "CloudSolrClient");updateResponse = client.add("mycore", doc);// 记得要提交client.commit("mycore");System.out.println("------------ CloudSolrClient ------------");System.out.println("add doc:" + doc);System.out.println("response: " + updateResponse.getResponse());client.close();}}

Solr还提供了java bean和对象映射的功能，类似mybatis中的ORM。
定义一个java bean：

package com.dalomao.framework.solr.entity;import org.apache.solr.client.solrj.beans.Field;public class SolrProductEntity {@Fieldprivate String id;@Fieldprivate  String name;@Fieldprivate String type;public String getId() {return id;}public void setId(String id) {this.id = id;}public String getName() {return name;}public void setName(String name) {this.name = name;}public String getType() {return type;}public void setType(String type) {this.type = type;}
}

定义一个测试类：

package com.dalomao.framework.solr;import com.dalomao.framework.solr.entity.SolrProductEntity;
import org.apache.solr.client.solrj.SolrClient;
import org.apache.solr.client.solrj.SolrQuery;
import org.apache.solr.client.solrj.SolrServerException;
import org.apache.solr.client.solrj.response.QueryResponse;
import org.apache.solr.client.solrj.response.UpdateResponse;import java.io.IOException;
import java.util.List;
import java.util.Random;/*** 通过java bean的方式索引和查询* 实际开发的时候，client客户端设为单例*/
public class SolrClientByJavaBeanDemo {public static void main(String[] args) throws IOException, SolrServerException {//先索引数据SolrClient client = SolrJClientDemo.getHttpSolrClient("http://localhost:7001/solr");SolrProductEntity entity = new SolrProductEntity();entity.setId(new Random().toString());entity.setName("笔记本电脑");entity.setType("计算机");UpdateResponse response = client.addBean("mycore", entity);System.out.println(response.toString());client.commit("mycore");//查询SolrQuery query = new SolrQuery("*:*");query.addField("id");query.addField("name");query.setSort("id", SolrQuery.ORDER.asc);QueryResponse queryResponse = client.query("mycore", query);final List<SolrProductEntity> products = queryResponse.getBeans(SolrProductEntity.class);System.out.println(products.toString());}
}

结构化数据导入DIH

Solr支持结构化的数据导入，通过使用DIH。支持全量、增量数据导入。
Solr支持从关系数据库、基于http的数据源(如RSS和ATOM提要)、电子邮件存储库和结构化XML 中索引内容。
这一部分内容将会通过实际例子进行说明，请跳转Solr搜索引擎第九篇-DataImportHadler导入MySQL数据超详细

这篇关于Solr搜索引擎第八篇-索引提交方式的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/744875。

相关文章

oracle数据库索引失效的问题及解决

oracle数据库索引失效的问题及解决

《oracle数据库索引失效的问题及解决》本文总结了在Oracle数据库中索引失效的一些常见场景,包括使用isnull、isnotnull、!=、、、函数处理、like前置%查询以及范围索引和等值索引... 目录oracle数据库索引失效问题场景环境索引失效情况及验证结论一结论二结论三结论四结论五总结ora
阅读更多...
Jsoncpp的安装与使用方式

Jsoncpp的安装与使用方式

《Jsoncpp的安装与使用方式》JsonCpp是一个用于解析和生成JSON数据的C++库,它支持解析JSON文件或字符串到C++对象,以及将C++对象序列化回JSON格式,安装JsonCpp可以通过... 目录安装jsoncppJsoncpp的使用Value类构造函数检测保存的数据类型提取数据对json数
阅读更多...
Redis事务与数据持久化方式

Redis事务与数据持久化方式

《Redis事务与数据持久化方式》该文档主要介绍了Redis事务和持久化机制,事务通过将多个命令打包执行,而持久化则通过快照（RDB）和追加式文件（AOF）两种方式将内存数据保存到磁盘,以防止数据丢失... 目录一、Redis 事务1.1 事务本质1.2 数据库事务与redis事务1.2.1 数据库事务1.
阅读更多...
Linux磁盘分区、格式化和挂载方式

Linux磁盘分区、格式化和挂载方式

《Linux磁盘分区、格式化和挂载方式》本文详细介绍了Linux系统中磁盘分区、格式化和挂载的基本操作步骤和命令,包括MBR和GPT分区表的区别、fdisk和gdisk命令的使用、常见的文件系统格式以... 目录一、磁盘分区表分类二、fdisk命令创建分区1、交互式的命令2、分区主分区3、创建扩展分区，然后
阅读更多...
Linux中chmod权限设置方式

Linux中chmod权限设置方式

《Linux中chmod权限设置方式》本文介绍了Linux系统中文件和目录权限的设置方法,包括chmod、chown和chgrp命令的使用,以及权限模式和符号模式的详细说明,通过这些命令,用户可以灵活... 目录设置基本权限命令：chmod1、权限介绍2、chmod命令常见用法和示例3、文件权限详解4、ch
阅读更多...
Java中的密码加密方式

Java中的密码加密方式

《Java中的密码加密方式》文章介绍了Java中使用MD5算法对密码进行加密的方法,以及如何通过加盐和多重加密来提高密码的安全性,MD5是一种不可逆的哈希算法,适合用于存储密码,因为其输出的摘要长度固... 目录Java的密码加密方式密码加密一般的应用方式是总结Java的密码加密方式密码加密【这里采用的
阅读更多...
Java中ArrayList的8种浅拷贝方式示例代码

Java中ArrayList的8种浅拷贝方式示例代码

《Java中ArrayList的8种浅拷贝方式示例代码》：本文主要介绍Java中ArrayList的8种浅拷贝方式的相关资料,讲解了Java中ArrayList的浅拷贝概念,并详细分享了八种实现浅... 目录引言什么是浅拷贝？ArrayList 浅拷贝的重要性方法一：使用构造函数方法二：使用 addAll(
阅读更多...
Mycat搭建分库分表方式

Mycat搭建分库分表方式

《Mycat搭建分库分表方式》文章介绍了如何使用分库分表架构来解决单表数据量过大带来的性能和存储容量限制的问题,通过在一对主从复制节点上配置数据源,并使用分片算法将数据分配到不同的数据库表中,可以有效... 目录分库分表解决的问题分库分表架构添加数据验证结果 总结分库分表解决的问题单表数据量过大带来的性能
阅读更多...
SpringBoot项目引入token设置方式

SpringBoot项目引入token设置方式

《SpringBoot项目引入token设置方式》本文详细介绍了JWT（JSONWebToken）的基本概念、结构、应用场景以及工作原理,通过动手实践,展示了如何在SpringBoot项目中实现JWT... 目录一. 先了解熟悉JWT（jsON Web Token）1. JSON Web Token是什么鬼
阅读更多...
在C#中合并和解析相对路径方式

在C#中合并和解析相对路径方式

《在C#中合并和解析相对路径方式》Path类提供了几个用于操作文件路径的静态方法,其中包括Combine方法和GetFullPath方法,Combine方法将两个路径合并在一起,但不会解析包含相对元素... 目录C#合并和解析相对路径System.IO.Path类幸运的是总结C#合并和解析相对路径对于 C
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2