SolrClient 创建索引 solr如何建立索引的

 

一.Solr的简介

      Solr 是Apache下的一个顶级开源项目，采用Java开发，它是基于Lucene的全文搜索服务。Solr可以独立运行在Jetty、Tomcat等这些Servlet容器中。都是Web服务器，Servlet容器，报文 ，JSON 格式字符串， XML格式字符串。Solr是一个可以独立运行的搜索服务器，使用solr进行全文检索服务的话，只需要通过http请求访问该服务器即可。

使用Solr 进行创建索引和搜索索引的实现方法很简单，如下：

• 创建索引：客户端（可以是浏览器可以是Java程序）用 POST 方法向 Solr 服务器发送一个描述 Field 及其内容的 XML 文档，Solr服务器根据xml文档添加、删除、更新索引 。 
• 搜索索引：客户端（可以是浏览器可以是Java程序）用 GET方法向 Solr 服务器发送请求，然后对 Solr服务器返回Xml、json等格式的查询结果进行解析。Solr不提供构建页面UI的功能。Solr提供了一个管理界面，通过管理界面可以查询Solr的配置和运行情况。

二.Solr和Lucene的区别

      Lucene是一个开放源代码的全文检索引擎工具包，它不是一个完整的全文检索应用。Lucene仅提供了完整的查询引擎和索引引擎，目的是为软件开发人员提供一个简单易用的工具包，以方便的在目标系统中实现全文检索的功能，或者以Lucene为基础构建全文检索应用。

      Solr的目标是打造一款企业级的搜索引擎系统，它是基于Lucene一个搜索引擎服务，可以独立运行，通过Solr可以非常快速的构建企业的搜索引擎，通过Solr也可以高效的完成站内搜索功能。

三.Solr的单机与集群概念

1.Solr的单机版

       概念：HttpSolrServer

2.Solr的集群版

        概念：SolrCloud(solr 云)是Solr提供的分布式搜索方案，当你需要大规模，容错，分布式索引和检索能力时使用 SolrCloud。当一个系统的索引数据量少的时候是不需要使用SolrCloud的，当索引量很大，搜索请求并发很高，这时需要使用SolrCloud来满足这些需求。

        结构：SolrCloud为了降低单机的处理压力，需要由多台服务器共同来完成索引和搜索任务。实现的思路是将索引数据进行Shard（分片）拆分，每个分片由多台的服务器共同完成，当一个索引或搜索请求过来时会分别从不同的Shard的服务器中操作索引。SolrCloud需要Solr基于Zookeeper部署，Zookeeper是一个集群管理软件，由于SolrCloud需要由多台服务器组成，由zookeeper来进行协调管理。

一个collection可以把数据（索引文件）拆分成多份，放进几个不同的shard中，一个shard的数据可以有多个备份（replica）。一个shard的多个replica中会有一个leader，由选举程序推选出来。一个replica相当于一个core。

 

这个功能的主要特性是：

• 整个集群的配置信息可以集中配置
• 对于搜索自动负载均衡、出现故障时可以自动切换
• 集成了ZooKeeper，负责集群的协调和配置

 

如上图，一个collection（collection1）被拆分到两个不同的shard中，而每个shard都有两个服务器（node）提供负载均衡和遇错切换的服务。这个分布式的结构是由ZooKeeper负责管理的。那些node中，实心圆圈的就是leader。

 

相关概念：

• HA：High Availability
• Node：一个服务器、或虚拟服务器节点，每个node对应一个port向外提供服务。对应于一个JVM。
• Collection：一个SolrCloud实例，负责对一批数据建立一个索引，并提供基于这个索引的搜索服务
• Shard：一个SolrCloud中的索引可以被拆分存放到多个shard中
• Replica：一个shard中的数据，可以有多个副本，就是Replica，其中有一个被推选出来的leader
• Core：负责处理一个Replica，跟一个node对应
• Cluster：由ZooKeeper管理的多个Node的集合，对solr的请求可以发送给一个cluster

Shard的数量决定了索引是如果被拆分的，所以，当一个cluster初始化完成之后，shard的数量是不能改的。

创建一个新的core并加入到一个Collection和shard中：

 

Shard的迁移：

如果原来只有一个机器、或只有少量机器，可以先规划好shard的数量并启动，然后等有新的机器之后，在新的机器中为某个shard启动一个新的replica，然后把原来的shard移除，这样ZooKeeper就会把新的replica提升为这个shard的leader了。

 

Leader和Replica：

如果Solr启动的时候，参数numShards=2，那么前两个启动的node就是leader，分别服务于这两个shard，第三个和之后启动的node就是replica，他们会依次按照那两个leader加入cluster的顺序分配给那两个leader（使用round-robin的方式）。也可以在启动node的时候使用shardId参数直接把这个node分配给某个shard。当solr重启的时候，所有的node还是归属到重启之前所归属的shard，同个shard中先启动的node就是leader（first come first served）。

当一个leader无法工作的时候，这个shard中的某一个replica会被自动推选为leader。在Solr Admin UI界面中，Cloud菜单里面可以看到哪个是Leader（实心圆圈者）。

 

新的文档可以被送往任何一个node，SolrCloud会自动把它们分配到合适的shard中：

• 如果文档被送到一个replica中，那么这个replica会把这些文档发送给这个shard的leader
• 当一个leader接收到文档的时候，SolrCloud会决定这些文档应该分配到哪个shard，然后把它们发生给这个shard的leader、建立索引、并把索引发送给这个shard中所有的replica

添加shard：

如果需要加多一个shard，可以使用Collections API，创建两个新的shard，再把现有shard中的索引分配到这两个新Shard中。旧的shard需要手动删掉。

 

package com.xyg.solrj;

import java.util.List;
import java.util.Map;
import org.apache.solr.client.solrj.SolrQuery;
import org.apache.solr.client.solrj.SolrQuery.ORDER;
import org.apache.solr.client.solrj.SolrServer;
import org.apache.solr.client.solrj.impl.HttpSolrServer;
import org.apache.solr.client.solrj.response.QueryResponse;
import org.apache.solr.common.SolrDocument;
import org.apache.solr.common.SolrDocumentList;
import org.apache.solr.common.SolrInputDocument;
import org.junit.Test;

/**
 * <p>Title:SolrjDemo</p>
 * @Description:solrj的入门程序
 * @Param:
 * @Return:
 * @Author:Administrator
 * @Date:2017年11月3日上午12:32:42
 */
public class SolrjDemo {
    //添加  修改
    @Test
    public void testCreateAndUpdateIndex() throws Exception {
        // 1. 创建HttpSolrServer对象
        // 设置solr服务接口,浏览器客户端地址http://127.0.0.1:8080/solr/#/
        String baseURL = "http://127.0.0.1:8080/solr";
        //String baseURL = "http://localhost:8080/solr/collection2";
        SolrServer solrServer = new HttpSolrServer(baseURL);
        // 2. 创建SolrInputDocument对象
        SolrInputDocument document = new SolrInputDocument();
        document.addField("id", "100");
        document.addField("name", "Hello world!");
        // 3. 把SolrInputDocument对象添加到索引库中
        solrServer.add(document); //httpSolrServer.add(document,1000);
        // 4. 提交
        solrServer.commit();
    }    
    //删除
    @Test
    public void testDeleteIndex() throws Exception {
        String baseURL = "http://127.0.0.1:8080/solr";        
        SolrServer  solrServer = new HttpSolrServer(baseURL);
        // 根据id删除索引数据
        //solrServer.deleteById("100");
        // 根据条件删除（如果是*:*就表示全部删除，慎用）
        //solrServer.deleteByQuery("name:Hello");
        solrServer.deleteByQuery("*:*");  //删除所有        
        solrServer.commit();  // 提交
    }
    //查询
    @Test
    public void testSearchIndex1() throws Exception {
        String baseURL = "http://127.0.0.1:8080/solr";        
        SolrServer  solrServer = new HttpSolrServer(baseURL);
        // 创建搜索对象
        SolrQuery query = new SolrQuery();
        // 设置搜索条件
        query.setQuery("*:*");
        // 发起搜索请求
        QueryResponse response = solrServer.query(query);
        // 处理搜索结果
        SolrDocumentList docs = response.getResults();
        System.out.println("搜索到的结果总数：" + docs.getNumFound());
        // 遍历搜索结果
        for (SolrDocument doc : docs) {
        System.out.println("----------------------------------------------------");
        System.out.println("id：" + doc.get("id"));
        System.out.println("name:" + doc.get("name"));
        }
    }        
    //复杂查询索引
    @Test
    public void queryIndex2() throws Exception {
        //创建连接
        SolrServer solrServer = new HttpSolrServer("http://localhost:8080/solr");
        //创建一个query对象
        SolrQuery solrQuery = new SolrQuery();
        //设置关键词查询条件
        solrQuery.setQuery("钻石");   //solrQuery.set("q","钻石");        
        //过滤条件
        solrQuery.setFilterQueries("product_catalog_name:幽默杂货");
        //排序条件
        solrQuery.setSort("product_price", ORDER.asc);
        //分页处理
        solrQuery.setStart(0);
        solrQuery.setRows(10);
        //结果中域的列表        solrQuery.setFields("id","product_name","product_price","product_catalog_name","product_picture");
        //设置默认搜索域
        solrQuery.set("df", "product_keywords");
        //高亮显示
        solrQuery.setHighlight(true);
        //高亮显示的域
        solrQuery.addHighlightField("product_name");
        //高亮显示的前缀
        solrQuery.setHighlightSimplePre("<font color='red'>");
        //高亮显示的后缀
        solrQuery.setHighlightSimplePost("</font>");
        //执行查询
        QueryResponse queryResponse = solrServer.query(solrQuery);
        //取查询结果
        SolrDocumentList solrDocumentList = queryResponse.getResults();
        //共查询到商品数量
        System.out.println("共查询到商品数量:" + solrDocumentList.getNumFound());
        //遍历查询的结果
        for (SolrDocument solrDocument : solrDocumentList) {
            System.out.println(solrDocument.get("id"));
            //取高亮显示
            String productName = "";
            Map<String, Map<String, List<String>>> highlighting = queryResponse.getHighlighting();
            List<String> list = highlighting.get(solrDocument.get("id")).get("product_name");
            //判断是否有高亮内容
            if (null != list) {
                productName = list.get(0);
            } else {
                productName = (String) solrDocument.get("product_name");
            }                
            System.out.println(productName);
            System.out.println(solrDocument.get("product_price"));           
            System.out.println(solrDocument.get("product_catalog_name"));
            System.out.println(solrDocument.get("product_picture"));                
        }
    }        
}