基於 ElasticSearch 實現站內全文搜索
目錄
-
摘要
-
1 技術選型
-
1.1 ElasticSearch
-
1.2 springBoot
-
1.3 ik 分詞器
-
2 環境準備
-
3 項目架構
-
4 實現效果
-
4.1 搜索頁面
-
4.2 搜索結果頁面
-
5 具體代碼實現
-
5.1 全文檢索的實現對象
-
5.2 客戶端配置
-
5.3 業務代碼編寫
-
5.4 對外接口
-
5.5 頁面
-
6 小結
摘要
對於一家公司而言，數據量越來越多，如果快速去查找這些信息是一個很難的問題，在計算機領域有一個專門的領域 IR（Information Retrival）研究如果獲取信息，做信息檢索。在國內的如百度這樣的搜索引擎也屬於這個領域，要自己實現一個搜索引擎是非常難的，不過信息查找對每一個公司都非常重要，對於開發人員也可以選則一些市場上的開源項目來構建自己的站內搜索引擎，本文將通過 ElasticSearch 來構建一個這樣的信息檢索項目。
1 技術選型
-
搜索引擎服務使用 ElasticSearch
-
提供的對外 web 服務選則 springboot web
1.1 ElasticSearch
Elasticsearch 是一個基於 Lucene 的搜索服務器。它提供了一個分佈式多用戶能力的全文搜索引擎，基於 RESTful web 接口。Elasticsearch 是用 Java 語言開發的，並作爲 Apache 許可條款下的開放源碼發佈，是一種流行的企業級搜索引擎。Elasticsearch 用於雲計算中，能夠達到實時搜索，穩定，可靠，快速，安裝使用方便。
官方客戶端在 Java、.NET（C#）、PHP、Python、Apache Groovy、Ruby 和許多其他語言中都是可用的。根據 DB-Engines 的排名顯示，Elasticsearch 是最受歡迎的企業搜索引擎，其次是 Apache Solr，也是基於 Lucene。1
現在開源的搜索引擎在市面上最常見的就是 ElasticSearch 和 Solr，二者都是基於 Lucene 的實現，其中 ElasticSearch 相對更加重量級，在分佈式環境表現也更好，二者的選則需考慮具體的業務場景和數據量級。對於數據量不大的情況下，完全需要使用像 Lucene 這樣的搜索引擎服務，通過關係型數據庫檢索即可。
1.2 springBoot
Spring Boot makes it easy to create stand-alone, production-grade Spring based Applications that you can “just run”.2
現在 springBoot 在做 web 開發上是絕對的主流，其不僅僅是開發上的優勢，在佈署，運維各個方面都有着非常不錯的表現，並且 spring 生態圈的影響力太大了，可以找到各種成熟的解決方案。
1.3 ik 分詞器
elasticSearch 本身不支持中文的分詞，需要安裝中文分詞插件，如果需要做中文的信息檢索，中文分詞是基礎，此處選則了 ik，下載好後放入 elasticSearch 的安裝位置的 plugin 目錄即可。
2 環境準備
需要安裝好 elastiSearch 以及 kibana（可選）, 並且需要 lk 分詞插件。
-
安裝 elasticSearch elasticsearch 官網. 筆者使用的是 7.5.1。
-
ik 插件下載 ik 插件 github 地址. 注意下載和你下載 elasticsearch 版本一樣的 ik 插件。
-
將 ik 插件放入 elasticsearch 安裝目錄下的 plugins 包下，新建報名 ik，將下載好的插件解壓到該目錄下即可，啓動 es 的時候會自動加載該插件。
- 搭建 springboot 項目 idea ->new project ->spring initializer
3 項目架構
-
獲取數據使用 ik 分詞插件
-
將數據存儲在 es 引擎中
-
通過 es 檢索方式對存儲的數據進行檢索
-
使用 es 的 java 客戶端提供外部服務
4 實現效果
4.1 搜索頁面
簡單實現一個類似百度的搜索框即可。
4.2 搜索結果頁面
點擊第一個搜索結果是我個人的某一篇博文，爲了避免數據版權問題，筆者在 es 引擎中存放的全是個人的博客數據。另外推薦：Java 進階視頻資源
5 具體代碼實現
5.1 全文檢索的實現對象
按照博文的基本信息定義瞭如下實體類，主要需要知道每一個博文的 url，通過檢索出來的文章具體查看要跳轉到該 url。
package com.lbh.es.entity;
import com.fasterxml.jackson.annotation.JsonIgnore;
import javax.persistence.*;
/**
* PUT articles
* {
* "mappings":
* {"properties":{
* "author":{"type":"text"},
* "content":{"type":"text","analyzer":"ik_max_word","search_analyzer":"ik_smart"},
* "title":{"type":"text","analyzer":"ik_max_word","search_analyzer":"ik_smart"},
* "createDate":{"type":"date","format":"yyyy-MM-dd HH:mm:ss||yyyy-MM-dd"},
* "url":{"type":"text"}
* } },
* "settings":{
* "index":{
* "number_of_shards":1,
* "number_of_replicas":2
* }
* }
* }
* ---------------------------------------------------------------------------------------------------------------------
* Copyright(c)lbhbinhao@163.com
* @author liubinhao
* @date 2021/3/3
*/
@Entity
@Table(name = "es_article")
public class ArticleEntity {
@Id
@JsonIgnore
@GeneratedValue(strategy = GenerationType.IDENTITY)
private long id;
@Column(name = "author")
private String author;
@Column(name = "content",columnDefinition="TEXT")
private String content;
@Column(name = "title")
private String title;
@Column(name = "createDate")
private String createDate;
@Column(name = "url")
private String url;
public String getAuthor() {
return author;
}
public void setAuthor(String author) {
this.author = author;
}
public String getContent() {
return content;
}
public void setContent(String content) {
this.content = content;
}
public String getTitle() {
return title;
}
public void setTitle(String title) {
this.title = title;
}
public String getCreateDate() {
return createDate;
}
public void setCreateDate(String createDate) {
this.createDate = createDate;
}
public String getUrl() {
return url;
}
public void setUrl(String url) {
this.url = url;
}
}5.2 客戶端配置
通過 java 配置 es 的客戶端。
package com.lbh.es.config;
import org.apache.http.HttpHost;
import org.elasticsearch.client.RestClient;
import org.elasticsearch.client.RestClientBuilder;
import org.elasticsearch.client.RestHighLevelClient;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.ArrayList;
import java.util.List;
/**
* Copyright(c)lbhbinhao@163.com
* @author liubinhao
* @date 2021/3/3
*/
@Configuration
public class EsConfig {
@Value("${elasticsearch.schema}")
private String schema;
@Value("${elasticsearch.address}")
private String address;
@Value("${elasticsearch.connectTimeout}")
private int connectTimeout;
@Value("${elasticsearch.socketTimeout}")
private int socketTimeout;
@Value("${elasticsearch.connectionRequestTimeout}")
private int tryConnTimeout;
@Value("${elasticsearch.maxConnectNum}")
private int maxConnNum;
@Value("${elasticsearch.maxConnectPerRoute}")
private int maxConnectPerRoute;
@Bean
public RestHighLevelClient restHighLevelClient() {
// 拆分地址
List<HttpHost> hostLists = new ArrayList<>();
String[] hostList = address.split(",");
for (String addr : hostList) {
String host = addr.split(":")[0];
String port = addr.split(":")[1];
hostLists.add(new HttpHost(host, Integer.parseInt(port), schema));
}
// 轉換成 HttpHost 數組
HttpHost[] httpHost = hostLists.toArray(new HttpHost[]{});
// 構建連接對象
RestClientBuilder builder = RestClient.builder(httpHost);
// 異步連接延時配置
builder.setRequestConfigCallback(requestConfigBuilder -> {
requestConfigBuilder.setConnectTimeout(connectTimeout);
requestConfigBuilder.setSocketTimeout(socketTimeout);
requestConfigBuilder.setConnectionRequestTimeout(tryConnTimeout);
return requestConfigBuilder;
});
// 異步連接數配置
builder.setHttpClientConfigCallback(httpClientBuilder -> {
httpClientBuilder.setMaxConnTotal(maxConnNum);
httpClientBuilder.setMaxConnPerRoute(maxConnectPerRoute);
return httpClientBuilder;
});
return new RestHighLevelClient(builder);
}
}5.3 業務代碼編寫
包括一些檢索文章的信息，可以從文章標題，文章內容以及作者信息這些維度來查看相關信息。另外推薦：Java 進階視頻資源
package com.lbh.es.service;
import com.google.gson.Gson;
import com.lbh.es.entity.ArticleEntity;
import com.lbh.es.repository.ArticleRepository;
import org.elasticsearch.action.admin.indices.delete.DeleteIndexRequest;
import org.elasticsearch.action.get.GetRequest;
import org.elasticsearch.action.get.GetResponse;
import org.elasticsearch.action.index.IndexRequest;
import org.elasticsearch.action.index.IndexResponse;
import org.elasticsearch.action.search.SearchRequest;
import org.elasticsearch.action.search.SearchResponse;
import org.elasticsearch.action.support.master.AcknowledgedResponse;
import org.elasticsearch.client.RequestOptions;
import org.elasticsearch.client.RestHighLevelClient;
import org.elasticsearch.client.indices.CreateIndexRequest;
import org.elasticsearch.client.indices.CreateIndexResponse;
import org.elasticsearch.common.settings.Settings;
import org.elasticsearch.common.xcontent.XContentType;
import org.elasticsearch.index.query.QueryBuilders;
import org.elasticsearch.search.SearchHit;
import org.elasticsearch.search.builder.SearchSourceBuilder;
import org.springframework.stereotype.Service;
import javax.annotation.Resource;
import java.io.IOException;
import java.util.*;
/**
* Copyright(c)lbhbinhao@163.com
* @author liubinhao
* @date 2021/3/3
*/
@Service
public class ArticleService {
private static final String ARTICLE_INDEX = "article";
@Resource
private RestHighLevelClient client;
@Resource
private ArticleRepository articleRepository;
public boolean createIndexOfArticle(){
Settings settings = Settings.builder()
.put("index.number_of_shards", 1)
.put("index.number_of_replicas", 1)
.build();
// {"properties":{"author":{"type":"text"},
// "content":{"type":"text","analyzer":"ik_max_word","search_analyzer":"ik_smart"}
// ,"title":{"type":"text","analyzer":"ik_max_word","search_analyzer":"ik_smart"},
// ,"createDate":{"type":"date","format":"yyyy-MM-dd HH:mm:ss||yyyy-MM-dd"}
// }
String mapping = "{\"properties\":{\"author\":{\"type\":\"text\"},\n" +
"\"content\":{\"type\":\"text\",\"analyzer\":\"ik_max_word\",\"search_analyzer\":\"ik_smart\"}\n" +
",\"title\":{\"type\":\"text\",\"analyzer\":\"ik_max_word\",\"search_analyzer\":\"ik_smart\"}\n" +
",\"createDate\":{\"type\":\"date\",\"format\":\"yyyy-MM-dd HH:mm:ss||yyyy-MM-dd\"}\n" +
"},\"url\":{\"type\":\"text\"}\n" +
"}";
CreateIndexRequest indexRequest = new CreateIndexRequest(ARTICLE_INDEX)
.settings(settings).mapping(mapping,XContentType.JSON);
CreateIndexResponse response = null;
try {
response = client.indices().create(indexRequest, RequestOptions.DEFAULT);
} catch (IOException e) {
e.printStackTrace();
}
if (response!=null) {
System.err.println(response.isAcknowledged() ? "success" : "default");
return response.isAcknowledged();
} else {
return false;
}
}
public boolean deleteArticle(){
DeleteIndexRequest request = new DeleteIndexRequest(ARTICLE_INDEX);
try {
AcknowledgedResponse response = client.indices().delete(request, RequestOptions.DEFAULT);
return response.isAcknowledged();
} catch (IOException e) {
e.printStackTrace();
}
return false;
}
public IndexResponse addArticle(ArticleEntity article){
Gson gson = new Gson();
String s = gson.toJson(article);
//創建索引創建對象
IndexRequest indexRequest = new IndexRequest(ARTICLE_INDEX);
//文檔內容
indexRequest.source(s,XContentType.JSON);
//通過client進行http的請求
IndexResponse re = null;
try {
re = client.index(indexRequest, RequestOptions.DEFAULT);
} catch (IOException e) {
e.printStackTrace();
}
return re;
}
public void transferFromMysql(){
articleRepository.findAll().forEach(this::addArticle);
}
public List<ArticleEntity> queryByKey(String keyword){
SearchRequest request = new SearchRequest();
/*
* 創建 搜索內容參數設置對象:SearchSourceBuilder
* 相對於matchQuery，multiMatchQuery針對的是多個fi eld，也就是說，當multiMatchQuery中，fieldNames參數只有一個時，其作用與matchQuery相當；
* 而當fieldNames有多個參數時，如field1和field2，那查詢的結果中，要麼field1中包含text，要麼field2中包含text。
*/
SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
searchSourceBuilder.query(QueryBuilders
.multiMatchQuery(keyword, "author","content","title"));
request.source(searchSourceBuilder);
List<ArticleEntity> result = new ArrayList<>();
try {
SearchResponse search = client.search(request, RequestOptions.DEFAULT);
for (SearchHit hit:search.getHits()){
Map<String, Object> map = hit.getSourceAsMap();
ArticleEntity item = new ArticleEntity();
item.setAuthor((String) map.get("author"));
item.setContent((String) map.get("content"));
item.setTitle((String) map.get("title"));
item.setUrl((String) map.get("url"));
result.add(item);
}
return result;
} catch (IOException e) {
e.printStackTrace();
}
return null;
}
public ArticleEntity queryById(String indexId){
GetRequest request = new GetRequest(ARTICLE_INDEX, indexId);
GetResponse response = null;
try {
response = client.get(request, RequestOptions.DEFAULT);
} catch (IOException e) {
e.printStackTrace();
}
if (response!=null&&response.isExists()){
Gson gson = new Gson();
return gson.fromJson(response.getSourceAsString(),ArticleEntity.class);
}
return null;
}
}5.4 對外接口
和使用 springboot 開發 web 程序相同。
package com.lbh.es.controller;
import com.lbh.es.entity.ArticleEntity;
import com.lbh.es.service.ArticleService;
import org.elasticsearch.action.index.IndexResponse;
import org.springframework.web.bind.annotation.*;
import javax.annotation.Resource;
import java.util.List;
/**
* Copyright(c)lbhbinhao@163.com
* @author liubinhao
* @date 2021/3/3
*/
@RestController
@RequestMapping("article")
public class ArticleController {
@Resource
private ArticleService articleService;
@GetMapping("/create")
public boolean create(){
return articleService.createIndexOfArticle();
}
@GetMapping("/delete")
public boolean delete() {
return articleService.deleteArticle();
}
@PostMapping("/add")
public IndexResponse add(@RequestBody ArticleEntity article){
return articleService.addArticle(article);
}
@GetMapping("/fransfer")
public String transfer(){
articleService.transferFromMysql();
return "successful";
}
@GetMapping("/query")
public List<ArticleEntity> query(String keyword){
return articleService.queryByKey(keyword);
}
}5.5 頁面
此處頁面使用 thymeleaf，主要原因是筆者真滴不會前端，只懂一丟丟簡單的 h5，就隨便做了一個可以展示的頁面。
搜索頁面
<!DOCTYPE html>
<html lang="en" xmlns:th="http://www.thymeleaf.org">
<head>
<meta charset="UTF-8" />
<meta />
<title>YiyiDu</title>
<!--
input:focus設定當輸入框被點擊時，出現藍色外邊框
text-indent: 11px;和padding-left: 11px;設定輸入的字符的起始位置與左邊框的距離
-->
<style>
input:focus {
border: 2px solid rgb(62, 88, 206);
}
input {
text-indent: 11px;
padding-left: 11px;
font-size: 16px;
}
</style>
<!--input初始狀態-->
<style class="input/css">
.input {
width: 33%;
height: 45px;
vertical-align: top;
box-sizing: border-box;
border: 2px solid rgb(207, 205, 205);
border-right: 2px solid rgb(62, 88, 206);
border-bottom-left-radius: 10px;
border-top-left-radius: 10px;
outline: none;
margin: 0;
display: inline-block;
background: url(/static/img/camera.jpg) no-repeat 0 0;
background-position: 565px 7px;
background-size: 28px;
padding-right: 49px;
padding-top: 10px;
padding-bottom: 10px;
line-height: 16px;
}
</style>
<!--button初始狀態-->
<style class="button/css">
.button {
height: 45px;
width: 130px;
vertical-align: middle;
text-indent: -8px;
padding-left: -8px;
background-color: rgb(62, 88, 206);
color: white;
font-size: 18px;
outline: none;
border: none;
border-bottom-right-radius: 10px;
border-top-right-radius: 10px;
margin: 0;
padding: 0;
}
</style>
</head>
<body>
<!--包含table的div-->
<!--包含input和button的div-->
<div style="font-size: 0px;">
<div align="center" style="margin-top: 0px;">
<img src="../static/img/yyd.png" th:src = "@{/static/img/yyd.png}" alt="一億度" width="280px" class="pic" />
</div>
<div align="center">
<!--action實現跳轉-->
<form action="/home/query">
<input type="text" class="input" />
<input type="submit" class="button" value="一億度下" />
</form>
</div>
</div>
</body>
</html>搜索結果頁面
<!DOCTYPE html>
<html lang="en" xmlns:th="http://www.thymeleaf.org">
<head>
<link rel="stylesheet" href="https://cdn.staticfile.org/twitter-bootstrap/4.3.1/css/bootstrap.min.css">
<meta charset="UTF-8">
<title>xx-manager</title>
</head>
<body>
<header th:replace="search.html"></header>
<div class="container my-2">
<ul th:each="article : ${articles}">
<a th:href="${article.url}"><li th:text="${article.author}+${article.content}"></li></a>
</ul>
</div>
<footer th:replace="footer.html"></footer>
</body>
</html>6 小結
上班擼代碼，下班繼續擼代碼寫博客，花了兩天研究了以下 es，其實這個玩意兒還是挺有意思的，現在 IR 領域最基礎的還是基於統計學的，所以對於 es 這類搜索引擎而言在大數據的情況下具有良好的表現。每一次寫實戰筆者其實都感覺有些無從下手，因爲不知道做啥？所以也希望得到一些有意思的點子筆者會將實戰做出來。
（感謝閱讀，希望對你所有幫助)
來源：blog.csdn.net/weixin_44671737/
article/details/114456257
本文由 Readfog 進行 AMP 轉碼，版權歸原作者所有。
來源：https://mp.weixin.qq.com/s/TgIpe7ei4IeOTTHfpL4RBg