1.ElasticSearch的简介
Elasticsearch的特点
1）可以作为一个大型分布式集群（数百台服务器）技术，处理PB级数据，服务大公司；也可以运行在单机上，服务小公司
2）Elasticsearch不是什么新技术，主要是将全文检索、数据分析以及分布式技术，合并在了一起，才形成了独一无二的ES；lucene（全文检索），商用的数据分析软件（也是有的），分布式数据库（mycat）
3）对用户而言，是开箱即用的，非常简单，作为中小型的应用，直接3分钟部署一下ES，就可以作为生产环境的系统来使用了，数据量不大，操作不是太复杂
4）数据库的功能面对很多领域是不够用的（事务，还有各种联机事务型的操作）；特殊的功能，比如全文检索，同义词处理，相关度排名，复杂数据分析，海量数据的近实时处理；Elasticsearch作为传统数据库的一个补充，提供了数据库所不能提供的很多功能
什么是搜索？
1）百度，谷歌，必应。我们可以通过他们去搜索我们需要的东西。但是我们的搜索不只是包含这些，还有京东站内搜索啊。
2）互联网的搜索：电商网站。招聘网站。新闻网站。各种APP（百度外卖，美团等等）
3）windows系统的搜索,OA软件，淘宝SSM网站，前后台的搜索功能
总结：搜索无处不在。通过一些关键字，给我们查询出来跟这些关键字相关的信息什么是全文检索
全文检索是指计算机索引程序通过扫描文章中的每一个词，对每一个词建立一个索引，指明该词在文章中出现的次数和位置，当用户查询时，检索程序就根据事先建立的索引进行查找，并将查找的结果反馈给用户的检索方式。这个过程类似于通过字典中的检索字表查字的过程。
全文检索的方法主要分为按字检索和按词检索两种。按字检索是指对于文章中的每一个字都建立索引，检索时将词分解为字的组合。对于各种不同的语言而言，字有不同的含义，比如英文中字与词实际上是合一的，而中文中字与词有很大分别。按词检索指对文章中的词，即语义单位建立索引，检索时按词检索，并且可以处理同义项等。英文等西方文字由于按照空白切分词，因此实现上与按字处理类似，添加同义处理也很容易。中文等东方文字则需要切分字词，以达到按词索引的目的，关于这方面的问题，是当前全文检索技术尤其是中文全文检索技术中的难点，在此不做详述。什么是倒排索引
以前是根据ID查内容，倒排索引之后是根据内容查ID，然后再拿着ID去查询出来真正需要的东西。
image.png
什么是Lucene
Lucene就是一个jar包，里面包含了各种建立倒排索引的方法，java开发的时候只需要导入这个jar包就可以开发了。
Lucene的介绍及使用
典型的用空间换时间。ES 和 Lucene的区别
Lucene不是分布式的。
ES的底层就是Lucene，ES是分布式的为什么不用数据库去实现搜索功能？
我们用搜索“牙膏”商品为例
image.png
如果用我们平时数据库来实现搜索的功能在性能上就很差。ES的由来
因为Lucene有两个难以解决的问题，
1）数据越大，存不下来，那我就需要多台服务器存数据，那么我的Lucene不支持分布式的，那就需要安装多个Lucene然后通过代码来合并搜索结果。这样很不好
2）数据要考虑安全性，一台服务器挂了，那么上面的数据不就消失了。
ES就是分布式的集群，每一个节点其实就是Lucene，当用户搜索的时候，会随机挑一台，然后这台机器自己知道数据在哪，不用我们管这些底层、
image.png
ES的优点
1.分布式的功能
2、数据高可用，集群高可用
3.API更简单
4.API更高级。
5.支持的语言很多
6.支持PB级别的数据
7.完成搜索的功能和分析功能
基于Lucene，隐藏了Lucene的复杂性，提供简单的API
ES的性能比HBase高，咱们的竞价引擎最后还是要存到ES中的。搜索引擎原理
反向索引又叫倒排索引，是根据文章内容中的关键字建立索引。
搜索引擎原理就是建立反向索引。
Elasticsearch 在 Lucene 的基础上进行封装，实现了分布式搜索引擎。
Elasticsearch 中的索引、类型和文档的概念比较重要，类似于 MySQL 中的数据库、表和行。
Elasticsearch 也是 Master-slave 架构，也实现了数据的分片和备份。
Elasticsearch 一个典型应用就是 ELK 日志分析系统。ES的作用
1）全文检索：
类似 select * from product where product_name like '%牙膏%'
类似百度效果（电商搜索的效果）
2）结构化搜索：
类似 select * from product where product_id = '1'
3）数据分析
类似 select count (*) from productES的安装
参考https://www.jianshu.com/p/198a874cc14f
直接解压就能用（针对中小型项目），大型项目还是要调一调参数的
2.用数据库实现搜素的功能
image.png
3.ES的核心概念
3.1 NRT(Near Realtime)近实时
image.png
3.2 cluster集群，ES是一个分布式的系统
ES直接解压不需要配置就可以使用，在hadoop1上解压一个ES，在hadoop2上解压了一个ES，接下来把这两个ES启动起来。他们就构成了一个集群。
在ES里面默认有一个配置，clustername 默认值就是ElasticSearch,如果这个值是一样的就属于同一个集群，不一样的值就是不一样的集群。
3.3 Node节点，就是集群中的一台服务器
3.4 Index（索引-数据库）
我们为什么使用ES？因为想把数据存进去，然后再查询出来。
我们在使用Mysql或者Oracle的时候，为了区分数据，我们会建立不同的数据库，库下面还有表的。
其实ES功能就像一个关系型数据库，在这个数据库我们可以往里面添加数据，查询数据。
ES中的索引非传统索引的含义，ES中的索引是存放数据的地方，是ES中的一个概念词汇
index类似于我们Mysql里面的一个数据库 create database user; 好比就是一个索引库
3.5 Type（类型-表）
ES6以后一个index只能有一个type，为了提高查询效率。
3.6 Document（文档-行）
文档就是最终的数据了，可以认为一个文档就是一条记录。
是ES里面最小的数据单元，就好比表里面的一条数据
3.7 Field（字段-列）
好比关系型数据库中列的概念，一个document有一个或者多个field组成。
3.8 mapping（映射-约束）
数据如何存放到索引对象上，需要有一个映射配置，包括：数据类型、是否存储、是否分词等。
elasticsearch与数据库的类比
| 关系型数据库（比如Mysql） | 非关系型数据库（Elasticsearch） |
|---|---|
| 数据库Database | 索引Index |
| 表Table | 类型Type |
| 数据行Row | 文档Document |
| 数据列Column | 字段Field |
| 约束 Schema | 映射Mapping |
3.9 shard：分片
一台服务器，无法存储大量的数据，ES把一个index里面的数据，分为多个shard，分布式的存储在各个服务器上面。
kafka：为什么支持分布式的功能，因为里面是有topic，支持分区的概念。所以topic A可以存在不同的节点上面。就可以支持海量数据和高并发，提升性能和吞吐量
3.10 replica：副本
一个分布式的集群，难免会有一台或者多台服务器宕机，如果我们没有副本这个概念。就会造成我们的shard发生故障，无法提供正常服务。
我们为了保证数据的安全，我们引入了replica的概念，跟hdfs里面的概念是一个意思。
可以保证我们数据的安全。
在ES集群中，我们一模一样的数据有多份，能正常提供查询和插入的分片我们叫做 primary shard，其余的我们就管他们叫做 replica shard（备份的分片）
当我们去查询数据的时候，我们数据是有备份的，它会同时发出命令让我们有数据的机器去查询结果，最后谁的查询结果快，我们就要谁的数据（这个不需要我们去控制，它内部就自己控制了）
总结：
在默认情况下，我们创建一个库的时候，默认会帮我们创建5个主分片（primary shrad）和5个副分片（replica shard），所以说正常情况下是有10个分片的。
同一个节点上面，副本和主分片是一定不会在一台机器上面的，就是拥有相同数据的分片，是不会在同一个节点上面的。
所以当你有一个节点的时候，这个分片是不会把副本存在这仅有的一个节点上的，当你新加入了一台节点，ES会自动的给你在新机器上创建一个之前分片的副本。
image.png
3.11 举例
比如一首诗，有诗题、作者、朝代、字数、诗内容等字段，那么首先，我们可以建立一个名叫 Poems 的索引，然后创建一个名叫 Poem 的类型，类型是通过 Mapping 来定义每个字段的类型。
比如诗题、作者、朝代都是 Keyword 类型，诗内容是 Text 类型，而字数是 Integer 类型，最后就是把数据组织成 Json 格式存放进去了。
image.png
Keyword 类型是不会分词的，直接根据字符串内容建立反向索引，Text 类型在存入 Elasticsearch 的时候，会先分词，然后根据分词后的内容建立反向索引。
image.png
4. ES集群的安装
以后补充
5. 安装 Kibana
https://www.jianshu.com/p/198a874cc14f
6. ES的相关命令
GET _cat/health 查看集群的健康状况
GET _all
PUT 类似于SQL中的增
DELETE 类似于SQL中的删
POST 类似于SQL中的改
GET 类似于SQL中的查
index的操作：
PUT /aura_index 增加一个aura_index的index库
image.png
GET _cat/indices 命令查询ES中所有的index索引库
image.png
5：代表的是 primary shard的个数
1：代表的是replica shard的个数是5，因为副本数为1代表有5个副分片，注意这个地方说的1是不包括自己本身的，我们的HDFS block3代表的是包括自己本身的
DELETE /aura_index 删除一个aura_index的index库
image.png
7. ES的CURD操作
通过演示一个电商的例子，感受到ES的语法特点
1）插入一条商品数据
image.png
注意：我们插入数据的时候，如果我们的语句中指明了index和type，如果ES里面不存在，默认帮我们自动创建
2）查询商品数据
使用这种语法： GET /index/type/id
image.png
3）修改商品数据
使用POST来修改数据，其实使用PUT也可以实现修改数据，原理和hbase比较像。POST的修改数据的方法在第4条中
image.png
image.png
换个方式，下面这种操作也是成功的，会丢数据,是全局的修改
image.png
image.png
4）删除商品数据
image.png
再次插入之前的数据，发现version是5，这就说明跟hbase是类似的，不会立刻删除，会在合适的时机进行删除。
image.png
这次我们使用POST的方式进行修改数据，POST是局部更新数据，别的数据不动。PUT是全局更新
image.png
image.png
5）接着插入两条数据
image.png
image.png
现在查看所有数据，类似于全表扫描
image.png
took：耗费了6毫秒
shards：分片的情况
hits：获取到的数据的情况
total：3 总的数据条数
max_score：1 所有数据里面打分最高的分数
_index:"ecommerce" index名称
_type:"product" type的名称
_id:"2" id号
_score:1 分数，这个分数越大越靠前出来，百度也是这样。除非是花钱。否则匹配度越高越靠前
image.png
image.png
8.DSL语言
ES最主要是用来做搜索和分析的。所以DSL还是对于ES很重要的
下面我们写的代码都是RESTful风格
query DSL:domain Specialed Lanaguage 在特定领域的语言
案例：我们要进行全表扫描使用DSL语言，查询所有的商品
image.png
使用match_all 可以查询到所有文档，是没有查询条件下的默认语句。
案例：查询所有名称里面包含chenyi的商品，同时按价格进行降序排序
如上图所示，name为dior chenyi的数据会在ES中进行倒排索引分词的操作，这样的数据也会被查询出来。
image.png
match查询是一个标准查询，不管你需要全文本查询还是精确查询基本上都要用到它。
下面我们按照价格进行排序：因为不属于查询的范围了。所以要写一个 逗号
image.png
这样我们的排序就完成了
案例：实现分页查询
条件：根据查询结果（包含chenyi的商品），再进行每页展示2个商品
image.png
案例：进行全表扫面，但返回指定字段的数据
现在的情况是把所有的数据都返回了，但是我们想返回指定字段的数据内容就需要下面的方法了
image.png
案例：搜索名称里面包含chenyi的，并且价格大于250元的商品
相当于 select * form product where name like %chenyi% and price >250;
因为有两个查询条件，我们就需要使用下面的查询方式
如果需要多个查询条件拼接在一起就需要使用bool
bool 过滤可以用来合并多个过滤条件查询结果的布尔逻辑，它包含以下操作符：
作者：__元昊__
链接：https://www.jianshu.com/p/60b242cbd8b4
来源：简书
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
