Docker安装Elasticsearch、kibana、IK分词器
一、部署单点es
1. 创建网络
因为我们还需要部署kibana容器,因此需要让es和kibana容器互联。这里先创建一个网络:
docker network create es-net
如果不理解docker网络,可参考我的 Docker文章 中的自定义网络。
2. 拉取镜像
这里我们采用elasticsearch的7.12.1版本的镜像,这个镜像体积非常大,接近1G,拉取(pull)会很慢。
docker pull elasticsearch:7.12.1
同理还有kibana
的tar包也需要这样做。
Elasticsearch 和 Kibana 属于同一技术栈,官方强烈建议使用完全相同的版本,以确保兼容性和功能匹配。
对于 Elasticsearch 7.12.1,最佳搭配的 Kibana 版本是 7.12.1。
3. 运行
运行docker命令,部署单点es:
docker run -d \--name es \-e "ES_JAVA_OPTS=-Xms1g -Xmx1g" \-e "discovery.type=single-node" \-v es-data:/usr/share/elasticsearch/data \-v es-plugins:/usr/share/elasticsearch/plugins \--privileged \--network es-net \-p 9200:9200 \-p 9300:9300 \
elasticsearch:7.12.1
命令解释:
-e "cluster.name=es-docker-cluster"
:设置集群名称。-e "http.host=0.0.0.0"
:监听的地址,可以外网访问。-e "ES_JAVA_OPTS=-Xms1g -Xmx1g"
:内存大小。-e "discovery.type=single-node"
:非集群模式。-v es-data:/usr/share/elasticsearch/data
:挂载逻辑卷,绑定es的数据目录。-v es-logs:/usr/share/elasticsearch/logs
:挂载逻辑卷,绑定es的日志目录。-v es-plugins:/usr/share/elasticsearch/plugins
:挂载逻辑卷,绑定es的插件目录。--privileged
:授予逻辑卷访问权。--network es-net
:加入一个名为es-net的网络中。-p 9200:9200
:端口映射配置,供我们用户访问。-p 9300:9300
:用于es容器之间各个节点互联的端口。
在浏览器中输入:http://192.168.85.128:9200 即可看到elasticsearch的响应结果:
二、部署kibana
kibana可以给我们提供一个elasticsearch的可视化界面,便于我们学习。
Elasticsearch 和 Kibana 属于同一技术栈,官方强烈建议使用完全相同的版本,以确保兼容性和功能匹配。
对于 Elasticsearch 7.12.1,最佳搭配的 Kibana 版本是 7.12.1。
1. 部署
运行docker命令,部署kibana。
docker run -d \
--name kibana \
-e ELASTICSEARCH_HOSTS=http://es:9200 \
--network=es-net \
-p 5601:5601 \
kibana:7.12.1
--network es-net
:加入一个名为es-net的网络中,与elasticsearch在同一个网络中。-e ELASTICSEARCH_HOSTS=http://es:9200"
:设置elasticsearch的地址,因为kibana已经与elasticsearch在同一个网络,因此可以用容器名(上面创建elasticsearch容器的名字)直接访问elasticsearch。(原理见文章:Docker 自定义网络章节)-p 5601:5601
:端口映射配置。
kibana启动一般比较慢,需要多等待一会,可以通过命令:
docker logs -f kibana
查看运行日志,当查看到下面的日志,说明启动成功:
日志太多可以使用
Ctrl+C
命令退出。
此时,在浏览器输入地址访问:http://192.168.85.128:5601,即可看到结果
2. DevTools
kibana中提供了一个DevTools界面:
本质就是发送一个restful的请求到es。
这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。
三、安装IK分词器
IK分词器官网:https://github.com/medcl/elasticsearch-analysis-ik
在使用 Elasticsearch 7.12.1 时,推荐使用与 Elasticsearch 版本完全一致的 IK 分词器版本,即 IK 分词器 7.12.1。
- IK 分词器作为 Elasticsearch 的插件,其版本需要与 Elasticsearch 主版本完全对应(包括主版本、次版本和修订号)。不同版本的 IK 分词器可能与 Elasticsearch 的内部 API 存在兼容性差异,版本不匹配可能导致插件加载失败、分词功能异常甚至集群启动报错。
- IK 分词器的官方仓库(medcl/elasticsearch-analysis-ik)严格按照 Elasticsearch 的版本进行迭代,每个 Elasticsearch 版本都有对应的 IK 分词器发布包。对于 7.12.1 版本的 Elasticsearch,官方明确提供了 7.12.1 版本的 IK 分词器。
1. 在线安装ik插件(较慢)
# 进入容器内部
docker exec -it es /bin/bash# 在线下载并安装
./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip#退出
exit
#重启容器
docker restart es
2. 离线安装ik插件(推荐)
1. 查看数据卷目录
安装插件需要知道elasticsearch的plugins目录位置,而我们用了数据卷挂载,因此需要查看elasticsearch的数据卷目录,通过下面命令查看:
docker volume inspect es-plugins
显示结果:
说明plugins目录被挂载到了:/var/lib/docker/volumes/es-plugins/_data
这个目录中。
2. 解压缩分词器安装包
IK分词器官方仓库:https://release.infinilabs.com/analysis-ik/stable/
把下载的ik分词器解压缩,重命名为ik:
3. 上传到es容器的插件数据卷中
通过FinalShell把解压的ik分词器文件上传到虚拟机中的/var/lib/docker/volumes/es-plugins/_data
目录
4. 重启es容器
docker restart es
# 查看es日志
docker logs -f es
ctrl+c退出日志。
5. 测试(IK分词器的两种模式)
IK分词器包含两种模式:
ik_smart
:最少切分- 分的词少,被搜索到的概率低
- 占用内存空间少
ik_max_word
:最细切分- 分的词更多,更容易被搜索到
- 占用内存更多
3. 扩展词词典
分词器既然能分词,其底层一定会有一个字典,这个字典中有着各种各样的词语。在分词的时候拿着要分词的字进行匹配,如果匹配到则进行分词。
总之,无论哪一种分词器都依赖于一个字典来去做分词。
随着互联网的发展,“造词运动”也越发的频繁。出现了很多新的词语,在原有的词汇列表中并不存在。比如:“奥力给”,“白嫖” 等。
所以我们的词汇也需要不断的更新,IK分词器提供了扩展词汇的功能。
要拓展ik分词器的词库,只需要修改一个ik分词器目录中的config目录中的IkAnalyzer.cfg.xml文件:
1. 打开IK分词器config目录
通过FinalShell打开IK分词器config目录
2. 在IKAnalyzer.cfg.xml配置文件内容添加
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties><comment>IK Analyzer 扩展配置</comment><!--用户可以在这里配置自己的扩展字典 *** 添加扩展词典--><entry key="ext_dict">ext.dic</entry>
</properties>
3. 新建一个ext.dic文件,可以参考config目录下复制一个配置文件进行修改
双击打开ext.dic文件,在里面添加要扩展的词语
奥力给
白嫖
4. 重启elasticsearch
docker restart es
# 查看 日志
docker logs -f elasticsearch
5. 测试效果
注意当前文件的编码必须是 UTF-8 格式,严禁使用Windows记事本编辑。
4. 停用词词典
在互联网项目中,在网络间传输的速度很快,所以很多语言是不允许在网络上传递的,如:关于宗教、政治等敏感词语,那么我们在搜索时也应该忽略当前词汇。
IK分词器也提供了强大的停用词功能,让我们在索引时就直接忽略当前的停用词汇表中的内容。
1. IKAnalyzer.cfg.xml配置文件内容添加
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties><comment>IK Analyzer 扩展配置</comment><!--用户可以在这里配置自己的扩展字典 *** 添加扩展词典--><entry key="ext_dict">ext.dic</entry><!--用户可以在这里配置自己的扩展停止词字典 *** 添加停用词词典--><entry key="ext_stopwords">stopword.dic</entry>
</properties>
2. 在stopword.dic文件(有现成的就不用创建了)中添加停用词
的
了
啊
哦
嗯
3. 重启elasticsearch
# 重启服务
docker restart elasticsearch# 查看 日志
docker logs -f elasticsearch
4. 测试效果
会发现停用的词并没有被分词。
注意当前文件的编码必须是 UTF-8 格式,严禁使用Windows记事本编辑。