es集群数据强一致性 es集群认证

转载

mob6454cc659b12 2024-04-18 13:40:30

文章标签 es集群数据强一致性 elasticsearch 安全大数据 elastic 文章分类 架构后端开发

es 版本：7.6.2
部署环境：CentOS Linux release 7.6.1810 (Core)

一：生成 ca 证书

cd 到 es 的安装目录，并执行下面的命令来生成 ca 证书：

./bin/elasticsearch-certutil ca Elasticsearch

碰到第一个直接回车，不用管。

碰到第二个输入密码，例如 123456。

完成后会在当前目录生成一个文件：elastic-stack-ca.p12

二：用 ca 证书签发节点证书

./bin/elasticsearch-certutil cert --ca elastic-stack-ca.p12

需要输入密码时就直接输入刚才的密码，需要输入路径的地方不要输入地址，就直接回车，之后会生成一个 elastic-certificates.p12 文件。

三：将节点证书迁移到指定目录

先创建目录用于存放节点证书：

mkdir ./config/certificates

移动节点证书到该目录：

mv ./elastic-certificates.p12 ./config/certificates/

赋值权限给非 root 用户（如自己创建的 es 用户），不然会出现无法操作的问题:

chmod 777 ./config/certificates/elastic-certificates.p12
chown -R es:es ./config/certificates

四：将凭证复制到集群中的每一个 es 节点

就是在每个 es 节点都创建 certificates 目录，并将之前生成的 elastic-certificates.p12 证书复制到该目录（不再需要重新生成啦）。

五：修改 es 配置文件

每一个 es 节点都需要修改

下面是我创建的 3 个节点的配置文件：

es-9200 节点：

# 集群名称，三台集群，要配置相同的集群名称！！！
cluster.name: es-cluster
# 节点名称
node.name: es-9200
# 是否有资格被选举为master，ES默认集群中第一台机器为主节点
node.master: true
# 是否存储数据
node.data: true
#最⼤集群节点数，为了避免脑裂，集群节点数最少为 半数+1
node.max_local_storage_nodes: 3
# 修改 network.host 为 0.0.0.0，表示对外开放，如对特定ip开放则改为指定ip
network.host: 192.168.1.101
# 设置对外服务http端口，默认为9200
http.port: 9200
# 内部节点之间沟通端口
transport.tcp.port: 9901
# 候选主节点的设备地址，在开启服务后可以被选为主节点
discovery.seed_hosts: ["192.168.1.101:9901","192.168.1.101:9902","192.168.1.101:9903"]
# 初始化一个新的集群时需要此配置来选举 master
cluster.initial_master_nodes: ["es-9200"]
# 数据和日志目录
#path.data: /data/es/data
#path.logs: /data/es/logs
# 设置集群中N个节点启动时进行数据恢复，默认为1
gateway.recover_after_nodes: 3 

#bootstrap.memory_lock: true
#bootstrap.system_call_filter: false

# 跨域，如果安装了 elasticsearch-head 插件，那么前两个配置也会用到
http.cors.enabled: true
http.cors.allow-origin: "*"
http.cors.allow-headers: Authorization,X-Requested-With,Content-Type,Content-Length
# 安全认证
xpack.security.enabled: true
xpack.security.authc.accept_default_password: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: /opt/module/es-9200/config/certificates/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: /opt/module/es-9200/config/certificates/elastic-certificates.p12

es-9300 节点:

# 集群名称，三台集群，要配置相同的集群名称！！！
cluster.name: es-cluster
# 节点名称
node.name: es-9300
# 是否有资格被选举为master，ES默认集群中第一台机器为主节点
node.master: true
# 是否存储数据
node.data: true
#最⼤集群节点数，为了避免脑裂，集群节点数最少为 半数+1
node.max_local_storage_nodes: 3
# 修改 network.host 为 0.0.0.0，表示对外开放，如对特定ip开放则改为指定ip
network.host: 192.168.1.101
# 设置对外服务http端口，默认为9200
http.port: 9300
# 内部节点之间沟通端口
transport.tcp.port: 9902
# 候选主节点的设备地址，在开启服务后可以被选为主节点
discovery.seed_hosts: ["192.168.1.101:9901","192.168.1.101:9902","192.168.1.101:9903"]
# 初始化一个新的集群时需要此配置来选举 master
cluster.initial_master_nodes: ["es-9200"]
# 数据和日志目录
#path.data: /data/es/data
#path.logs: /data/es/logs
# 设置集群中N个节点启动时进行数据恢复，默认为1
gateway.recover_after_nodes: 3 

#bootstrap.memory_lock: true
#bootstrap.system_call_filter: false

# 跨域，如果安装了 elasticsearch-head 插件，那么前两个配置也会用到
http.cors.enabled: true
http.cors.allow-origin: "*"
http.cors.allow-headers: Authorization,X-Requested-With,Content-Type,Content-Length
# 安全认证
xpack.security.enabled: true
xpack.security.authc.accept_default_password: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: /opt/module/es-9300/config/certificates/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: /opt/module/es-9300/config/certificates/elastic-certificates.p12

es-9400 节点

# 集群名称，三台集群，要配置相同的集群名称！！！
cluster.name: es-cluster
# 节点名称
node.name: es-9400
# 是否有资格被选举为master，ES默认集群中第一台机器为主节点
node.master: true
# 是否存储数据
node.data: true
#最⼤集群节点数，为了避免脑裂，集群节点数最少为 半数+1
node.max_local_storage_nodes: 3
# 修改 network.host 为 0.0.0.0，表示对外开放，如对特定ip开放则改为指定ip
network.host: 192.168.1.101
# 设置对外服务http端口，默认为9200
http.port: 9400
# 内部节点之间沟通端口
transport.tcp.port: 9903
# 候选主节点的设备地址，在开启服务后可以被选为主节点
discovery.seed_hosts: ["192.168.1.101:9901","192.168.1.101:9902","192.168.1.101:9903"]
# 初始化一个新的集群时需要此配置来选举 master
cluster.initial_master_nodes: ["es-9200"]
# 数据和日志目录
#path.data: /data/es/data
#path.logs: /data/es/logs
# 设置集群中N个节点启动时进行数据恢复，默认为1
gateway.recover_after_nodes: 3 

#bootstrap.memory_lock: true
#bootstrap.system_call_filter: false

# 跨域，如果安装了 elasticsearch-head 插件，那么前两个配置也会用到
http.cors.enabled: true
http.cors.allow-origin: "*"
http.cors.allow-headers: Authorization,X-Requested-With,Content-Type,Content-Length
# 安全认证
xpack.security.enabled: true
xpack.security.authc.accept_default_password: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: /opt/module/es-9400/config/certificates/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: /opt/module/es-9400/config/certificates/elastic-certificates.p12

需要注意的点：

将 xpack.security.transport.ssl.keystore.path 和 xpack.security.transport.ssl.truststore.path 替换为自己的 es 安装路径。

六：添加密码

每一个 es 节点都需要

./bin/elasticsearch-keystore add xpack.security.transport.ssl.keystore.secure_password
# 输入密码：第一步中设置的密码，例如本样例中的123456
./bin/elasticsearch-keystore add xpack.security.transport.ssl.truststore.secure_password
# 输入密码：第一步中设置的密码，例如本样例中的123456

ps: 如果询问你是否要创建 elasticsearch.keystore 文件，输入 y 后按回车即可。

七：逐个启动节点

./bin/elasticsearch

后续确认没问题的话可以改成后台启动：

./bin/elasticsearch -d

八：设置密码

在第一个节点设置即可，会自动同步到其他节点

./bin/elasticsearch-setup-passwords  interactive
# 下面会要输入很多密码，都要自己能记住，以后要用
# 需要设置 elastic，apm_system，kibana，kibana_system，logstash_system，beats_system

九：通过浏览器 or 终端访问 es

es集群数据强一致性 es集群认证_安全

实际上第一次访问的时候会要求输入账号密码（如下图），我这里已经不是第一次了，因此不再需要输入。

es集群数据强一致性 es集群认证_elasticsearch_02

通过终端来查看是否成功：

curl --user elastic:<自己设置的密码> http://192.168.1.101:9200

es集群数据强一致性 es集群认证_安全_03

十：通过 Java API 来操作 es 集群

配置 pom 文件，引入相关依赖。

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.7.12</version>
        <relativePath/> <!-- lookup parent from repository -->
    </parent>
    <groupId>com.rainfall</groupId>
    <artifactId>es-secure</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <name>es-secure</name>
    <description>es7.6.2 安全认证</description>
    <properties>
        <java.version>1.8</java.version>
    </properties>
    <dependencies>
        <!--es 授权-->
        <dependency>
            <groupId>org.elasticsearch.client</groupId>
            <artifactId>x-pack-transport</artifactId>
            <version>7.8.1</version>
        </dependency>
        <dependency>
            <groupId>org.elasticsearch</groupId>
            <artifactId>elasticsearch</artifactId>
            <version>7.6.2</version>
        </dependency>
        <!-- elasticsearch 的客户端 -->
        <dependency>
            <groupId>org.elasticsearch.client</groupId>
            <artifactId>elasticsearch-rest-high-level-client</artifactId>
            <version>7.6.2</version>
        </dependency>
        <!-- elasticsearch 依赖 2.x 的 log4j -->
        <dependency>
            <groupId>org.apache.logging.log4j</groupId>
            <artifactId>log4j-api</artifactId>
            <version>2.8.2</version>
        </dependency>
        <dependency>
            <groupId>org.apache.logging.log4j</groupId>
            <artifactId>log4j-core</artifactId>
            <version>2.8.2</version>
        </dependency>
        <dependency>
            <groupId>com.fasterxml.jackson.core</groupId>
            <artifactId>jackson-databind</artifactId>
            <version>2.9.9</version>
        </dependency>
        <!-- junit 单元测试 -->
        <dependency>
            <groupId>junit</groupId>
            <artifactId>junit</artifactId>
            <version>4.12</version>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter</artifactId>
        </dependency>

        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
    </dependencies>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
                <configuration>
                    <excludes>
                        <exclude>
                            <groupId>org.projectlombok</groupId>
                            <artifactId>lombok</artifactId>
                        </exclude>
                    </excludes>
                </configuration>
            </plugin>
        </plugins>
    </build>

</project>

例子：添加 doc

public class DocInsert {
    public static void main(String[] args) throws IOException {
        CredentialsProvider credentialsProvider = new BasicCredentialsProvider();
        // 设置用户名以及密码
        UsernamePasswordCredentials usernamePasswordCredentials = new UsernamePasswordCredentials("elastic", "123456");
        credentialsProvider.setCredentials(AuthScope.ANY, usernamePasswordCredentials);

        RestClientBuilder builder = RestClient.builder(new HttpHost("192.168.1.101", 9200, "http"))
                .setHttpClientConfigCallback(httpClientBuilder -> httpClientBuilder.setDefaultCredentialsProvider(credentialsProvider));
        RestHighLevelClient client = new RestHighLevelClient(builder);

        // 插入数据
        IndexRequest indexRequest = new IndexRequest();
        indexRequest.index("user1").id("1003");

        User user = new User("xiao li","男",22);

        // 向es插入数据必须将数据转换成JSON格式
        ObjectMapper objectMapper = new ObjectMapper();
        String userJson = objectMapper.writeValueAsString(user);

        indexRequest.source(userJson, XContentType.JSON);
        IndexResponse res = client.index(indexRequest, RequestOptions.DEFAULT);
        System.out.println(res.getResult());

        client.close();
    }
}

例子：查询刚才添加的 doc 数据

public class DocGet {
    public static void main(String[] args) throws IOException {
        CredentialsProvider credentialsProvider = new BasicCredentialsProvider();
        // 设置用户名以及密码
        UsernamePasswordCredentials usernamePasswordCredentials = new UsernamePasswordCredentials("elastic", "123456");
        credentialsProvider.setCredentials(AuthScope.ANY, usernamePasswordCredentials);

        RestClientBuilder builder = RestClient.builder(new HttpHost("192.168.1.101", 9200, "http"))
                .setHttpClientConfigCallback(httpClientBuilder -> httpClientBuilder.setDefaultCredentialsProvider(credentialsProvider));
        RestHighLevelClient client = new RestHighLevelClient(builder);

        // 查询数据
        GetRequest getRequest = new GetRequest();
        getRequest.index("user1");
        getRequest.id("1003");

        GetResponse response = client.get(getRequest, RequestOptions.DEFAULT);
        System.out.println(response.getSourceAsString());

        client.close();
    }
}

十一：Kibana 访问带有安全认证的 es 集群

从官网下载与 es 版本一致的 Kibana，下载完成后上传到 linux 服务器，进行安装。

接着对config 目录下的 kibana.yml 配置文件进行修改：

#配置端口号
server.port: 5601
#配置网络访问地址，建议使用内网 ip 或 0.0.0.0 表示谁都可以访问
server.host: "0.0.0.0"
#配置es链接地址(es集群,可以用逗号分隔)
elasticsearch.hosts: ["http://192.168.1.101:9200","http://192.168.1.101:9300","http://192.168.1.101:9400"]
# kibana 在 es 中的索引
kibana.index: ".kibana"
##明文认证 es 账户密码，要用的账户为 kibana。（不过更加推荐密文设置，下面会提到）
#elasticsearch.username: "kibana"
#elasticsearch.password: "123456"
# 不增加下面会导致 kibana 启动失败，字符串内容是什么无所谓，保证不少于 32 个字符就行。
xpack.encryptedSavedObjects.encryptionKey: "something_at_least_32_characters_123123"
xpack.reporting.encryptionKey: "something_at_least_32_characters_12312345"
xpack.security.encryptionKey: "something_at_least_32_characters_658568"
#配置中文语言界面
i18n.locale: "zh-CN"

密文认证方式为：

/usr/share/kibana/bin/kibana-keystore --allow-root create
/usr/share/kibana/bin/kibana-keystore --allow-root add elasticsearch.username # 输入kibana
/usr/share/kibana/bin/kibana-keystore --allow-root add elasticsearch.password # 输入自己配置的密码，我这是 123456

启动 kibana：

./bin/kibana --allow-root # 要关闭服务的话输入 exit 后回车。

此外，也可以选择后台启动：

nohup ./bin/kibana --allow-root &

要关闭服务的话，查找 Kibana 进程，找到对应的 Kibana 进程号，然后 kill 掉即可。

ps -ef | grep '.*node/bin/node.*src/cli' # 查找方式

之后访问 kibana 就需要输入账号和密码了。

es集群数据强一致性 es集群认证_大数据_04

十三：可能会遇到的坑

1.不要用 root 用户去启动 es，需要切换到其他用户，记得事先赋予相应的权限。

chown -R es:es /opt/module/es-9200 # 如将 es-9200 目录属于的用户和用户组都指定为 es

2.集群成功启动，但是浏览器即使输入账户密码也无法成功登录。具体而言报错为：failed to authenticate user [elastic]。

可能原因是一开始部署了安全认证的单节点 es，并在登录后做了增删改查。

解决办法是重新生成节点证书和账户、密码。可以参考：链接。

3.es 启动时报异常：max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]

原因是系统虚拟内存默认最大映射数为 65530，无法满足 es 系统要求，需要调整为 262144 以上。

解决办法是设置 vm.max_map_count 参数：

# 修改文件
sudo vim /etc/sysctl.conf
# 添加参数
vm.max_map_count = 262144

重新加载/etc/sysctl.conf配置：

sysctl -p

4.es 启动时报异常：max file descriptors [4096] for elasticsearch process is too low, increase to at least [65536]

解决办法：

sudo vi /etc/security/limits.conf

将下面这行代码添加到这个配置文件的末尾就好：

es soft nofile 65536 # es 是自己的用户名
es hard nofile 65536

5.如果啥也不配置，上来直接启动 es，会报如下错误：

ERROR: [1] bootstrap checks failed
[1]: the default discovery settings are unsuitable for production use; at least one of [discovery.seed_hosts, discovery.seed_providers, cluster.initial_master_nodes] must be configured
ERROR: Elasticsearch did not exit normally - check the logs at /opt/module/elasticsearch-7.6.2/logs/elasticsearch.log

这点和 windows 上的 es 不同，windows 可以直接成功运行。

解决办法是做相应的配置。

6.kibana 启动报错 socket hang up 错误

原因是配置文件中的 elasticsearch.hosts 需要的是 ip 地址 + es 中的 http 端口号，错写成 ip 地址 + tcp 端口号就会出现端口访问不到的问题。

本文章为转载内容，我们尊重原作者对文章享有的著作权。如有内容错误或侵权问题，欢迎原作者联系我们进行内容更正或删除文章。

上一篇：1Mysql高并发读写的性能低高并发读写锁

下一篇：怎么把容器放进K8S k8s容器迁移

提问和评论都可以，用心的回复会被更多人看到评论

发布评论

相关文章

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯