kubesphere启用外部ES后总是获取不到日志

joy

创建部署问题时，请参考下面模板，你提供的信息越多，越容易及时获得解答。如果未按模板创建问题，管理员有权关闭问题。
确保帖子格式清晰易读，用 markdown code block 语法格式化代码块。
你只花一分钟创建的问题，不能指望别人花上半个小时给你解答。

操作系统信息
例如：虚拟机/物理机，Centos7.9，4C/8G

Kubernetes版本信息
将 kubectl version 命令执行结果贴在下方

Client Version: version.Info{Major:“1”, Minor:“18”, GitVersion:“v1.18.8”, GitCommit:“9f2892aab98fe339f3bd70e3c470144299398ace”, GitTreeState:“clean”, BuildDate:“2020-08-13T16:12:48Z”, GoVersion:“go1.13.15”, Compiler:“gc”, Platform:“linux/amd64”}

容器运行时
docker version 结果：

[root@localhost ~]$ docker version

Client: Docker Engine - Community

Version: 20.10.18

API version: 1.41

Go version: go1.18.6

Git commit: b40c2f6

Built: Thu Sep 8 23:14:08 2022

OS/Arch: linux/amd64

Context: default

Experimental: true

Server: Docker Engine - Community

Engine:

Version: 20.10.18

API version: 1.41 (minimum version 1.12)

Go version: go1.18.6

Git commit: e42327a

Built: Thu Sep 8 23:12:21 2022

OS/Arch: linux/amd64

Experimental: false

containerd:

Version: 1.6.8

GitCommit: 9cd3357b7fd7218e4aec3eae239db1f68a5a6ec6

runc:

Version: 1.1.4

GitCommit: v1.1.4-0-g5fd4c4d

docker-init:

Version: 0.19.0

GitCommit: de40ad0

KubeSphere版本信息
v3.1.1。离线安装，在已有K8s上安装。

问题是什么
启用外部ES存储日志后，总是获取不到日志，ks-installer里改了，output里改了，configmap里改了，都不行。查论坛得知还需要改fluent-bit.conf配置文件，要加上HTTP*_Passwd和HTTP*_User,但我通过kubectl edit secret -n kubesphere-logging-system fluent-bit-config命令编辑，fluent-bit.conf后的信息，就不让保存。然后我在kubesphere里点击【配置中心】-【密钥】-【fluent-bit-config】-编辑里面的【fluent-bit.conf】也是无法保存，还能有什么办法呢？谢谢，下面是截图。

1、ks-installer：

2、output：

3、configmap

kubectl edit configmap kubesphere-config -n kubesphere-system -o yaml

4、es是正常的

5、fluent-bit pod报错日志

有知道的朋友吗，谢谢

joy

@wanjunlei

大佬可以帮忙看看吗

joy

@zhu733756

大佬可以帮忙看看吗

ljm_820380668

我也遇到过这种情况，fluentbit日志老报错，[2022/11/14 02:16:41] [error] [output:es:es.0] HTTP status=400 URI=/_bulk, response:

{“error”:{“root_cause”:[{“type”:“illegal_argument_exception”,“reason”:“Action/metadata line [1] contains an unknown parameter [type]”}],“type”:“illegal_argument_exception”,“reason”:“Action/metadata line [1] contains an unknown parameter [type]”},“status”:400}。

我怀疑是不是ks不支持es8.x版本导致

wanjunlei

kubectl edit outputs.logging.kubesphere.io -n kubesphere-logging-system es

添加

  spec:
    es:
      httpPassword:
        valueFrom:
          secretKeyRef:
            key: password
            name: elasticsearch-credentials
      httpUser:
        valueFrom:
          secretKeyRef:
            key: username
            name: elasticsearch-credentials

elasticsearch-credentials 没有就创建一下

kubectl create secret generic elasticsearch-credentials --from-literal="username=xxx" --from-literal="password=xxx" --type=kubernetes.io/basic-auth -n kubesphere-logging-system