• DevOps
  • AWS的ESK启用插件kubesphere Devops异常 namespaces "kubesphere-devops-worker" not found

我也是同样的版本,同样的问题。

EKS1.26+kubeshpere3.4,我也按照大神们建议的方式,试了一下,还是一样的错误。

chilianyi 这个是 ls kubesphere/ks-devops/charts 这个目录下 有个 ks-devops-xxx.tgz

这个 目录解压以后得到的。

kubesphere/ks-devops/charts目录下没有s2i这个子目录

    panpan ks-3.4.0 devops 是这个包:https://github.com/kubesphere/ks-installer/blob/v3.4.0/roles/ks-devops/files/ks-devops/charts/ks-devops-0.2.1.tgz

    这个 解压后,我看是有 相应目录的。 解压的目录是 kubesphere/ks-devops/charts,

    https://github.com/kubesphere/ks-installer/blob/62d60e496926e07391b78a19357c6ea94d125b92/roles/ks-devops/tasks/main.yaml#L204

    这个 s2i 应该是在 kubesphere/ks-devops/charts/ks-devops/charts/s2i/crds

    kubectl apply -f kubesphere/ks-devops/charts/ks-devops/crds
    kubectl apply -f kubesphere/ks-devops/charts/s2i/crds

    这两句上面目录发错了,按照代码,目录应该是

    kubectl apply -f kubesphere/ks-devops/charts/ks-devops/crds
    kubectl apply -f kubesphere/ks-devops/charts/ks-devops/charts/s2i/crds

      chilianyi 这个 s2i 应该是在 kubesphere/ks-devops/charts/ks-devops/charts/s2i/crds

      kubectl apply -f kubesphere/ks-devops/charts/ks-devops/crds
      kubectl apply -f kubesphere/ks-devops/charts/s2i/crds

      这两句上面目录发错了,按照代码,目录应该是

      kubectl apply -f kubesphere/ks-devops/charts/ks-devops/crds
      kubectl apply -f kubesphere/ks-devops/charts/ks-devops/charts/s2i/crds

      Usage: helm upgrade [RELEASE] [CHART] [flags]

      ks-installer-6697794f55-8dmbz:/kubesphere$ helm upgrade --install devops kubesphere/ks-devops/charts/ks-devops*.tgz -n kubesphere-devops-system -f kubesphere/ks-devops/ks-devops-values.yaml

      Release "devops" does not exist. Installing it now.

      Error: unable to build kubernetes objects from release manifest: resource mapping not found for name: "devops" namespace: "" from "": no matches for kind "CronJob" in version "batch/v1beta1"

      ensure CRDs are installed first

      ks-installer-6697794f55-8dmbz:/kubesphere$ kubectl apply -f kubesphere/ks-devops/charts/ks-devops/crds

      customresourcedefinition.apiextensions.k8s.io/clustersteptemplates.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/clustertemplates.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/devopsprojects.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/gitrepositories.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/pipelineruns.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/pipelines.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/templates.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/applications.gitops.kubesphere.io configured

      ks-installer-6697794f55-8dmbz:/kubesphere$ kubectl apply -f kubesphere/ks-devops/charts/ks-devops/charts/s2i/crds

      customresourcedefinition.apiextensions.k8s.io/s2ibinaries.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/s2ibuilders.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/s2ibuildertemplates.devops.kubesphere.io configured

      customresourcedefinition.apiextensions.k8s.io/s2iruns.devops.kubesphere.io configured

      ks-installer-6697794f55-8dmbz:/kubesphere$ rm -rf kubesphere/ks-devops/charts/s2i-templates.yaml

      ks-installer-6697794f55-8dmbz:/kubesphere$ helm template kubesphere/ks-devops/charts/ks-devops/charts/s2i/ \

      > -f kubesphere/ks-devops/ks-devops-values.yaml \

      > -s templates/binary.yaml \

      > -s templates/java.yaml \

      > -s templates/nodejs.yaml \

      > -s templates/python.yaml \

      > -s templates/tomcat.yaml > kubesphere/ks-devops/charts/s2i-templates.yaml

      Error: could not find template templates/binary.yaml in chart

      ks-installer-6697794f55-8dmbz:/kubesphere$

      ks-installer-6697794f55-8dmbz:/kubesphere$

      ks-installer-6697794f55-8dmbz:/kubesphere$ ll kubesphere/ks-devops/charts/ks-devops/charts/s2i/templates/

      bash: ll: command not found

      ks-installer-6697794f55-8dmbz:/kubesphere$ ls kubesphere/ks-devops/charts/ks-devops/charts/s2i/templates/

      NOTES.txt operator.yaml tests

      _helpers.tpl prometheus-servicemonitor.yaml

      之前两句执行 OK 了,但是往下执行,还是不行

        panpan 你好,看起来是 cronjob 的问题。

        麻烦执行下这两个命令看下输出。

        # kubectl api-versions | grep batch/v1
        batch/v1
        batch/v1beta1
        
        # kubectl version

          Youngo 后面这个问题,楼主你解决没有呢?我也是 EKS1.26+kubeshpere 3.4.0 实在没有法,我就准备降级了。

          Youngo 后面这个问题,楼主你解决没有呢?我也是 EKS1.26+kubeshpere 3.4.0 实在没有法,我就准备降级了。

          chilianyi # kubectl api-versions | grep batch/v1
          batch/v1
          batch/v1beta1

          kubectl version

          ks-installer-758d459599-592×9:/kubesphere$ kubectl api-versions | grep batch/v1

          batch/v1

          ks-installer-758d459599-592×9:/kubesphere$ kubectl version

          Client Version: version.Info{Major:“1”, Minor:“23”, GitVersion:“v1.23.7”, GitCommit:“42c05a547468804b2053ecf60a3bd15560362fc2”, GitTreeState:“clean”, BuildDate:“2022-05-24T12:30:55Z”, GoVersion:“go1.17.10”, Compiler:“gc”, Platform:“linux/amd64”}

          Server Version: version.Info{Major:“1”, Minor:“26+”, GitVersion:“v1.26.7-eks-2d98532”, GitCommit:“c9c3fc1fdf677f38b8d26568c10b921a1235fa43”, GitTreeState:“clean”, BuildDate:“2023-07-28T16:51:21Z”, GoVersion:“go1.20.6”, Compiler:“gc”, Platform:“linux/amd64”}

          WARNING: version difference between client (1.23) and server (1.26) exceeds the supported minor version skew of +/-1

          请大神抽空再帮看看,做最后的努力 了

            panpan

            kubesphere/ks-devops#998
            你好,是个 bug,错误的识别了 k8s 的版本,导致安装时,cronjob 用了 batch/v1beta1, 但 k8s 1.26 里已经只有 batch/v1 没有 batch/v1beta1 了, 导致安装失败。

            目前已经做了修复,在 helm chart 中,kubesphere-sigs/ks-devops-helm-chart#122/files
            晚些 会提供下 新的 helm chart,到时 更新下 ks-installer 中对应的 helm 包,就可以正常安装了。

              panpan 你好,经过我们测试发现是创建 cronjob 的 apiversion 有问题,在 chart 包里的比较当前 k8s 版本没有生效;针对 ks 3.4.0 麻烦先参考下面步骤,先临时手动修复下,后面会在新版本 3.4.1 修复此问题:

              1. 编辑 ks-installer deployment,修改 securityContext.runAsUser 为 0,以 root 用户运行 ks-installer:
                kubectl -n kubesphere-system edit deployments.apps ks-installer
              2. 下载更新后的 ke-devops helm 包 ks-devops-0.2.1.tgz
              3. 等待 ks-installer 重启完成之后,替换 helm 包:
                kubectl -n kubesphere-system cp ks-devops-0.2.1.tgz $(kubectl get pod -n kubesphere-system -l app=ks-installer -o jsonpath='{.items[0].metadata.name}'):/kubesphere/installer/roles/ks-devops/files/ks-devops/charts/
              4. 重新开启 ks-devops 组件
                kubectl -n kubesphere-system edit cc ks-installer

                如果 status.devops 存在,删除 status.devops,即删除截图中的三行;

                修改 spec.devops 配置里任意一项,如图中的 jenkinsCpuReq ,触发重新安装 DevOps 即可;

                chilianyi

                感谢大神,按照建议的方式,已安装devops成功,我明天再具体使用一下。

                拜谢

                chilianyi

                感谢大神,按照建议的方式,已安装devops成功,我明天再具体使用一下。

                拜谢

                yudong

                感谢大神,按照建议的方式,已安装devops成功,我明天再具体使用一下。

                拜谢

                yudong

                另外,3.4.0 还有一个 BUG,关于 HPA,如下图,

                请大神们,方便时也帮忙看看。 目前我是直接通过 kubectl 来命令行设置 HPA。

                感谢二位大神,祝国庆快乐!中秋快乐!

                  5 天 后

                  yudong
                  你好,按照上面的操作
                  查看安装日志也没有报错:kubectl logs -n kubesphere-system $(kubectl get pod -n kubesphere-system -l ‘app in (ks-install, ks-installer)’ -o jsonpath=‘{.items[0].metadata.name}’) -f

                  但是系统组件-devops里面全是停止,这是怎么回事?

                    4 天 后

                    panpan 先检查下是不是没有开启 Metrics_Server 服务 ?或者看下 ks-apiserver 的日志信息,是否有相关报错信息。

                      Youngo 看下 Kubesphere-devops-system 下的 pod 状态是不是正常的 ?是否做过卸载 DevOps 操作 ?

                        3 个月 后

                        yudong

                        目前发现3.4.1是的弹性扩缩(HPA)是正常的。

                        就是 3.4.0 有问题,如上面的截图,即使编辑 CC,把metric-server设置为true了,还是不行,后台还是一直在报错(即使将kube-state-metrics从 2.6.0 升级到 2.8.2 ,还是一样):

                        考虑到已经有很多业务正在3.4.0运行了,又不敢升级至 3.4.1。 请大神看看有没有在 3.4.0 上修复的办法?感谢

                        3 个月 后

                        **************************************************

                        Waiting for all tasks to be completed …

                        task network status is successful (⅕)

                        task multicluster status is successful (⅖)

                        task openpitrix status is successful (⅗)

                        task devops status is successful (⅘)

                        task monitoring status is successful (5/5)

                        **************************************************

                        我按照上面的方法把devops创建成功了,但是为什么kubesphere中的devops导航栏为空呢?
                        麻烦帮忙看下