k8s中service自动为pod增加环境引起的bug
起因
今天为一个测试服务增加实例，发现启动不起来了，但原来的有的实例正常运行，把正常的pod删除后，所有pod都异常了。具体如图：
排查
查看pod日志：
1kubectl logs -f whoami-85f458667c-f5nw9
22023/06/02 02:24:31 listen tcp: address :tcp://10.101.156.195:8080: too many colons in address
发现是端口不对导致
查看部署文件：
1kubectl get deploy whoami -oyaml
发现并没有对env进行设置，查看whoami源码，发现port是受环境变量WHOAMI_PORT控制
https://github.com/freemesh/whoami/blob/main/main.go
查看问题pod的环境变量
进入问题pod所在机器，查看容器的详细信息，发现ENV下有很多环境变量，其中就包括WHOAMI_PORT：
1docker inspect 0c842287ada4
2
3"Env": [
4 "NGINX_SERVICE_PORT=8080",
5 "NGINX_PORT_8080_TCP_PROTO=tcp",
6 "NGINX_PORT_8080_TCP_PORT=8080",
7 "MY_INGRESS_SERVICE_HOST=10.101.163.141",
8 "KUBERNETES_SERVICE_PORT=443",
9 "NGINX_PORT_8080_TCP_ADDR=10.105.237.147",
10 "MY_INGRESS_PORT_8080_TCP_PROTO=tcp",
11 "ENVTEST_SERVICE_PORT=8080",
12 "ENVTEST_PORT_8080_TCP_PORT=8080",
13 "KUBERNETES_PORT_443_TCP=tcp://10.96.0.1:443",
14 "KUBERNETES_PORT_443_TCP_PORT=443",
15 "WHOAMI_SERVICE_PORT=8080",
16 "WHOAMI_PORT_8080_TCP_ADDR=10.101.156.195",
17 "WHOAMI_PORT_8080_TCP=tcp://10.101.156.195:8080",
18 "WHOAMI_PORT_8080_TCP_PROTO=tcp",
19 "NGINX_SERVICE_HOST=10.105.237.147",
20 "MY_INGRESS_PORT=tcp://10.101.163.141:8080",
21 "MY_INGRESS_PORT_8080_TCP_ADDR=10.101.163.141",
22 "ENVTEST_PORT_8080_TCP_PROTO=tcp",
23 "KUBERNETES_SERVICE_PORT_HTTPS=443",
24 "WHOAMI_PORT=tcp://10.101.156.195:8080", #这个就是程序里用到的环境变量
25 "MY_INGRESS_SERVICE_PORT=8080",
26 "MY_INGRESS_PORT_8080_TCP=tcp://10.101.163.141:8080",
27 "MY_INGRESS_PORT_8080_TCP_PORT=8080",
28 "ENVTEST_PORT=tcp://10.101.53.28:8080",
29 "KUBERNETES_SERVICE_HOST=10.96.0.1",
30 "KUBERNETES_PORT_443_TCP_ADDR=10.96.0.1",
31 "NGINX_PORT=tcp://10.105.237.147:8080",
32 "ENVTEST_SERVICE_HOST=10.101.53.28",
33 "ENVTEST_PORT_8080_TCP=tcp://10.101.53.28:8080",
34 "WHOAMI_SERVICE_HOST=10.101.156.195",
35 "WHOAMI_PORT_8080_TCP_PORT=8080",
36 "NGINX_PORT_8080_TCP=tcp://10.105.237.147:8080",
37 "ENVTEST_PORT_8080_TCP_ADDR=10.101.53.28",
38 "KUBERNETES_PORT=tcp://10.96.0.1:443",
39 "KUBERNETES_PORT_443_TCP_PROTO=tcp",
40 "PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
41],
原因
原来，我们创建servicer的时候，k8s会自动为pod增加svc的环境变量,我们可以在pod.spec增加 enableServiceLinks:false 来关闭这项特性。
参考 https://kubernetes.io/docs/tutorials/services/connect-applications-service/#accessing-the-service
pod配置详解见： k8s的pod.yaml文件配置详解
解决
1kubectl edit deploy whoami
在spec.template.spec下增加enableServiceLinks:false发现pod可以正常运行了。
PS
什么样的服务有会向pod添加env
对于无头服务clusterIP: None的service不会添加env
全局关闭
询问chatGPT，是否可以全局关闭：
1vi /etc/kubernetes/manifests/kube-apiserver.yaml
按这个方法，apiserver启动报错：
1docker logs -f c5b494249fe3
2Error: unknown flag: --enable-service-links
查看kube-apiserver也没这个参数，gpt也会忽悠，估计是不能全局关闭了。
https://kubernetes.io/zh-cn/docs/reference/command-line-tools-reference/kube-apiserver/
发布日期：2023-06-01 19:31 字数：146 用时
tags：k8s
相关文章
标签云
alpine(1) api网关(1) async(1) await(1) centos(4) cli(1) client-go(1) debug(1) docker(10) docker-compose(1) dockerfile(1) embed(1) es6(1) etcd(1) etcdctl(1) freemesh(2) git(6) go(5) go-zeus(5) goland(2) golang(7) grafana(2) grpc(5) grpcurl(1) homebrew(1) homedir(1) http(2) hugo(1) java(2) javascript(3) job(1) js(1) json(1) k8s(16) k8s部署指南(1) kubebuilder(1) kubectl(4) kubernetes(1) linux(2) localecompare(1) lombok(1) metrics(2) mock(1) mysql(1) npm(1) nsenter(1) nvm(1) pnpm(1) pprof(1) prettier(1) prometheus(2) protobuf3(1) protoc(1) qiankun(1) request(1) scss(1) servicemesh(1) spring(1) springcloud-freemesh(1) ssh(2) systemctl(1) tcpdump(1) typescript(2) vite(2) vscode(2) vue(8) vue-admin(2) vue3(1) webssh(1) xtermjs(1) xxl-job(1) yarn(1) zookeeper(1) 云原生(4) 云原生框架(1) 介绍(1) 单体架构-freemesh(1) 单元化(1) 博客(1) 压缩(1) 可观测(1) 后台管理系统(1) 命名规范(1) 多云多活(1) 如水网(1) 安全(1) 安装(1) 容器(2) 开发联调神器(1) 微前端(1) 微服务(2) 微服务架构-freemesh(1) 微服务框架(1) 快速开始(1) 控制面(1) 数据面(1) 文集(2) 服务发现(1) 服务网格(1) 流量泳道(1) 流量管理(1) 监控告警(1) 端口映射(1) 证书(1) 负载均衡(1) 配置(1)