Was kann es besseres geben als einen Kubernetes Cluster? Richtig: ZWEI Kubernetes Cluster! Optimalerweise sollten diese sich miteinander unterhalten koennen und man sollte Arbeitslast leicht von einem Cluster auf einen anderen verschieben koennen.
Die Antwort dazu heisst: KubeFed
Die Frage stellte sich unlaengst bei der Evakuiering eines leicht ledierten Clusters, der aus dem Backup-Recovery wiederauferstanden war und doch nicht wieder richtig lief. Die Idee war, die Arbeitslast wie Deployments, Services und Configmaps schnell auf einen anderen Cluster zu migrieren. Die Foederation der beiden Cluster wird mit KubeFed realisiert.
Wir brauchen:
- Zwei (1-Node) Kubernetes Cluster im selben Netzwerk, mindestens freier Zugang zur KubeAPI Port tcp/6443
- Ein Kube-Config-File, welches jeweils mit Kontext zu beiden Clustern konfiguriert ist. Desweiteren
- kubectl (etwa
snap install kubectl --classic) - helm cli (etwa
snap install helm --classic) - kubefedctl cli
wget "https://github.com/kubernetes-sigs/kubefed/releases/download/v0.3.1/kubefedctl-0.3.1-linux-amd64.tgz"
tar xvfz kubefedctl-0.3.1-linux-amd64.tgz
Installation:
Kubefed kann auf beiden Clustern mit helm installiert werden:
Shell
# namespace erstellen, wenn helm das noch nicht kann | |
kubectl create namespace kube-federation-system | |
helm repo add kubefed-charts https://raw.githubusercontent.com/kubernetes-sigs/kubefed/master/charts | |
# helm < 3.2 | |
helm --namespace kube-federation-system upgrade -i kubefed kubefed-charts/kubefed | |
# helm >3.2 | |
helm --namespace kube-federation-system upgrade -i kubefed kubefed-charts/kubefed --create-namespace |
Derzeit ist die Dokumentation noch fuer Helm v2. Der PR fuer v3 ist in Arbeit, interessant fuer die zu installierenden CRDs. Es lohnt sich also noch ein Blick in die Doku.
WIr erinnern uns, dass wir eine Kube-Config mit jeweils einem Kontext fuer die beteiligten Cluster, nennen wir sie quickstart-01 und quickstart-02, erstellen wollten. Beim Verbinden mit kubefedctl greifen wir auf diese Informationen zurueck:
Shell
./kubefedctl join quickstart-01 --cluster-context quickstart-01 --host-cluster-context quickstart-01 | |
./kubefedctl join quickstart-02 --cluster-context quickstart-02 --host-cluster-context quickstart-01 |
Der quickstart-01 Cluster ist also sowas wie der Master (Host) und der andere Cluster foederiert mit diesem.
Den Status koennen wir sofort abfragen:
Shell
kubectl -n kube-federation-system get kubefedcluster | |
NAME AGE READY | |
quickstart-01 3h25m True | |
quickstart-02 3h21m True |
Wenn READY nicht "True" ist, sollte man die Netzwerkverbindung ueberpruefen oder mit describe schauen, was es evtl. vom Cluster fuer Fehlermeldungen gibt.
Nach dem Verbinden ermoeglichen wir die Foederation fuer bestimmte Resourcen, hier etwa statefulsets:
enable federation type for specific resources (see project documentation)
Shell
./kubefedctl enable statefulsets --host-cluster-context=quickstart-01 |
Und dann die eigentliche Foederation:
Shell
./kubefedctl federate statefulset folding-at-home -n folding |
Die Arbeitslast sollte sich jetzt verdoppeln: Auf quickstart-01 und auf quickstart-02
# source cluster
$ kubectl config set current-context quickstart-01
$ kubectl -n folding get all
NAME READY STATUS RESTARTS AGE
pod/folding-at-home-0 1/1 Running 0 8d
pod/folding-at-home-1 1/1 Running 0 8d
pod/folding-at-home-2 1/1 Running 0 8d
pod/folding-at-home-3 1/1 Running 0 8d
pod/folding-at-home-4 1/1 Running 0 8d
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
service/folding-at-home-0 ClusterIP 10.43.175.57 80/TCP 127d
service/folding-at-home-1 ClusterIP 10.43.206.48 80/TCP 127d
service/folding-at-home-2 ClusterIP 10.43.232.241 80/TCP 127d
service/folding-at-home-3 ClusterIP 10.43.152.4 80/TCP 127d
service/folding-at-home-4 ClusterIP 10.43.201.56 80/TCP 127d
NAME READY AGE
statefulset.apps/folding-at-home 5/5 127
# target cluster
$ kubectl config set current-context quickstart-02
$ kubectl -n folding get all
NAME READY STATUS RESTARTS AGE
pod/folding-at-home-0 1/1 Running 0 156m
pod/folding-at-home-1 1/1 Running 0 156m
pod/folding-at-home-2 1/1 Running 0 155m
pod/folding-at-home-3 1/1 Running 0 155m
pod/folding-at-home-4 1/1 Running 0 155m
NAME READY AGE
statefulset.apps/folding-at-home 5/5 156m
Wir man sieht, hat sich nur die Resource statefulset foederiert, services gibt es immer noch nicht. DIese muesste man auf aehnliche Weise anstossen. Einige Beispiele fuer Resource-Typen gibt es im Beispiel-Code.
