KaaS – Cluster de management

Installation du cluster de management

Prérequis

• Un datacenter virtuel
• Un réseau routé avec accès à internet (snat)
• Résolution DNS Internet
• La fonctionnalité de LoadBalancing activée (demande à effectuer)
• Cluster de bootstrap déployé
• Les outils de ligne de commande : Outils
• Pour IaaS Interne seulement : Source NAT pour Access API

L’ensemble des étapes ci-dessous doivent être réalisées depuis le cluster de bootstrap, c’est à dire connecté sur ce cluster via kubectl

NOTE : Si vous n’avez pas encore déployé un cluster de bootstrap dans votre environnement, merci de vous reporter au processus de déploiement via la page ci-dessous avant de continuer

• KaaS – Information Map.

Pour vérifier sur quel cluster vous êtes connecté, vous pouvez utiliser les commandes ci-dessous.

# kubectl config current-context

and 

# kubectl get nodes

Déploiement

Préparation du fichier de configuration du cluster à créer

L’outil clusterctl s’appuie sur des fichiers de templates (fournis par VMware dans notre cas) ainsi que d’un fichier de configuration avec l’ensemble des paramètres requis pour la création.

Le fichier de configuration d’exemple se situe : ~/.cluster-api/clusterctl.yaml

Nous l’utilisons donc comme base pour notre cluster mgt01

cp ~/.cluster-api/clusterctl.yaml mgt01-config.yaml

Remplissez le fichier ***-config.yml précédemment copié

Le fichier ***-config.yml est utilisé pour renseigner l’ensemble des informations nécessaires à Cluster API pour déployer un cluster.

Les autres paramètres peuvent être ignorés

Générez le fichier yaml de création.

clusterctl generate cluster mgt01 --config mgt01-config.yaml -f v1.22.9-crs > mgt01.yaml

Appliquez le fichier yaml pour lancer la création du cluster.

Puis attendez que le cluster soit créé :

1. Vérifiez que l’objet Cluster est en phase Provisionned via la commande : kubectl get cluster
2. Attendez que tous les noeuds de master soient en status READY via la commande : kubectl get kubeadmcontrolplane

# kubectl get kubeadmcontrolplane

NAME                   CLUSTER   INITIALIZED   API SERVER AVAILABLE   REPLICAS   READY   UPDATED   UNAVAILABLE   AGE   VERSION
mgt01-control-plane    mgt01     true          true                   1          1       1         0             24m   v1.22.9+vmware.1

Grâce au ClusterResourceSet les PODS de CNI, CSI et CPI sont déployés automatiquement, cependant ils leur manquent quelques éléments de configuration que nous allons ajouter maintenant. C’est pourquoi ces PODS ne sont pas encore running sur le nouveau cluster créé.

Pour cela il faut bien être connecté au cluster de management et non pas au nouveau cluster.

Modifiez les 6 premières lignes de commandes fournies à droite et appliquez l’ensemble

Créer les secrets :

• CLUSTERNAME : Nom du cluster de management que l’on est en train de créer

• MGT : chemin vers le kubeconfig de notre cluster de bootstrap (qui agit comme notre cluster de management)
• VCDHOST: URL de la console vCloud Director
• ORG: nom de votre organisation
• OVCD: nom du datacentervirtuel ou se situe le cluster
• ONETWORK: nom du réseau VCD ou se situe le cluster

Après quelques minutes tous les PODS doivent être en phase RUNNING sur le cluster mgt01

CLUSTERNAME=mgt01
MGT=~/.kube/kube-bootstrap01
VCDHOST=https://*******.com/
ORG=***
OVDC=***
ONETWORK=****

WRK=~/.kube/kube-${CLUSTERNAME}
clusterctl get kubeconfig ${CLUSTERNAME} > ${WRK}
export CLUSTERID=$(kubectl --kubeconfig=${MGT} get vcdclusters ${CLUSTERNAME} -o jsonpath="{.status.infraId}")
kubectl --kubeconfig=${WRK} -n kube-system create secret generic vcloud-clusterid-secret --from-literal=clusterid=${CLUSTERID}

export REFRESH_TOKEN=$(kubectl --kubeconfig=${MGT} get secret capi-user-credentials -o jsonpath="{.data.refreshToken}" | base64 --decode)
kubectl --kubeconfig=${WRK} -n kube-system create secret generic vcloud-basic-auth --from-literal=refreshToken=${REFRESH_TOKEN} --from-literal=username="" --from-literal=password=""

Créer les configmaps

Utilisez les deux commandes ci-contre pour créer les configmaps requis.

Il est possible de les customiser notamment en choisissant un vipSubnet.

echo "apiVersion: v1
kind: ConfigMap
metadata:
    name: vcloud-csi-configmap
    namespace: kube-system
data:
    vcloud-csi-config.yaml: |+
        vcd:
          host: ${VCDHOST}
          org: ${ORG}
          vdc: ${OVDC}
          vAppName: ${CLUSTERNAME}
        clusterid: ${CLUSTERID}
immutable: true" | kubectl apply --kubeconfig=${WRK} -f -

echo "apiVersion: v1
kind: ConfigMap
metadata:
      name: vcloud-ccm-configmap
      namespace: kube-system
data:
      vcloud-ccm-config.yaml: |+
        vcd:
          host: ${VCDHOST}
          org: ${ORG}
          vdc: ${OVDC}
        loadbalancer:
          oneArm:
            startIP: \"192.168.8.2\"
            endIP: \"192.168.8.100\"
          ports:
            http: 80
            https: 443
          network: ${ONETWORK}
          vipSubnet: \"\"
          certAlias: ${CLUSTERID}-cert
          enableVirtualServiceSharedIP: false # supported for VCD >= 10.4
        clusterid: ${CLUSTERID}
        vAppName: ${CLUSTERNAME}
immutable: true" | kubectl apply --kubeconfig=${WRK} -f -

Après quelques instants tous les PODS doivent être Running sur le cluster et les composants machinedeployment sur le cluster de management doivent être en status READY et Phase Running

# kubectl get machinedeployment

NAME          CLUSTER   REPLICAS   READY   UPDATED   UNAVAILABLE   PHASE     AGE   VERSION
mgt01-md-0    mgt01     1          1       1         0             Running   28m   v1.22.9+vmware.1

Vous pouvez maintenant récupérer le fichier kubeconfig pour ce nouveau cluster

clusterctl get kubeconfig CLUSTERNAME > ~/.kube/kube-CLUSTERNAME

Exemple :

clusterctl get kubeconfig mgt01 > ~/.kube/kube-mgt01

• Passez au cluster de gestion avec kctx ou de toute autre manière que vous préférez.
• Vérifiez si vous êtes correctement connecté au bon cluster en utilisant la commande kubectl get nodes.

kctx
kubectl get nodes

Installation de clusterAPI

Suivez les instructions de cette page : KaaS – installation de Cluster API

kubectl delete cluster CLUSTER-NAME

Récupérer un refreshToken VCD

• Ouvrez votre console vCloud Director avec le compte que vous souhaitez utiliser pour créer vos clusters (compte de service)
• Dans le coin en haut à droite de la page, cliquez sur les 3 points verticaux.
• Cliquez sur Préférence utilisateur
• Dans la section Jetons d’accès cliquez sur Nouveau
• Donnez un nom à ce token puis cliquez sur Créer
• Copiez le jeton. Ce jeton est à garder précieusement et bien sécurisé.