feat: secure docker image removal

Reviewed-on: #12

.gitea/workflows/deployment.yml

@@ -4,6 +4,8 @@ on:
   push:
     branches:
       - preview
+  schedule:
+    - cron: '0 3 * * 5'
 
 env:
   DOCKER_IMAGE: vezpi-blog
@@ -22,7 +24,7 @@ jobs:
       docker_folder_changed: ${{ steps.docker_folder.outputs.changed }}
     steps:
       - name: Checkout Repository
-        run: git clone --branch preview https://${{ secrets.REPO_TOKEN }}@git.vezpi.me/Vezpi/blog.git .
+        run: git clone --branch ${{ gitea.ref_name }} https://${{ secrets.REPO_TOKEN }}@git.vezpi.com/Vezpi/blog.git .
 
       - name: Check Latest Hugo Version
         id: get_latest
@@ -77,7 +79,7 @@ jobs:
         shell: sh
     steps:
       - name: Checkout Repository
-        run: git clone --branch preview https://${{ secrets.REPO_TOKEN }}@git.vezpi.me/Vezpi/blog.git .
+        run: git clone --branch ${{ gitea.ref_name }} https://${{ secrets.REPO_TOKEN }}@git.vezpi.com/Vezpi/blog.git .
 
       - name: Build Docker Image
         run: |  
@@ -89,9 +91,7 @@ jobs:
           docker tag ${DOCKER_IMAGE}:${{ needs.Check-Rebuild.outputs.latest_hugo_version }} ${DOCKER_IMAGE}:latest
 
   Deploy-Staging:
-    needs: 
-      - Check-Rebuild
-      - Build
+    needs: [Check-Rebuild, Build]
     if: always() && needs.Check-Rebuild.result == 'success' && (needs.Build.result == 'skipped' || needs.Build.result == 'success')
     runs-on: docker
     container:
@@ -108,7 +108,7 @@ jobs:
           cd /blog
           docker compose down ${CONTAINER_NAME} 
           docker compose up -d ${CONTAINER_NAME}
-          sleep 5
+          sleep 30
           echo "- Displaying container logs"
           docker compose logs ${CONTAINER_NAME}
 
@@ -116,7 +116,7 @@ jobs:
     needs: Deploy-Staging
     runs-on: ubuntu
     env:
-      URL: "https://blog-dev.vezpi.com/en/"
+      URL: "https://blog-staging.vezpi.com/en/"
     steps:
       - name: Check HTTP Response
         run: |
@@ -131,7 +131,8 @@ jobs:
           fi
 
   Merge:
-    needs: Test-Staging
+    needs: [Check-Rebuild, Test-Staging]
+    if: needs.Test-Staging.result == 'success'
     runs-on: ubuntu
     steps:
       - name: Checkout Repository
@@ -142,7 +143,7 @@ jobs:
       
       - name: Merge preview Branch on main
         run: |
-          git merge --ff-only origin/preview
+          git merge --ff-only origin/${{ gitea.ref_name }}
           git push origin main
 
   Deploy-Production:
@@ -162,7 +163,7 @@ jobs:
           cd /blog
           docker compose down ${CONTAINER_NAME} 
           docker compose up -d ${CONTAINER_NAME}
-          sleep 5
+          sleep 30
           echo "- Displaying container logs"
           docker compose logs ${CONTAINER_NAME}
 
@@ -185,10 +186,7 @@ jobs:
           fi
 
   Clean:
-    needs:
-      - Check-Rebuild
-      - Build
-      - Test-Production
+    needs: [Check-Rebuild, Build, Test-Production]
     runs-on: docker
     defaults:
       run:
@@ -196,5 +194,45 @@ jobs:
     steps:
       - name: Remove Old Docker Image
         run: |
-          docker image rm ${{ needs.Check-Rebuild.outputs.current_docker_image }} --force
+          IMAGE_IDS=$(docker image ls "${DOCKER_IMAGE}" 2>/dev/null | awk '$NF != "U" && NR>1 {print $2}')
+          if [ -n "$IMAGE_IDS" ]; then
+              docker image rm $IMAGE_IDS
+          fi
+  
+  Notify:
+    needs: [Check-Rebuild, Build, Deploy-Staging, Test-Staging, Merge, Deploy-Production, Test-Production, Clean]
+    runs-on: ubuntu
+    if: always()
+    env:
+      NTFY_URL: https://ntfy.vezpi.com
+      NTFY_TOPIC: blog
+      NTFY_TOKEN: ${{ secrets.NTFY_CREDENTIALS }}
+    steps:
+      - name: Notify Workflow Result
+        run: |
+          if [[
+            "${{ needs.Check-Rebuild.result }}" == "success" &&
+           ("${{ needs.Build.result }}" == "success" || "${{ needs.Build.result }}" == "skipped") &&
+            "${{ needs.Deploy-Staging.result }}" == "success" &&
+            "${{ needs.Test-Staging.result }}" == "success" && 
+            "${{ needs.Merge.result }}" == "success" &&
+            "${{ needs.Deploy-Production.result }}" == "success" &&
+            "${{ needs.Test-Production.result }}" == "success" &&
+           ("${{ needs.Clean.result }}" == "success" || "${{ needs.Clean.result }}" == "skipped")
+          ]]; then
+            curl -H "Priority: min" \
+                 -H "Tags: white_check_mark" \
+                 -d "Blog workflow completed successfully." \
+                 -u ${NTFY_TOKEN} \
+                 ${NTFY_URL}/${NTFY_TOPIC}
+          else
+            curl -H "Priority: high" \
+                 -H "Tags: x" \
+                 -H "Actions: view, View Run, ${{ gitea.server_url }}/${{ gitea.repository }}/actions/runs/${{ gitea.run_number }}, clear=true; \
+                              view, Verify Blog, https://blog.vezpi.com, clear=true" \
+                 -d "Blog workflow failed!" \
+                 -u ${NTFY_TOKEN} \
+                 ${NTFY_URL}/${NTFY_TOPIC}
+          fi
+
           

.gitea/workflows/test.yml

@@ -0,0 +1,133 @@
+name: Blog Test
+
+on:
+  push:
+    branches:
+      - 'fix/**'
+      - 'feat/**'
+
+env:
+  DOCKER_IMAGE: vezpi-blog
+
+jobs:
+  Check-Rebuild:
+    runs-on: docker
+    defaults:
+      run:
+        shell: sh
+    outputs:
+      latest_hugo_version: ${{ steps.get_latest.outputs.version }}
+      current_hugo_version: ${{ steps.get_current.outputs.version }}
+      newer_version_available: ${{ steps.compare.outputs.version }}
+      current_docker_image: ${{ steps.current_docker.outputs.image }}
+      docker_folder_changed: ${{ steps.docker_folder.outputs.changed }}
+    steps:
+      - name: Checkout Repository
+        run: git clone --branch ${{ gitea.ref_name }} https://${{ secrets.REPO_TOKEN }}@git.vezpi.com/Vezpi/blog.git .
+
+      - name: Check Latest Hugo Version
+        id: get_latest
+        run: |
+          apk add curl
+          latest_version=$(curl -s https://api.github.com/repos/gohugoio/hugo/releases/latest | grep tag_name | sed -E 's/.*"v([^"]+)".*/\1/')
+          echo "version=$latest_version" | tee -a $GITEA_OUTPUT
+
+      - name: Check Current Hugo Version
+        id: get_current
+        run: |
+          current_version=$(docker image ls ${DOCKER_IMAGE} --format '{{.Tag}}' | head -n1)
+          echo "version=$current_version" | tee -a $GITEA_OUTPUT
+      
+      - name: Compare Current and Latest Hugo Versions
+        id: compare
+        run: |
+          if [ "${{ steps.get_latest.outputs.version }}" != "${{ steps.get_current.outputs.version }}" ]; then
+            new_version_available=true
+            echo "New version available: ${{ steps.get_latest.outputs.version }}"
+          else
+            new_version_available=false
+            echo "Current version is the latest: ${{ steps.get_latest.outputs.version }}"
+          fi
+          echo "version=$new_version_available" | tee -a $GITEA_OUTPUT
+
+      - name: Get Current Docker Image ID
+        id: current_docker
+        run: |
+          current_image=$(docker image ls ${DOCKER_IMAGE}:latest --format '{{.ID}}' | head -n1)
+          echo "image=$current_image" | tee -a $GITEA_OUTPUT
+
+      - name: Check Changes in the Docker Folder
+        id: docker_folder
+        run: |
+          if git diff --name-only origin/main | grep -q '^docker/'; 
+          then 
+            docker_folder_changed=true
+            echo "Change detected in the /docker folder"
+          else 
+            docker_folder_changed=false
+            echo "No change in the /docker folder"
+          fi
+          echo "changed=$docker_folder_changed" | tee -a $GITEA_OUTPUT
+
+  Build:
+    needs: Check-Rebuild
+    if: needs.Check-Rebuild.outputs.newer_version_available == 'true' || needs.Check-Rebuild.outputs.docker_folder_changed == 'true'
+    runs-on: docker
+    defaults:
+      run:
+        shell: sh
+    steps:
+      - name: Checkout Repository
+        run: git clone --branch ${{ gitea.ref_name }} https://${{ secrets.REPO_TOKEN }}@git.vezpi.com/Vezpi/blog.git .
+
+      - name: Build Docker Image
+        run: |  
+          cd docker
+          docker build \
+            --build-arg HUGO_VERSION=${{ needs.Check-Rebuild.outputs.latest_hugo_version }} \
+            --tag ${DOCKER_IMAGE}:${{ needs.Check-Rebuild.outputs.latest_hugo_version }} \
+            .
+          docker tag ${DOCKER_IMAGE}:${{ needs.Check-Rebuild.outputs.latest_hugo_version }} ${DOCKER_IMAGE}:dev
+
+  Deploy-Test:
+    needs:
+      - Check-Rebuild
+      - Build
+    if: always() && needs.Check-Rebuild.result == 'success' && (needs.Build.result == 'skipped' || needs.Build.result == 'success')
+    runs-on: docker
+    container:
+      volumes:
+        - /appli/docker/blog:/blog
+    defaults:
+      run:
+        shell: sh
+    env:
+      CONTAINER_NAME: blog_dev
+    steps:
+      - name: Launch Blog Test Deployment
+        run: |
+          cd /blog
+          docker compose down ${CONTAINER_NAME} 
+          BLOG_TEST_BRANCH=${{ gitea.ref_name }} docker compose up -d ${CONTAINER_NAME}
+          sleep 30
+          echo "- Displaying container logs"
+          docker compose logs ${CONTAINER_NAME}
+
+  Test:
+    needs: Deploy-Test
+    runs-on: ubuntu
+    env:
+      URL: "https://blog-dev.vezpi.com/en/"
+    steps:
+      - name: Check HTTP Response
+        run: |
+          code=$(curl -s -o /dev/null -w "%{http_code}" "$URL")
+          echo "HTTP response code: $code"
+
+          if [ "$code" -ne 200 ]; then
+            echo "❌ Service is not healthy (HTTP $code)"
+            exit 1
+          else
+            echo "✅ Service is healthy"
+          fi
+

assets/icons/brand-git.svg

@@ -1 +0,0 @@
-<svg  xmlns="http://www.w3.org/2000/svg"  width="24"  height="24"  viewBox="0 0 24 24"  fill="none"  stroke="currentColor"  stroke-width="2"  stroke-linecap="round"  stroke-linejoin="round"  class="icon icon-tabler icons-tabler-outline icon-tabler-brand-git"><path stroke="none" d="M0 0h24v24H0z" fill="none"/><path d="M16 12m-1 0a1 1 0 1 0 2 0a1 1 0 1 0 -2 0" /><path d="M12 8m-1 0a1 1 0 1 0 2 0a1 1 0 1 0 -2 0" /><path d="M12 16m-1 0a1 1 0 1 0 2 0a1 1 0 1 0 -2 0" /><path d="M12 15v-6" /><path d="M15 11l-2 -2" /><path d="M11 7l-1.9 -1.9" /><path d="M13.446 2.6l7.955 7.954a2.045 2.045 0 0 1 0 2.892l-7.955 7.955a2.045 2.045 0 0 1 -2.892 0l-7.955 -7.955a2.045 2.045 0 0 1 0 -2.892l7.955 -7.955a2.045 2.045 0 0 1 2.892 0z" /></svg>

assets/icons/brightness-up.svg

@@ -1 +0,0 @@
-<svg  xmlns="http://www.w3.org/2000/svg"  width="24"  height="24"  viewBox="0 0 24 24"  fill="currentColor"  class="icon icon-tabler icons-tabler-filled icon-tabler-brightness-up"><path stroke="none" d="M0 0h24v24H0z" fill="none"/><path d="M12 8a4 4 0 1 1 -3.995 4.2l-.005 -.2l.005 -.2a4 4 0 0 1 3.995 -3.8z" /><path d="M12 2a1 1 0 0 1 .993 .883l.007 .117v2a1 1 0 0 1 -1.993 .117l-.007 -.117v-2a1 1 0 0 1 1 -1z" /><path d="M17.693 4.893a1 1 0 0 1 1.497 1.32l-.083 .094l-1.4 1.4a1 1 0 0 1 -1.497 -1.32l.083 -.094l1.4 -1.4z" /><path d="M21 11a1 1 0 0 1 .117 1.993l-.117 .007h-2a1 1 0 0 1 -.117 -1.993l.117 -.007h2z" /><path d="M16.293 16.293a1 1 0 0 1 1.32 -.083l.094 .083l1.4 1.4a1 1 0 0 1 -1.32 1.497l-.094 -.083l-1.4 -1.4a1 1 0 0 1 0 -1.414z" /><path d="M12 18a1 1 0 0 1 .993 .883l.007 .117v2a1 1 0 0 1 -1.993 .117l-.007 -.117v-2a1 1 0 0 1 1 -1z" /><path d="M6.293 16.293a1 1 0 0 1 1.497 1.32l-.083 .094l-1.4 1.4a1 1 0 0 1 -1.497 -1.32l.083 -.094l1.4 -1.4z" /><path d="M6 11a1 1 0 0 1 .117 1.993l-.117 .007h-2a1 1 0 0 1 -.117 -1.993l.117 -.007h2z" /><path d="M4.893 4.893a1 1 0 0 1 1.32 -.083l.094 .083l1.4 1.4a1 1 0 0 1 -1.32 1.497l-.094 -.083l-1.4 -1.4a1 1 0 0 1 0 -1.414z" /></svg>

assets/icons/message-language.svg

@@ -0,0 +1 @@
+<svg  xmlns="http://www.w3.org/2000/svg"  width="24"  height="24"  viewBox="0 0 24 24"  fill="none"  stroke="currentColor"  stroke-width="2"  stroke-linecap="round"  stroke-linejoin="round"  class="icon icon-tabler icons-tabler-outline icon-tabler-message-language"><path stroke="none" d="M0 0h24v24H0z" fill="none"/><path d="M4 21v-13a3 3 0 0 1 3 -3h10a3 3 0 0 1 3 3v6a3 3 0 0 1 -3 3h-9l-4 4" /><path d="M10 14v-4a2 2 0 1 1 4 0v4" /><path d="M14 12h-4" /></svg>

assets/scss/custom.scss

@@ -0,0 +1,17 @@
+.homepage-header {
+  text-align: center;
+}
+
+.lang-toggle-icon {
+  margin-left: 0;
+  svg {
+    width: 64px;
+    height: 24px;
+  }
+}
+
+.container {
+    .left-sidebar {
+        width: unset;
+    }
+}

content/_index.fr.md

@@ -0,0 +1,6 @@
+---
+title: Bienvenue sur Vezpi Lab
+description: Ici les derniers articles
+---
+Ce blog partage mes projets et expériences dans mon homelab.  
+Vous trouverez ci-dessous les derniers articles.

content/_index.md

@@ -0,0 +1,6 @@
+---
+title: Welcome to Vezpi Lab
+description: Here the latest articles
+---
+This blog shares project and experiments from my homelab.  
+Below you'll find the latest articles.

content/page/about/index.fr.md

@@ -9,12 +9,12 @@ menu:
     params:
       icon: user
 ---
-Salut ! Moi c'est Etienne, j'adore l'**automatisation** et je suis un amateur de projets **homelab**. Je suis un expert Linux et travaille comme **Senior Cloud DevOps Engineer** chez Capgemini.
+Salut ! Moi c'est Etienne, j'adore l'**automatisation** et je suis un amateur de projets **homelab**. Je suis un expert Linux et je travaille comme **Senior Cloud DevOps Engineer** chez Capgemini.
 
-Motivé par la passion, j'aime explorer de nouvelles technologie, comprendre comment elles fonctionnement et les expérimenter chez moi, juste pour le plaisir. Mon lab est passé d'un simple espace de bidouille à un véritable terrain de jeu pour expérimenter la virtualisation, l'orchestration de conteneurs, le réseau, et bien plus encore.
+Motivé par la passion, j'aime explorer de nouvelles technologies, comprendre comment elles fonctionnent et les expérimenter chez moi, juste pour le plaisir. Mon lab est passé d'un simple espace de bidouille à un véritable terrain de jeu pour expérimenter la virtualisation, l'orchestration de conteneurs, le réseau, et bien plus encore.
 
 Ce blog est ma façon de documenter ce que je construis, casse (volontairement !), répare et surtout, ce que j'**apprends**. C'est une référence personnelle, mais aussi un moyen de partager avec la communauté, de m’open source, au cas où quelqu'un d'autre suivrait le même chemin et trouverait mon expérience utile.
 
-Même si je suis français, J'écris mes notes personnelles en anglais pour perfectionner l'utilisation de cette langue, mais j’essaye tout de même de les traduire dans ma langue maternelle.
+Même si je suis français, j'écris mes notes personnelles en anglais pour perfectionner l'utilisation de cette langue, mais j’essaie tout de même de les traduire dans ma langue maternelle.
 
 Si vous travaillez sur un projet intéressant, si vous avez des questions ou si vous souhaitez proposer de nouvelles idées, **n'hésitez pas à me contacter** !

content/page/homelab/index.fr.md

@@ -122,9 +122,9 @@ La meilleure solution que j'ai trouvée a été de percer deux trous de 40 mm a
 
 Voici à quoi ça ressemble :
 
-![Front view of my homelab with legend](img/homelab-rack-legend.png)
+![Vue de face de mon homelab avec légende](images/homelab-rack-legend.png)
 
-![Different views of my homelab with open and closed enclosure](img/homelab-enclore-open-closed.png)
+![Différentes vues de mon homelab avec armoire ouverte et fermée](images/homelab-enclore-open-closed.png)
 
 ---
 ## Stack Logicielle
@@ -183,7 +183,7 @@ Cette configuration de proxy à deux couches centralise la gestion des certifica
 Pour un accès distant sécurisé, j'ai configuré **WireGuard** sur OPNsense. Ce VPN léger fournit une connectivité chiffrée à mon lab où que je sois, permettant ainsi de gérer tous mes services sans les exposer directement à Internet.
 #### Schéma Réseau
 
-![Diagram of my home network ](img/homelab-network-schema.png)
+![Schéma de mon réseau domestique](images/homelab-network-schema.png)
 
 ### Application
 

content/page/homelab/index.md

@@ -121,9 +121,9 @@ Inside the rack, I also added two 80mm fans to help with airflow. To keep everyt
 
 Here what is look like:
 
-![Front view of my homelab with legend](img/homelab-rack-legend.png)
+![Front view of my homelab with legend](images/homelab-rack-legend.png)
 
-![Different views of my homelab with open and closed enclosure](img/homelab-enclore-open-closed.png)
+![Different views of my homelab with open and closed enclosure](images/homelab-enclore-open-closed.png)
 
 
 ---
@@ -184,7 +184,7 @@ This two-layer proxy setup centralizes SSL certificate management in **Caddy** w
 For secure remote access, I configured **WireGuard** on OPNsense. This lightweight VPN provides encrypted connectivity to my lab from anywhere, allowing management of all my services without exposing them all directly to the internet.
 #### Network Diagram
 
-![Diagram of my home network ](img/homelab-network-schema.png)
+![Diagram of my home network ](images/homelab-network-schema.png)
 ### Application
 
 Let's dive into the fun part! What started as a modest setup meant to serve a few personal needs quickly turned into a full ecosystem of open source services, each solving a specific need or just satisfying curiosity.

content/post/1-proxmox-cloud-init-vm-template/index.fr.md

@@ -32,7 +32,7 @@ Tout d'abord, nous devons télécharger une image compatible cloud-init. Bien qu
 Trouvez des images compatibles cloud dans le [Guide des images OpenStack](https://docs.openstack.org/image-guide/obtain-images.html).
 
 Dans Proxmox, accédez à **Storage > ISO Images > Upload** pour uploader l'image téléchargée.
-![Download window for ISO images in Proxmox](img/proxmox-download-iso-img.png)
+![Fenêtre de téléchargement pour images ISO dans Proxmox](images/proxmox-download-iso-img.png)
 ## Créer la VM
 
 Ensuite, on crée une VM en utilisant la ligne de commande (CLI) depuis le nœud Proxmox avec la commande suivantes :

content/post/1-proxmox-cloud-init-vm-template/index.md

@@ -32,7 +32,7 @@ First, we need to download an image with cloud-init support. Although Rocky Linu
 Find cloud-ready images from the [OpenStack Image Guide](https://docs.openstack.org/image-guide/obtain-images.html).
 
 In Proxmox, navigate to **Storage > ISO Images > Upload** to upload the downloaded image.
-![Download window for ISO images in Proxmox](img/proxmox-download-iso-img.png)
+![Download window for ISO images in Proxmox](images/proxmox-download-iso-img.png)
 
 ## Create the VM
 

content/post/10-opnsense-crash-disk-panic/index.fr.md

@@ -0,0 +1,224 @@
+---
+slug: opnsense-crash-disk-panic
+title: Mon Routeur OPNsense Crash, de la Panique à la Renaissance
+description: L'histoire sur comment j’ai survécu à un crash OPNsense à cause d'une disque défaillant et pourquoi un fichier XML a tout changé.
+date: 2025-08-24
+draft: false
+tags:
+  - opnsense
+categories:
+  - homelab
+---
+## Intro
+
+Cette semaine, j’ai vécu mon premier vrai problème dans mon homelab, qui a fait tomber tout mon réseau à la maison.
+
+Mon routeur OPNsense a crash et, après plusieurs tentatives de récupération ratées, j’ai finalement dû le réinstaller from scratch. Heureusement, presque toute la configuration est revenue grâce à un simple fichier XML. Dans cette histoire, je vais raconter ce qui s’est passé, ce que j’ai fait pour m’en sortir, et aussi ce que je n’aurais pas dû faire.
+
+Ce genre d’exercice est la pire chose que vous souhaitez voir arriver, parce que ce n’est jamais amusant de voir tout exploser. Mais c’est de loin la meilleure façon d’apprendre.
+
+## Le Calme Avant la Tempête
+
+Ma box OPNsense tournait parfaitement depuis des mois. Routeur, pare-feu, DNS, DHCP, VLANs, VPN, reverse proxy et même contrôleur UniFi : toutes les pièces de mon homelab passe par elle. Mais pas seulement, elle fournit aussi Internet à la maison.
+
+![Le schéma réseau de mon Homelab](images/homelab-network-schema.png)
+
+Cette box est le cœur de mon réseau, sans elle, je ne peux quasiment rien faire. J’ai détaillé son fonctionnement dans ma section [Homelab]({{< ref "page/homelab" >}}). Tout “fonctionnait juste”, et je ne m’en inquiétait pas. J’étais confiant, sa sauvegarde vivait uniquement à l’intérieur de la machine…
+
+Peut-être trop confiant.
+
+## Le Redémarrage Inattendu
+
+Sans prévenir, la box a redémarré toute seule, juste avant minuit. Par chance, je passais à côté de mon rack en allant me coucher. J’ai su qu’elle avait redémarré car j’ai entendu son petit bip de démarrage.
+
+Je me suis demandé pourquoi le routeur avait redémarré sans mon accord. Dans mon lit, j’ai rapidement vérifié si Internet fonctionnait : oui. Mais aucun de mes services n’était disponible, ni la domotique, ni ce blog. J’étais fatigué, je réglerais ça le lendemain…
+
+Au matin, en regardant les logs, j’ai trouvé le coupable :
+```
+panic: double fault
+```
+
+Un kernel panic. Mon routeur avait littéralement planté au niveau matériel.
+
+## Premières Tentatives de Dépannage
+
+Au début, l’impact semblait mineur. Un seul service ne redémarrait pas : Caddy, mon reverse proxy. Ce qui expliquait pourquoi mes services n’étaient pas accessibles.
+
+En fouillant dans les logs, j’ai trouvé l’erreur :
+```
+caching certificate: decoding certificate metadata: unexpected end of JSON input
+```
+
+Un des certificats mis en cache avait été corrompu pendant le crash. En supprimant son dossier de cache, Caddy est reparti et, d’un coup, tous mes services HTTPS étaient de retour.
+
+Je pensais avoir esquivé la balle. Je n’ai pas cherché plus loin sur la cause réelle : les logs du kernel étaient pollués par une interface qui “flappait”, j’ai cru à un simple bug. À la place, je me suis lancé dans une mise à jour, ma première erreur.
+
+Mon instance OPNsense était en version 25.1, et la 25.7 venait de sortir. Allons-y gaiement !
+
+La mise à jour s’est déroulée correctement, mais quelque chose clochait. En cherchant de nouvelles updates, j’ai vu une corruption dans `pkg`, la base de données du gestionnaire de paquets :
+```
+pkg: sqlite error while executing iterator in file pkgdb_iterator.c:1110: database disk image is malformed
+```
+
+🚨 Mon alarme interne s'est déclenchée. J’ai pensé aux sauvegardes et j’ai immédiatement téléchargé la dernière :  
+![Sauvegarde de configuration dans OPNsense](images/opnsense-download-backup.png)
+
+En cliquant sur le bouton `Download configuration`, j’ai récupéré le `config.xml` en cours d’utilisation. Je pensais que ça suffirait.
+
+## Corruption du Système de Fichiers
+
+J’ai tenté de réparer la base `pkg` de la pire façon possible : j’ai sauvegardé le dossier `/var/db/pkg` puis essayé de refaire un `bootstrap` :
+```bash
+cp -a /var/db/pkg /var/db/pkg.bak
+pkg bootstrap -f
+```
+```
+The package management tool is not yet installed on your system.
+Do you want to fetch and install it now? [y/N]: y
+Bootstrapping pkg from https://pkg.opnsense.org/FreeBSD:14:amd64/25.7/latest, please wait...
+[...]
+pkg-static: Fail to extract /usr/local/lib/libpkg.a from package: Write error
+Failed to install the following 1 package(s): /tmp//pkg.pkg.scQnQs
+[...]
+A pre-built version of pkg could not be found for your system.
+```
+
+J’ai vu un `Write error`. Je soupçonnais un problème disque. J’ai lancé `fsck` et reçu un flot d’incohérences :
+```bash
+fsck -n
+```
+```
+[...]
+INCORRECT BLOCK COUNT I=13221121 (208384 should be 208192)
+INCORRECT BLOCK COUNT I=20112491 (8 should be 0)
+INCORRECT BLOCK COUNT I=20352874 (570432 should be 569856)
+[...]
+FREE BLK COUNT(S) WRONG IN SUPERBLK
+[...]
+SUMMARY INFORMATION BAD
+[...]
+BLK(S) MISSING IN BIT MAPS
+[...]
+***** FILE SYSTEM IS LEFT MARKED AS DIRTY *****
+```
+
+Le système de fichiers root était en mauvais état.
+
+N’ayant que SSH et pas de console, j’ai forcé un `fsck` au prochain redémarrage :
+```bash
+sysrc fsck_y_enable="YES"
+sysrc background_fsck="NO"
+reboot
+```
+
+Au redémarrage, le système a été réparé suffisamment pour relancer `pkg bootstrap`. Mais la moitié des paquets système avaient disparu. Ma mise à jour précédente sur un disque corrompu m’avait laissé avec un système bancal, à moitié installé, à moitié manquant.
+
+## Quand ça empire
+
+J’ai découvert l’utilitaire `opnsense-bootstrap`, censé remettre le système à plat :
+- Suppression de tous les paquets installés
+- Téléchargement et installation d’un nouveau noyau/base 25.7
+- Réinstallation des paquets standards
+
+Parfait !
+```
+opnsense-bootstrap
+```
+```
+This utility will attempt to turn this installation into the latest OPNsense 25.7 release. All packages will be deleted, the base system and kernel will be replaced, and if all went well the system will automatically reboot. Proceed with this action? [y/N]:
+```
+
+J’ai dit `y`. Ça commencé bien, puis… plus rien. Plus de signal. Plus d’Internet. Je croyais que ce bootstrap allait me sauver. En fait, il m’a enterré.
+
+🙈 Oups.
+
+Après un moment, j'ai tenté de le redémarré, mais impossible de me reconnecter en SSH. Pas le choix, j'ai du sortir le routeur du rack, le poser sur mon bureau, brancher écran et clavier et voir ce qui se passait.
+
+## Repartir de zéro
+
+C’était mauvais signe :
+```
+Fatal error: Uncaught Error: Class "OPNsense\Core\Config" not found
+in /usr/local/etc/inc/config.inc:143
+```
+
+Et les logs du bootstrap étaient pires :
+```
+bad dir ino … mangled entry
+Input/output error
+```
+
+Le disque était pas en forme. Je ne pouvais plus rien sauver. Il était temps de repartir de zéro. Heureusement, j’avais une sauvegarde… non ?
+
+J’ai téléchargé l’ISO OPNsense 25.7, créé une clé USB bootable, et réinstallé par-dessus, en laissant les paramètres par défaut.
+
+## Le sauveur : `config.xml`
+
+OPNsense garde toute sa configuration dans un seul fichier : `/conf/config.xml`. Ce fichier a été ma bouée de sauvetage.
+
+J'ai copié le `config.xml` sauvegardé avant dans ma clé USB. Quand je l'ai connectée sur la machine nouvellement installée, j'ai remplacé le fichier :
+```bash
+mount -t msdosfs /dev/da0s1 /mnt
+cp /mnt/config.xml /conf/config.xml
+```
+
+J’ai remis le routeur dans le rack, croisé les doigts… *bip !* 🎉
+
+Le DHCP m’a donné une adresse, bon signe. Je pouvais accéder à l’interface web, super. Ma configuration était là, à peu près tout sauf les plugins, comme prévu. Je ne peux pas les installer immédiatement, car ils nécessitent une autre mise à jour. Mettons à jour !
+
+Ce fichier XML à lui seul m'a permis de reconstruire mon routeur sans perdre la raison.
+
+Sans DNS (AdGuard non installé), j’ai temporairement pointé le DNS pour le système vers `1.1.1.1`.
+
+## Le Dernier Souffle
+
+Lors de la mise à jour suivante, rebelote : erreurs, reboot, crash. La machine de nouveau plus accessible...
+
+Je pouvais officiellement déclarer mon disque NVMe mort. 
+
+🪦 Repose en paix, merci pour tes loyaux services.
+
+Par chance, j’avais un NVMe Kingston 512 Go encore neuf, livré avec cette machine.  Je ne l'avais jamais utilisé car j'avais préféré réutiliser celui à l'intérieur de mon serveur *Vertex*.
+
+J’ai refait l’installation d'OPNsense dessus, et cette fois tout a fonctionné : passage en 25.7.1 et réinstallation des plugins officiels que j'utilisais.
+
+Pour les plugins custom (AdGuard Home et UniFi), il a fallu ajouter le repo tiers dans `/usr/local/etc/pkg/repos/mimugmail.conf` (documentation [ici](https://www.routerperformance.net/opnsense-repo/)) 
+```json
+mimugmail: {
+  url: "https://opn-repo.routerperformance.net/repo/${ABI}",
+  priority: 5,
+  enabled: yes
+}
+```
+
+Après un dernier reboot, le routeur était presque prêt, mais je n'avais toujours pas de DNS. C'était à cause de AdGuard Home qui n'était pas configuré
+
+⚠️ La configuration des plugins tiers ne sont pas sauvegardés dans `config.xml`.
+
+Reconfigurer AdGuard Home n'était pas bien compliqué, finalement mon DNS fonctionne et t out était revenu à la normale… sauf le contrôleur UniFi.
+
+## Leçons Apprises à la Dure
+
+- **Les sauvegardes comptent** : Je me retrouve toujours à penser que les sauvegardes ne sont pas fondamentales... jusqu'à ce qu'on ait besoin de restaurer et qu'il est trop tard.
+- **Gardez-les sauvegardes hors de la machine** : j’ai eu de la chance de récupérer le `config.xml` avant que mon disque me lâche. J'aurais vraiment passer un mauvais moment à tout restaurer entièrement.
+- **Vérifier la santé après un crash** : ne pas ignorer un kernel panic.
+- **Erreurs I/O = alerte rouge** : j’ai perdu des heures à batailler avec un disque condamné.
+- **Les plugins non-officiels ne sont pas sauvegardés** : La configuration d'OPNsense et de ces plugins officiels sont sauvegardés, ce n'est pas le cas pour les autres.
+- **Mon routeur est un SPOF** (*Un point de défaillance unique*) : Dans mon homelab, je voulais avoir le maximum d'éléments hautement disponible, il me faut trouver une meilleure solution.
+
+## Aller de l’Avant
+
+Je dois sérieusement repenser ma stratégie de sauvegarde. J’ai toujours repoussé, jusqu’à ce qu’il soit trop tard. Ça faisait longtemps que je n’avais pas subi une panne matérielle. Quand ça arrive, ça pique.
+
+Au départ, je pensais qu’un routeur sur son propre hardware était plus sûr. J’avais tort. Je vais réfléchir à une virtualisation sous Proxmox pour l’avoir en haute dispo. Un beau projet en perspective !
+
+## Conclusion
+
+Mon routeur OPNsense est passé d’un simple redémarrage aléatoire à un disque mort, avec un vrai rollercoaster de dépannage. Au final, je suis presque content que ça soit arrivé : j’ai appris bien plus qu’avec une mise à jour sans accroc.
+
+Si vous utilisez OPNsense (ou n’importe quel routeur), retenez ça :  
+**Gardez une sauvegarde hors de la machine.**
+
+Parce que quand ça casse, et ça finira par casser, c’est ce petit fichier XML qui peut sauver tout votre homelab.
+
+Restez safe, faites des sauvegardes.

content/post/10-opnsense-crash-disk-panic/index.md

@@ -0,0 +1,225 @@
+---
+slug: opnsense-crash-disk-panic
+title: My OPNsense Router Crash, from Panic to Reborn
+description: The story of how I survived an OPNsense crash with a failing disk and why one backup XML made all the difference.
+date: 2025-08-24
+draft: false
+tags:
+  - opnsense
+categories:
+  - homelab
+---
+## Intro
+
+This week, I experienced my first real problem on my homelab, which caused my whole home network to go down. 
+
+My OPNsense router crashed and, after several failed recovery attempts, I finally had to reinstall it from scratch. Luckily, almost all of the configuration came back thanks to a single XML file. In that story, I will tell you what happened, what I did to recover and what I shouldn't have done.
+
+This kind of exercise is the worst thing you want to happen because it's never funny to have everything go boom, but this is by far the best way to learn.
+
+## The Calm Before the Storm
+
+My OPNsense box had been running smoothly for months. Router, firewall, DNS, DHCP, VLANs, VPN, reverse proxy and even UniFi controller: all the pieces of my homelab run through it. but not only, it is also serving internet at home.
+
+![My Homelab network diagram](images/homelab-network-schema.png)
+
+This box is the heart of my network, without it, I can hardly do anything. I have detailed how this is working in my [Homelab]({{< ref "page/homelab" >}}) section. It was “just working,” and I wasn’t worried about it. I felt confident, its backup was living only inside the machine...
+
+Maybe too confident.
+
+## The Unexpected Reboot
+
+Out of nowhere, the box rebooted by itself just before midnight. By chance, I was just passing by my rack on my way to bed. I knew it had rebooted because I heard its little startup beep.
+
+I wondered why the router restarted without my will. In my bed, I quickly checked if internet was working, and it was. But none of my services were available, my home automation or even this blog. I was tired, I would fix that the next day...
+
+In the morning, looking at the logs, I found the culprit:
+```
+panic: double fault
+```
+
+A kernel panic. My router had literally crashed at the hardware level.
+
+## First Troubleshooting Attempts
+
+At first, the impact seemed minor. Only one service wasn’t coming back up: Caddy, my reverse proxy. That was making sense if my services weren't available.
+
+Digging into the logs, I found the error:
+
+```
+caching certificate: decoding certificate metadata: unexpected end of JSON input
+```
+
+It turned out that one of the cached certificates had been corrupted during the crash. Deleting its cache folder fixed Caddy, and suddenly all my HTTPS services were back online.
+
+I thought I had dodged the bullet. I didn't investigate much on the root cause analysis: the kernel logs were polluted by one of the interfaces flapping, I thought it was just a bug. Instead, I went ahead and checked for updates, my first mistake.
+
+My OPNsense instance was in version 25.1, and the newer 25.7 was available. Let's upgrade it, yay!
+
+The upgrade rolled out successfully, but something was wrong. When I tried to look for any update, I saw a corruption in `pkg`, the package manager database:
+```
+pkg: sqlite error while executing iterator in file pkgdb_iterator.c:1110: database disk image is malformed
+```
+
+🚨 My internal alarm sensor triggered, I wondered about backups, I immediately decided to download the latest backup:
+![Backup configuration in OPNsense](images/opnsense-download-backup.png)
+
+Clicking the `Download configuration` button, I downloaded the current `config.xml` in use my the instance, I though it was enough.
+
+## Filesystem Corruption
+
+I decided to recover the pkg database the worst possible way, I backed up the `/var/db/pkg` folder and I tried to `bootstrap` it:
+```bash
+cp -a /var/db/pkg /var/db/pkg.bak
+pkg bootstrap -f
+```
+```
+The package management tool is not yet installed on your system.
+Do you want to fetch and install it now? [y/N]: y
+Bootstrapping pkg from https://pkg.opnsense.org/FreeBSD:14:amd64/25.7/latest, please wait...
+[...]
+pkg-static: Fail to extract /usr/local/lib/libpkg.a from package: Write error
+Failed to install the following 1 package(s): /tmp//pkg.pkg.scQnQs
+[...]
+A pre-built version of pkg could not be found for your system.
+```
+
+I saw a `Write error`, I suspect a filesystem problem, I run a check on `fsck`, the output was a flood of inconsistencies:
+```bash
+fsck -n
+```
+```
+[...]
+INCORRECT BLOCK COUNT I=13221121 (208384 should be 208192)
+INCORRECT BLOCK COUNT I=20112491 (8 should be 0)
+INCORRECT BLOCK COUNT I=20352874 (570432 should be 569856)
+[...]
+FREE BLK COUNT(S) WRONG IN SUPERBLK
+[...]
+SUMMARY INFORMATION BAD
+[...]
+BLK(S) MISSING IN BIT MAPS
+[...]
+***** FILE SYSTEM IS LEFT MARKED AS DIRTY *****
+```
+
+The root filesystem was in bad shape.
+
+Since I only had SSH at this point and no console access, I set up a forced `fsck` for next reboot:
+```bash
+sysrc fsck_y_enable="YES"
+sysrc background_fsck="NO"
+reboot
+```
+
+On the next boot, the filesystem was repaired enough to let me bootstrap `pkg` again, but most of the system packages were gone. My earlier upgrade while the disk was dirty had left me with a half-installed, half-missing software.
+
+## When Things Got Worse
+
+I discovered the utility `opnsense-bootstrap`, which promises to reinstall all packages and reset the system to a clean release, exactly what I was looking for:
+- Remove all installed packages.
+- Fresh 25.7 base system and kernel will be downloaded and installed.
+- All standard OPNsense packages will be reinstalled.
+
+Wonderful!
+```
+opnsense-bootstrap
+```
+```
+This utility will attempt to turn this installation into the latest OPNsense 25.7 release. All packages will be deleted, the base system and kernel will be replaced, and if all went well the system will automatically reboot. Proceed with this action? [y/N]:
+```
+
+I pressed `y`. This started well, but then... no more signal -> no more internet. I thought this bootstrap would save me. Instead, it buried me.
+
+🙈 Oops.
+
+After a while, I tried to reboot, but impossible to connect back via SSH. No other solution, I had to remove the router from the rack, put it on my desk and plug it a screen and a keyboard to see what is going on.
+
+## Starting Over the Hard Way
+
+This was bad:
+```
+Fatal error: Uncaught Error: Class "OPNsense\Core\Config" not found
+in /usr/local/etc/inc/config.inc:143
+```
+
+Checking the bootstrap logs, this was even worse:
+```
+bad dir ino … mangled entry
+Input/output error
+```
+
+The disk is in a bad shape, at this point, I couldn’t save the install anymore. Time to start from scratch. Luckily, I had a backup… right?
+
+I downloaded the latest OPNsense ISO (v25.7) and put it into a USB stick. I reinstall OPNsense and overwrite the current installation, I kept everything as default.
+
+## The Lifesaver: `config.xml`
+
+OPNsense keeps the whole configuration in a single file: `/conf/config.xml`. That file was my lifeline.
+
+I copied the `config.xml`file saved earlier into the USB stick. When plugged into the fresh OPNsense box, I overwrite the file:
+```bash
+mount -t msdosfs /dev/da0s1 /mnt
+cp /mnt/config.xml /conf/config.xml
+```
+
+I placed the router back in the rack, powered it on and crossed my fingers... *beep!* 🎉
+
+The DHCP gave me an address, good start. I could reach its URL, awesome. My configuration is here, almost everything but the plugins, as expected. I can't install them right away because they need another update, let's update it!
+
+This single XML file is the reason I could rebuild my router without losing my sanity
+
+DNS is KO because the AdGuard Home plugin is not installed, I temporary set the system DNS to `1.1.1.1`
+
+## The Last Breath
+
+During that upgrade, the system threw errors again… and then rebooted itself. Another crash, not turning back on...
+
+I can officially say that my NVMe drive is dead.
+
+🪦 Rest in peace, thank you for your great services.
+
+Luckily, I had a spare 512GB Kingston NVMe that came with that box. I never used it because I preferred to reuse the one inside my *Vertex* server.
+
+I redo the same steps to reinstall OPNsense on that disk and this time everything worked: I could finally update OPNsense to 25.7.1 and reinstall all the official plugins that I was using. 
+
+To install custom plugins (AdGuard Home and Unifi), I had to add the custom repository in `/usr/local/etc/pkg/repos/mimugmail.conf` (documentation [here](https://www.routerperformance.net/opnsense-repo/)) 
+```json
+mimugmail: {
+  url: "https://opn-repo.routerperformance.net/repo/${ABI}",
+  priority: 5,
+  enabled: yes
+}
+```
+
+After a final reboot, the router is almost ready, but I still don't have DNS services. This is because AdGuard Home is not configured.
+
+⚠️ Custom plugin configuration is not saved within the backup in `config.xml`.
+
+Reconfigure AdGuard Home is pretty straight forward, finally my DNS is working and everything is back to nominal... except the UniFi controller.
+
+## Lessons Learned the Hard Way
+
+- **Backups matter**: I always found myself thinking backups are not relevant... until you need to restore and it's too late.
+- **Keep backups off the box**: I was lucky to get the `config.xml` before my disk die, I would have a really hard time to fully recover.
+- **Healthcheck after a crash**: Do not ignore a kernel panic.
+- **I/O errors = red flag**: I should have stopped trying to repair. I lost hours fighting a dead disk.
+- **Custom plugin configs aren’t include**d: OPNsense configuration and its official plugin are saved into the backups, this is not the case for the others.
+- **My router is a SPOF** (*single point of failure*): In my homelab, I wanted to have most of my elements highly available, I need to find a better solution.
+
+## Moving Forward
+
+I really need to think on my backup strategy. I'm too lazy and always keep it for later, until it is too late. It's been a long time since I've been struck by a hardware failure. When it strikes, it hurts.
+
+Initially I wanted my router to be in its own hardware because I thought it was safe, I was damn wrong. I will think on a solution to virtualize OPNsense in Proxmox to have it highly available, a great project in perspective!
+
+## Conclusion
+
+My OPNsense router went from a random reboot to a dead disk, with a rollercoaster of troubleshooting. In the end, I'm almost happy with what happened, it taught me more than any smooth upgrade ever could.
+
+If you run OPNsense (or any router), remember this:  
+**Keep a backup off the box.**
+
+Because when things go wrong, and eventually they will, that one little XML file can save your homelab.
+
+Stay safe, make backups.

content/post/11-proxmox-cluster-networking-sdn/index.fr.md

@@ -0,0 +1,148 @@
+---
+slug: proxmox-cluster-networking-sdn
+title: Simplifier la gestion des VLAN dans Proxmox VE avec le SDN
+description: Découvrez comment centraliser la configuration des VLAN dans Proxmox VE grâce aux zones SDN et aux VNets, pour un réseau plus simple et cohérent.
+date: 2025-09-12
+draft: false
+tags:
+  - proxmox
+categories:
+  - homelab
+---
+
+## Intro
+
+Quand j’ai construit mon cluster **Proxmox VE 8** pour la première fois, le réseau n’était pas ma priorité. Je voulais simplement remplacer rapidement un vieux serveur physique, alors j’ai donné la même configuration de base à chacun de mes trois nœuds, créé le cluster et commencé à créer des VM :  
+![Configuration réseau d’un nœud Proxmox](images/proxmox-node-network-configuration.png)
+
+Cela a bien fonctionné pendant un moment. Mais comme je prévois de virtualiser mon routeur **OPNsense**, j’ai besoin de quelque chose de plus structuré et cohérent. C’est là que la fonctionnalité **S**oftware-**D**efined **N**etworking (SDN) de Proxmox entre en jeu.
+
+---
+## Mon Réseau Homelab
+
+Par défaut, chaque nœud Proxmox dispose de sa propre zone locale, appelée `localnetwork`, qui contient le pont Linux par défaut (`vmbr0`) comme VNet :  
+![Zones `localnetwork` par défaut dans Proxmox](images/proxmox-default-localnetwork-zone.png)
+
+C’est suffisant pour des configurations isolées, mais rien n’est coordonné au niveau du cluster.
+
+Mon objectif est simple : déclarer les VLAN que j’utilise déjà dans mon réseau, afin de pouvoir y rattacher des VM facilement depuis n’importe quel nœud.
+
+Voici la liste des VLAN que j’utilise actuellement :
+
+| Nom       | ID   | Usage                          |
+| --------- | ---- | ------------------------------ |
+| Mgmt      | 1    | Administration                 |
+| User      | 13   | Réseau domestique              |
+| IoT       | 37   | IoT et équipements non fiables |
+| DMZ       | 55   | Services exposés à Internet    |
+| Lab       | 66   | Réseau de lab                  |
+| Heartbeat | 77   | Heartbeat du cluster Proxmox   |
+| Ceph      | 99   | Stockage Ceph                  |
+| VPN       | 1337 | Réseau WireGuard               |
+
+---
+## Aperçu du SDN Proxmox
+
+Le Software-Defined Networking de Proxmox permet de définir des zones et réseaux virtuels à l’échelle du cluster. Au lieu de répéter la configuration des VLAN sur chaque nœud, le SDN offre une vue centralisée et assure la cohérence.
+
+En interne, Proxmox repose essentiellement sur les fonctionnalités réseau standard de Linux, ce qui évite d’ajouter des dépendances externes et garantit la stabilité.
+
+Les configurations SDN sont stockées dans `/etc/pve/sdn` et répliquées sur l’ensemble du cluster. Les changements sont appliqués de manière atomique (on prépare les modifications puis on clique sur `Apply`), ce qui rend les déploiements plus sûrs.
+
+### Zones
+
+Une **Zone** définit un domaine réseau séparé. Les zones peuvent couvrir certains nœuds et contenir des **VNets**.
+
+Proxmox prend en charge plusieurs types de zones :
+- **Simple** : pont isolé (bridge) avec routage L3/NAT
+- **VLAN** : segmentation classique via VLAN
+- **QinQ** : empilement de VLAN (IEEE 802.1ad)
+- **VXLAN** : réseau L2 via encapsulation UDP
+- **EVPN** : VXLAN avec BGP pour du routage L3 dynamique
+
+Comme mon réseau domestique utilise déjà des VLAN, j’ai créé une **zone VLAN** appelée `homelan`, en utilisant `vmbr0` comme pont et en l’appliquant à tout le cluster :  
+![Création d’une zone VLAN dans Proxmox SDN](images/proxmox-create-vlan-zone-homelan.png)
+
+### VNets
+
+Un **VNet** est un réseau virtuel à l’intérieur d’une zone. Dans une zone VLAN, chaque VNet correspond à un ID VLAN spécifique.
+
+J’ai commencé par créer `vlan55` dans la zone `homelan` pour mon réseau DMZ :  
+![Création d’un VNet pour le VLAN 55 dans la zone homelan](images/proxmox-create-vlan-vnet-homelan.png)
+
+Puis j’ai ajouté les VNets correspondant à la plupart de mes VLAN, puisque je prévois de les rattacher à une VM OPNsense :  
+![Tous mes VLANs créés dans le Proxmox SDN](images/proxmox-sdn-all-vlan-homelan.png)
+
+Enfin, j’ai appliqué la configuration dans **Datacenter → SDN** :  
+![Application de la configuration SDN dans Proxmox](images/proxmox-apply-sdn-homelan-configuration.png)
+
+---
+## Test de la Configuration Réseau
+
+Dans une vieille VM que je n'utilise plus, je remplace l'actuel `vmbr0` avec le VLAN tag 66 par mon nouveau VNet `vlan66`:
+![Changement du pont réseau dans une VM](images/proxmox-change-vm-nic-vlan-vnet.png)
+
+Après l'avoir démarrée, la VM obtient une IP du DHCP d'OPNsense sur ce VLAN, ce qui est super. J'essaye également de ping une autre machine et ça fonctionne :
+![Ping d’une autre machine dans le même VLAN](images/proxmox-console-ping-vm-vlan-66.png)
+
+---
+## Mise à jour de Cloud-Init et Terraform
+
+Pour aller plus loin, j’ai mis à jour le pont réseau utilisé dans mon **template cloud-init**, dont j'avais détaillé la création dans [cet article]({{< ref "post/1-proxmox-cloud-init-vm-template" >}}).  
+Comme avec la VM précédente, j’ai remplacé `vmbr0` et le tag VLAN 66 par le nouveau VNet `vlan66`.
+
+J’ai aussi adapté mon code **Terraform** pour refléter ce changement :  
+![Mise à jour du code Terraform pour vlan66](images/terraform-code-update-vlan66.png)
+
+Ensuite, j’ai validé qu’aucune régression n’était introduite en déployant une VM de test :
+```bash
+terraform apply -var 'vm_name=vm-test-vnet'
+```
+```plaintext
+data.proxmox_virtual_environment_vms.template: Reading...
+data.proxmox_virtual_environment_vms.template: Read complete after 0s [id=23b17aea-d9f7-4f28-847f-41bb013262ea]
+[...]
+Plan: 2 to add, 0 to change, 0 to destroy.
+
+Changes to Outputs:
+  + vm_ip = (known after apply)
+
+Do you want to perform these actions?
+  Terraform will perform the actions described above.
+  Only 'yes' will be accepted to approve.
+
+  Enter a value: yes
+
+proxmox_virtual_environment_file.cloud_config: Creating...
+proxmox_virtual_environment_file.cloud_config: Creation complete after 1s [id=local:snippets/vm.cloud-config.yaml]
+proxmox_virtual_environment_vm.vm: Creating...
+proxmox_virtual_environment_vm.vm: Still creating... [10s elapsed]
+[...]
+proxmox_virtual_environment_vm.vm: Still creating... [3m0s elapsed]
+proxmox_virtual_environment_vm.vm: Creation complete after 3m9s [id=119]
+
+Apply complete! Resources: 2 added, 0 changed, 0 destroyed.
+
+Outputs:
+
+vm_ip = "192.168.66.181"
+```
+
+La création s’est déroulée sans problème, tout est bon :
+![VM déployée par Terraform sur vlan66](images/proxmox-terraform-test-deploy-vlan66.png)
+
+---
+## Conclusion
+
+La mise en place du SDN Proxmox avec une **zone VLAN** est simple et très pratique. Au lieu de définir manuellement un VLAN sur chaque VM, je sélectionne désormais directement le bon VNet, et tout reste cohérent dans le cluster.
+
+| Étape                | Avant SDN                     | Après SDN                           |
+| -------------------- | ----------------------------- | ----------------------------------- |
+| Rattacher une VM     | `vmbr0` + tag VLAN manuel     | Sélection du VNet approprié         |
+| VLANs sur les nœuds  | Config répété sur chaque nœud | Centralisé via le SDN du cluster    |
+| Gestion des adresses | Manuel ou via DHCP uniquement | IPAM optionnel via sous-réseaux SDN |
+
+Mon cluster est maintenant prêt à héberger mon **routeur OPNsense**, et cette base ouvre la voie à d’autres expérimentations, comme les overlays VXLAN ou l’EVPN avec BGP.
+
+À suivre pour la prochaine étape !
+

content/post/11-proxmox-cluster-networking-sdn/index.md

@@ -0,0 +1,148 @@
+---
+slug: proxmox-cluster-networking-sdn
+title: Simplifying VLAN Management in Proxmox VE with SDN
+description: Learn how to centralize VLAN configuration in Proxmox VE using SDN zones and VNets, making VM networking easier and more consistent.
+date: 2025-09-12
+draft: false
+tags:
+  - proxmox
+categories:
+  - homelab
+---
+
+## Intro
+
+When I first built my **Proxmox VE 8** cluster, networking wasn’t my main concern. I just wanted to replace an old physical server quickly, so I gave each of my three nodes the same basic config, created the cluster, and started running VMs:
+![Proxmox node network configuration](images/proxmox-node-network-configuration.png)
+
+That worked fine for a while. But as I plan to virtualize my **OPNsense** router, I need something more structured and consistent. This is where Proxmox **S**oftware-**D**efined **N**etworking (SDN) feature comes in.
+
+---
+## My Homelab Network
+
+By default, every Proxmox node comes with its own local zone, called `localnetwork`, which contains the default Linux bridge (`vmbr0`) as a VNet:
+![Proxmox default `localnetwork` zones](images/proxmox-default-localnetwork-zone.png)
+
+That’s fine for isolated setups, but at the cluster level nothing is coordinated.
+
+What I want is simple: declare the VLANs I already use in my network, so I can attach VMs to them easily from any node.
+
+Here’s the list of VLANs I use today:
+
+| Name      | ID   | Purpose                      |
+| --------- | ---- | ---------------------------- |
+| Mgmt      | 1    | Management                   |
+| User      | 13   | Home network                 |
+| IoT       | 37   | IoT and untrusted equipments |
+| DMZ       | 55   | Internet facing              |
+| Lab       | 66   | Lab network                  |
+| Heartbeat | 77   | Proxmox cluster heartbeat    |
+| Ceph      | 99   | Ceph storage                 |
+| VPN       | 1337 | Wireguard network            |
+
+---
+## Proxmox SDN Overview
+
+Proxmox Software-Defined Networking makes it possible to define cluster-wide virtual zones and networks. Instead of repeating VLAN configs on every node, SDN gives you a central view and ensures consistency.
+
+Under the hood, Proxmox mostly uses standard Linux networking, avoiding extra dependencies and keeping things stable.
+
+SDN configurations are stored in `/etc/pve/sdn`, which is replicated across the cluster. Changes are applied atomically (you prepare them, then hit `Apply` once), making rollouts safer.
+
+### Zones
+
+A **Zone** defines a separate networking domain. Zones can span specific nodes and contain **VNets**.
+
+Proxmox supports several zone types:
+- **Simple**: Isolated Bridge. A simple layer 3 routing bridge (NAT)
+- **VLAN**: Virtual LANs are the classic method of subdividing a LAN
+- **QinQ**: Stacked VLAN (IEEE 802.1ad)
+- **VXLAN**: Layer 2 VXLAN network via a UDP tunnel
+- **EVPN**: VXLAN with BGP to establish Layer 3 routing
+
+Since my home network already relies on VLANs, I created a **VLAN Zone** named `homelan`, using `vmbr0` as the bridge and applying it cluster-wide:
+![Create a VLAN zone in the Proxmox SDN](images/proxmox-create-vlan-zone-homelan.png)
+
+### VNets
+
+A **VNet** is a virtual network inside a zone. In a VLAN zone, each VNet corresponds to a specific VLAN ID.
+
+I started by creating `vlan55` in the `homelan` zone for my DMZ network:
+![Create a VNet for VLAN 55 in the homelan zone](images/proxmox-create-vlan-vnet-homelan.png)
+
+Then I added VNets for most of my VLANs, since I plan to attach them to an OPNsense VM:
+![All my VLANs created in the Proxmox SDN](images/proxmox-sdn-all-vlan-homelan.png)
+
+Finally, I applied the configuration in **Datacenter → SDN**:
+![Apply SDN configuration in Proxmox](images/proxmox-apply-sdn-homelan-configuration.png)
+
+---
+## Test the Network Configuration
+
+In a old VM which I don't use anymore, I replace the current `vmbr0` with VLAN tag 66 to my new VNet `vlan66`:
+![Change the network bridge in a VM](images/proxmox-change-vm-nic-vlan-vnet.png)
+
+After starting it, the VM gets an IP from the DHCP on OPNsense on that VLAN, which sounds good. I also try to ping another machine and it works:
+![Ping another machine in the same VLAN](images/proxmox-console-ping-vm-vlan-66.png)
+
+---
+## Update Cloud-Init Template and Terraform
+
+To go further, I update the bridge used in my **cloud-init** template, which I detailed the creation in that [post]({{< ref "post/1-proxmox-cloud-init-vm-template" >}}). Pretty much the same thing I've done with the VM, I replace the current `vmbr0` with VLAN tag 66 with my new VNet `vlan66`.
+
+I also update the **Terrafom** code to take this change into account:
+![Terraform code change for the vlan66](images/terraform-code-update-vlan66.png)
+
+I quicky check if I don't have regression and can still deploy a VM with Terraform:
+```bash
+terraform apply -var 'vm_name=vm-test-vnet'
+```
+```plaintext
+data.proxmox_virtual_environment_vms.template: Reading...
+data.proxmox_virtual_environment_vms.template: Read complete after 0s [id=23b17aea-d9f7-4f28-847f-41bb013262ea]
+[...]
+Plan: 2 to add, 0 to change, 0 to destroy.
+
+Changes to Outputs:
+  + vm_ip = (known after apply)
+
+Do you want to perform these actions?
+  Terraform will perform the actions described above.
+  Only 'yes' will be accepted to approve.
+
+  Enter a value: yes
+
+proxmox_virtual_environment_file.cloud_config: Creating...
+proxmox_virtual_environment_file.cloud_config: Creation complete after 1s [id=local:snippets/vm.cloud-config.yaml]
+proxmox_virtual_environment_vm.vm: Creating...
+proxmox_virtual_environment_vm.vm: Still creating... [10s elapsed]
+[...]
+proxmox_virtual_environment_vm.vm: Still creating... [3m0s elapsed]
+proxmox_virtual_environment_vm.vm: Creation complete after 3m9s [id=119]
+
+Apply complete! Resources: 2 added, 0 changed, 0 destroyed.
+
+Outputs:
+
+vm_ip = "192.168.66.181"
+```
+
+The VM is deploying without any issue, everything is OK:
+![VM hardware in Proxmox deployed by Terraform](images/proxmox-terraform-test-deploy-vlan66.png)
+
+---
+## Conclusion
+
+Setting up Proxmox SDN with a **VLAN zone** turned out to be straightforward and very useful. Instead of tagging VLANs manually per VM, I now just pick the right VNet, and everything stays consistent across the cluster.
+
+| Step              | Before SDN                      | After SDN                      |
+| ----------------- | ------------------------------- | ------------------------------ |
+| Attach VM to VLAN | `vmbr0` + set VLAN tag manually | Select the right VNet directly |
+| VLANs on nodes    | Repeated config per node        | Centralized in cluster SDN     |
+| IP management     | Manual or DHCP only             | Optional IPAM via SDN subnets  |
+
+This prepares my cluster to host my **OPNsense router**, and it also sets the stage for future experiments, like trying out VXLAN overlays or EVPN with BGP.
+
+See you next time for the next step!
+
+

content/post/12-opnsense-virtualization-highly-available/index.fr.md

@@ -0,0 +1,281 @@
+---
+slug: opnsense-virtualization-highly-available
+title: Construire un Cluster OPNsense Hautement Disponible sur Proxmox VE
+description: Une preuve de concept montrant comment virtualiser OPNsense sur Proxmox VE, configurer la haute disponibilité avec CARP et pfSync, et gérer une seule IP WAN.
+date: 2025-09-29
+draft: false
+tags:
+  - opnsense
+  - proxmox
+  - high-availability
+categories:
+  - homelab
+---
+## Intro
+
+J’ai récemment rencontré mon premier vrai problème, ma box **OPNsense** physique a planté à cause d’un _kernel panic_. J’ai détaillé ce qu'il s'est passé dans [cet article]({{< ref "post/10-opnsense-crash-disk-panic" >}}).
+
+Cette panne m’a fait repenser mon installation. Un seul pare-feu est un point de défaillance unique, donc pour améliorer la résilience j’ai décidé de prendre une nouvelle approche : **virtualiser OPNsense**.
+
+Évidemment, faire tourner une seule VM ne suffirait pas. Pour obtenir une vraie redondance, il me faut deux instances OPNsense en **Haute Disponibilité**, l’une active et l’autre en attente.
+
+Avant de déployer ça sur mon réseau, j’ai voulu valider l’idée dans mon homelab. Dans cet article, je vais détailler la preuve de concept : déployer deux VM OPNsense dans un cluster **Proxmox VE** et les configurer pour fournir un pare-feu hautement disponible.
+
+---
+## Infrastructure Actuelle
+
+Au sommet de mon installation, mon modem FAI, une _Freebox_ en mode bridge, relié directement à l’interface `igc0` de ma box OPNsense, servant d’interface **WAN**. Sur `igc1`, le **LAN** est connecté à mon switch principal via un port trunk, avec le VLAN 1 comme VLAN natif pour mon réseau de management.
+
+Ce switch relie également mes trois nœuds Proxmox, chacun sur un port trunk avec le même VLAN natif. Chaque nœud dispose de deux cartes réseau : une pour le trafic général, et l’autre dédiée au réseau de stockage Ceph, connecté à un switch séparé de 2,5 Gbps.
+
+Depuis le crash d’OPNsense, j’ai simplifié l’architecture en supprimant le lien LACP, qui n’apportait pas de réelle valeur :
+![Schéma réseau du homelab actuel](images/homelan-current-physical-layout.png)
+
+Jusqu’à récemment, le réseau Proxmox de mon cluster était très basique : chaque nœud était configuré individuellement sans véritable logique commune. Cela a changé après la découverte du SDN Proxmox, qui m’a permis de centraliser les définitions de VLAN sur l’ensemble du cluster. J’ai décrit cette étape dans [cet article]({{< ref "post/11-proxmox-cluster-networking-sdn" >}}).
+
+---
+## Preuve de Concept
+
+Place au lab. Voici les étapes principales :
+1. Ajouter quelques VLANs dans mon homelab
+2. Créer un faux routeur FAI
+3. Construire deux VMs OPNsense
+4. Configurer la haute disponibilité
+5. Tester la bascule
+
+![Schéma du POC pour OPNsense en haute disponibilité](images/poc-opnsense-diagram.png)
+
+### Ajouter des VLANs dans mon homelab
+
+Pour cette expérimentation, je crée trois nouveaux VLANs :
+- **VLAN 101** : _POC WAN_
+- **VLAN 102** : _POC LAN_
+- **VLAN 103** : _POC pfSync_
+
+Dans l’interface Proxmox, je vais dans `Datacenter` > `SDN` > `VNets` et je clique sur `Create` :
+![Création des VLANs POC dans le SDN Proxmox](images/proxmox-sdn-create-poc-vlans.png)
+
+Une fois les trois VLANs créés, j’applique la configuration.
+
+J’ajoute ensuite ces trois VLANs dans mon contrôleur UniFi. Ici, seul l’ID et le nom sont nécessaires, le contrôleur se charge de les propager via les trunks connectés à mes nœuds Proxmox VE.
+
+### Créer une VM “Fausse Box FAI”
+
+Pour simuler mon modem FAI actuel, j’ai créé une VM appelée `fake-freebox`. Cette VM route le trafic entre les réseaux _POC WAN_ et _Lab_, et fait tourner un serveur DHCP qui ne délivre qu’un seul bail, exactement comme ma vraie Freebox en mode bridge.
+
+Cette VM dispose de 2 cartes réseau, que je configure avec Netplan :
+- `eth0` (_POC WAN_ VLAN 101) : adresse IP statique `10.101.0.254/24`
+- `enp6s19` (Lab VLAN 66) : adresse IP obtenue en DHCP depuis mon routeur OPNsense actuel, en amont
+```yaml
+network:
+  version: 2
+  ethernets:
+    eth0:
+      addresses:
+        - 10.101.0.254/24
+    enp6s19:
+      dhcp4: true
+```
+
+J’active ensuite le routage IP pour permettre à cette VM de router le trafic :
+```bash
+echo "net.ipv4.ip_forward=1" | sudo tee -a /etc/sysctl.conf
+sudo sysctl -p
+```
+
+Puis je configure du masquage (NAT) afin que les paquets sortant via le réseau Lab ne soient pas rejetés par mon OPNsense actuel :
+```bash
+sudo iptables -t nat -A POSTROUTING -o enp6s19 -j MASQUERADE
+sudo apt install iptables-persistent -y
+sudo netfilter-persistent save
+```
+
+J’installe `dnsmasq` comme serveur DHCP léger :
+```bash
+sudo apt install dnsmasq -y
+```
+
+Dans `/etc/dnsmasq.conf`, je configure un bail unique (`10.101.0.150`) et je pointe le DNS vers mon OPNsense actuel, sur le VLAN _Lab_ :
+```
+interface=eth0
+bind-interfaces
+dhcp-range=10.101.0.150,10.101.0.150,255.255.255.0,12h
+dhcp-option=3,10.101.0.254      # default gateway = this VM
+dhcp-option=6,192.168.66.1      # DNS server  
+```
+
+Je redémarre le service `dnsmasq` pour appliquer la configuration :
+```bash
+sudo systemctl restart dnsmasq
+```
+
+La VM `fake-freebox` est maintenant prête à fournir du DHCP sur le VLAN 101, avec un seul bail disponible.
+
+### Construire les VMs OPNsense
+
+Je commence par télécharger l’ISO d’OPNsense et je l’upload sur un de mes nœuds Proxmox :  
+![Upload de l’ISO OPNsense dans Proxmox](images/proxmox-upload-opnsense-iso.png)
+
+#### Création de la VM
+
+Je crée la première VM `poc-opnsense-1` avec les paramètres suivants :
+- Type d’OS : Linux (même si OPNsense est basé sur FreeBSD)
+- Type de machine : `q35`
+- BIOS : `OVMF (UEFI)`, stockage EFI sur mon pool Ceph
+- Disque : 20 Go sur Ceph
+- CPU/RAM : 2 vCPU, 2 Go de RAM
+- Cartes réseau :
+    1. VLAN 101 (_POC WAN_)
+    2. VLAN 102 (_POC LAN_)
+    3. VLAN 103 (_POC pfSync_)
+![Paramètres de la VM OPNsense dans Proxmox](images/proxmox-create-poc-vm-opnsense.png)
+
+ℹ️ Avant de la démarrer, je clone cette VM pour préparer la seconde : `poc-opnsense-2`
+
+Au premier démarrage, je tombe sur une erreur “access denied”. Pour corriger, j’entre dans le BIOS, **Device Manager > Secure Boot Configuration**, je décoche _Attempt Secure Boot_ et je redémarre :  
+![Désactiver Secure Boot dans le BIOS de Proxmox](images/proxmox-disable-secure-boot-option.png)
+
+#### Installation d’OPNsense
+
+La VM démarre sur l’ISO, je ne touche à rien jusqu’à l’écran de login :  
+![Écran de login OPNsense en mode LiveCD](images/opnsense-vm-installation-welcome.png)
+
+Je me connecte avec `installer` / `opnsense` et je lance l’installateur. Je sélectionne le disque QEMU de 20 Go comme destination et je démarre l’installation :  
+![Barre de progression de l’installation OPNsense](images/opnsense-vm-installation-progress-bar.png)
+
+Une fois terminé, je retire l’ISO du lecteur et je redémarre la machine.
+
+#### Configuration de Base d’OPNsense
+
+Au redémarrage, je me connecte avec `root` / `opnsense` et j’arrive au menu CLI :  
+![Menu CLI après une installation fraîche d’OPNsense](images/opnsense-vm-installation-cli-menu.png)
+
+Avec l’option 1, je réassigne les interfaces :  
+![Configuration des interfaces dans OPNsense via le CLI](images/opnsense-vm-installation-assign-interfaces.png)
+
+L’interface WAN récupère bien `10.101.0.150/24` depuis la `fake-freebox`. Je configure le LAN sur `10.102.0.2/24` et j’ajoute un pool DHCP de `10.102.0.10` à `10.102.0.99` :  
+![Interface WAN OPNsense recevant une IP depuis la VM `fake-freebox`](images/opnsense-vm-installation-interfaces-configured.png)
+
+✅ La première VM est prête, je reproduis l’opération pour la seconde OPNsense `poc-opnsense-2`, qui aura l’IP `10.102.0.3`.
+
+### Configurer OPNsense en Haute Disponibilité
+
+Avec les deux VMs OPNsense opérationnelles, il est temps de passer à la configuration via le WebGUI. Pour y accéder, j’ai connecté une VM Windows au VLAN _POC LAN_ et ouvert l’IP de l’OPNsense sur le port 443 :  
+![OPNsense WebGUI depuis une VM Windows](images/opnsense-vm-webgui-from-poc-lan.png)
+
+#### Ajouter l’Interface pfSync
+
+La troisième carte réseau (`vtnet2`) est assignée à l’interface _pfSync_. Ce réseau dédié permet aux deux firewalls de synchroniser leurs états via le VLAN _POC pfSync_ :  
+![Ajouter l’interface pfSync dans OPNsense](images/opnsense-vm-assign-pfsync-interface.png)
+
+J’active l’interface sur chaque instance et je leur attribue une IP statique :
+- **poc-opnsense-1** : `10.103.0.2/24`
+- **poc-opnsense-2** : `10.103.0.3/24`
+
+Puis, j’ajoute une règle firewall sur chaque nœud pour autoriser tout le trafic provenant de ce réseau sur l’interface _pfSync_ :  
+![Règle firewall pour autoriser tout le trafic pfSync](images/opnsense-vm-firewall-allow-pfsync.png)
+
+#### Configurer la Haute Disponibilité
+
+Direction `System` > `High Availability` > `Settings`.
+- Sur le master (`poc-opnsense-1`), je configure les `General Settings` et les `Synchronization Settings`.
+- Sur le backup (`poc-opnsense-2`), seuls les `General Settings` suffisent (on ne veut pas qu’il écrase la config du master).  
+![Paramètres de Haute Disponibilité dans OPNsense](images/opnsense-vm-high-availability-settings.png)
+
+Une fois appliqué, je vérifie la synchro dans l’onglet `Status` :  
+![Statut de la Haute Disponibilité OPNsense](images/opnsense-vm-high-availability-status.png)
+
+#### Créer une IP Virtuelle
+
+Pour fournir une passerelle partagée aux clients, je crée une IP virtuelle (VIP) en **CARP** (Common Address Redundancy Protocol) sur l’interface LAN. L’IP est portée par le nœud actif et bascule automatiquement en cas de failover.
+
+Menu : `Interfaces` > `Virtual IPs` > `Settings` :  
+![Création d’une VIP CARP dans OPNsense](images/opnsense-vm-create-vip-carp.png)
+
+Je réplique ensuite la config depuis `System > High Availability > Status` avec le bouton `Synchronize and reconfigure all`.
+
+Sur `Interfaces > Virtual IPs > Status`, le master affiche la VIP en `MASTER` et le backup en `BACKUP`.
+
+#### Reconfigurer le DHCP
+
+Pour la HA, il faut adapter le DHCP. Comme **Dnsmasq** ne supporte pas la synchro des baux, chaque instance doit répondre indépendamment.
+
+Sur le master :
+- `Services` > `Dnsmasq DNS & DHCP` > `General` : cocher `Disable HA sync`
+- `DHCP ranges` : cocher aussi `Disable HA sync`
+- `DHCP options` : ajouter l’option `router [3]` avec la valeur `10.102.0.1` (VIP LAN)
+- `DHCP options` : cloner la règle pour `dns-server [6]` vers la même VIP.  
+![Options DHCP dans Dnsmasq](images/opnsense-vm-dnsmasq-add-option.png)
+
+Sur le backup :
+- `Services` > `Dnsmasq DNS & DHCP` > `General` : cocher `Disable HA sync`
+- Régler `DHCP reply delay` à `5` secondes (laisser la priorité au master)
+- `DHCP ranges` : définir un autre pool, plus petit (`10.102.0.200 -> 220`).
+
+Ainsi, seules les **options** DHCP sont synchronisées, les plages restant distinctes.
+
+#### Interface WAN
+
+Mon modem FAI n’attribue qu’une seule IP en DHCP, je ne veux pas que mes 2 VMs entrent en compétition. Pour gérer ça :
+1. Dans Proxmox, je copie l’adresse MAC de `net0` (WAN) de `poc-opnsense-1` et je l’applique à `poc-opnsense-2`. Ainsi, le bail DHCP est partagé.  
+⚠️ Si les deux VMs activent la même MAC en même temps, cela provoque des conflits ARP et peut casser le réseau. Seul le MASTER doit activer son WAN.
+2. Un hook event CARP procure la possibilité de lancer des scripts. J’ai déployé ce [script Gist](https://gist.github.com/spali/2da4f23e488219504b2ada12ac59a7dc#file-10-wancarp) dans `/usr/local/etc/rc.syshook.d/carp/10-wan` sur les deux nœuds. Ce script active le WAN uniquement sur le MASTER.
+```php
+#!/usr/local/bin/php
+<?php
+
+require_once("config.inc");
+require_once("interfaces.inc");
+require_once("util.inc");
+require_once("system.inc");
+
+$subsystem = !empty($argv[1]) ? $argv[1] : '';
+$type = !empty($argv[2]) ? $argv[2] : '';
+
+if ($type != 'MASTER' && $type != 'BACKUP') {
+    log_error("Carp '$type' event unknown from source '{$subsystem}'");
+    exit(1);
+}
+
+if (!strstr($subsystem, '@')) {
+    log_error("Carp '$type' event triggered from wrong source '{$subsystem}'");
+    exit(1);
+}
+
+$ifkey = 'wan';
+
+if ($type === "MASTER") {
+    log_error("enable interface '$ifkey' due CARP event '$type'");
+    $config['interfaces'][$ifkey]['enable'] = '1';
+    write_config("enable interface '$ifkey' due CARP event '$type'", false);
+    interface_configure(false, $ifkey, false, false);
+} else {
+    log_error("disable interface '$ifkey' due CARP event '$type'");
+    unset($config['interfaces'][$ifkey]['enable']);
+    write_config("disable interface '$ifkey' due CARP event '$type'", false);
+    interface_configure(false, $ifkey, false, false);
+}
+```
+
+### Tester le Failover
+
+Passons aux tests !
+
+OPNsense propose un _CARP Maintenance Mode_. Avec le master actif, seul lui avait son WAN monté. En activant le mode maintenance, les rôles basculent : le master devient backup, son WAN est désactivé et celui du backup est activé :  
+![Mode maintenance CARP dans OPNsense](images/opnsense-vm-carp-status.png)
+
+Pendant mes pings vers l’extérieur, aucune perte de paquets au moment du basculement.
+
+Ensuite, j’ai simulé un crash en éteignant le master. Le backup a pris le relais de façon transparente, seulement un paquet perdu, et grâce à la synchro des états, même ma session SSH est restée ouverte. 🎉
+
+## Conclusion
+
+Cette preuve de concept démontre qu’il est possible de faire tourner **OPNsense en haute dispo sous Proxmox VE**, même avec une seule IP WAN. Les briques nécessaires :
+- Segmentation VLAN
+- Réseau dédié pfSync
+- IP virtuelle partagée (CARP)
+- Script pour gérer l’interface WAN
+
+Le résultat est à la hauteur : failover transparent, synchro des états, et connexions actives qui survivent à un crash.  Le point le plus délicat reste la gestion du bail WAN, mais le hook CARP règle ce problème.
+
+🚀 Prochaine étape : préparer un nouveau cluster OPNsense HA sur Proxmox en vue de remplacer complètement ma box physique actuel. Restez à l'écoute !

content/post/12-opnsense-virtualization-highly-available/index.md

@@ -0,0 +1,283 @@
+---
+slug: opnsense-virtualization-highly-available
+title: Build a Highly Available OPNsense Cluster on Proxmox VE
+description: A proof of concept showing how to virtualize OPNsense on Proxmox VE, configure high availability with CARP and pfSync and handle a single WAN IP.
+date: 2025-09-29
+draft: false
+tags:
+  - opnsense
+  - proxmox
+  - high-availability
+categories:
+  - homelab
+---
+## Intro
+
+I recently encountered my first real problem, my physical **OPNsense** box crashed because of a kernel panic, I've detailed what happened in that [post]({{< ref "post/10-opnsense-crash-disk-panic" >}}). 
+
+That failure made me rethink my setup. A unique firewall is a single point of failure, so to improve resilience I decided to take a new approach: **virtualize OPNsense**.
+
+Of course, just running one VM wouldn’t be enough. To get real redundancy, I need two OPNsense instances in **High Availability**, with one active and the other standing by.
+
+Before rolling this out in my network, I wanted to demonstrate the idea in my homelab. In this post, I’ll walk through the proof of concept: deploying two OPNsense VMs inside a **Proxmox VE** cluster and configuring them to provide a highly available firewall.
+
+---
+## Current Infrastructure
+
+On top of my setup, my ISP modem, a *Freebox* in bridge mode, connects directly to the `igc0` interface of my OPNsense box, serving as the **WAN**. On `igc1`, the **LAN** is linked to my main switch using a trunk port, with VLAN 1 as the native VLAN for my management network.
+
+The switch also connects my three Proxmox nodes, each on trunk ports with the same native VLAN. Every node has two NICs: one for general networking and the other dedicated to the Ceph storage network, which runs through a separate 2.5 Gbps switch.
+
+Since the OPNsense crash, I’ve simplified things by removing the LACP link, it wasn’t adding real value:
+![Current homelab network diagram](images/homelan-current-physical-layout.png)
+
+
+Until recently, Proxmox networking on my cluster was very basic: each node was configured individually with no real overlay logic. That changed after I explored Proxmox SDN, where I centralized VLAN definitions across the cluster. I described that step in [this article]({{< ref "post/11-proxmox-cluster-networking-sdn" >}}).
+
+---
+## Proof of Concept
+
+Time to move into the lab. Here are the main steps:
+1. Add some VLANs in my Homelab
+2. Create Fake ISP router
+3. Build two OPNsense VMs
+4. Configure high availability
+5. Test failover
+
+![Diagram of the POC for OPNsense high availability](images/poc-opnsense-diagram.png)
+
+### Add VLANs in my Homelab
+
+For this experiment, I create 3 new VLANs:
+- **VLAN 101**: *POC WAN* 
+- **VLAN 102**: *POC LAN*
+- **VLAN 103**: *POC pfSync*
+
+In the Proxmox UI, I navigate to `Datacenter` > `SDN` > `VNets` and I click `Create`:
+![Create POC VLANs in the Proxmox SDN](images/proxmox-sdn-create-poc-vlans.png)
+
+Once the 3 new VLAN have been created, I apply the configuration.
+
+Additionally, I add these 3 VLANs in my UniFi Controller. Here only the VLAN ID and name are needed, since the controller will propagate them through the trunks connected to my Proxmox VE nodes.
+
+### Create “Fake ISP Box“ VM
+
+To simulate my current ISP modem, I built a VM named `fake-freebox`. This VM routes traffic between the *POC WAN* and *Lab* networks and runs a DHCP server that serves only one lease, just like my real Freebox in bridge mode.
+
+This VM has 2 NICs, I configure Netplan with:
+- `eth0` (*POC WAN* VLAN 101): static IP address `10.101.0.254/24`
+- enp6s19 (Lab VLAN 66): DHCP address given by my current OPNsense router, in upstream
+```yaml
+network:
+  version: 2
+  ethernets:
+    eth0:
+      addresses:
+        - 10.101.0.254/24
+    enp6s19:
+      dhcp4: true
+```
+
+I enable packet forward to allow this VM to route traffic:
+```bash
+echo "net.ipv4.ip_forward=1" | sudo tee -a /etc/sysctl.conf
+sudo sysctl -p
+```
+
+Then I set up masquerading so packets leaving through the lab network wouldn’t be dropped by my current OPNsense:
+```bash
+sudo iptables -t nat -A POSTROUTING -o enp6s19 -j MASQUERADE
+sudo apt install iptables-persistent -y
+sudo netfilter-persistent save
+```
+
+I install `dnsmasq` as a lightweight DHCP server:
+```bash
+sudo apt install dnsmasq -y
+```
+
+In `/etc/dnsmasq.conf`, I configure to serve exactly one lease (`10.101.0.150`) with DNS pointing to my current OPNsense router, in the *Lab* VLAN:
+```
+interface=eth0
+bind-interfaces
+dhcp-range=10.101.0.150,10.101.0.150,255.255.255.0,12h
+dhcp-option=3,10.101.0.254      # default gateway = this VM
+dhcp-option=6,192.168.66.1      # DNS server  
+```
+
+I restart the `dnsmasq` service to apply the configuration:
+```bash
+sudo systemctl restart dnsmasq
+```
+
+The `fake-freebox` VM is now ready to serve DHCP on VLAN 101 and serve only one lease.
+
+### Build OPNsense VMs
+
+First I download the OPNsense ISO and upload it to one of my Proxmox nodes:
+![Upload the OPNsense ISO into Proxmox](images/proxmox-upload-opnsense-iso.png)
+
+#### VM Creation
+
+I create the first VM `poc-opnsense-1`, with the following settings:
+- OS type: Linux (even though OPNsense is FreeBSD-based)
+- Machine type: `q35`
+- BIOS: `OVMF (UEFI)`, EFI storage on my Ceph pool
+- Disk: 20 GiB also on Ceph
+- CPU/RAM: 2 vCPU, 2 GiB RAM
+- NICs:
+	1. VLAN 101 (POC WAN)
+	2. VLAN 102 (POC LAN)
+	3. VLAN 103 (POC pfSync)
+![OPNsense VM settings in Proxmox](images/proxmox-create-poc-vm-opnsense.png)
+
+ℹ️ Before booting it, I clone this VM to prepare the second one: `poc-opnsense-2`
+
+On first boot, I hit an “access denied” error. To fix this, I enter the BIOS, go to **Device Manager > Secure Boot Configuration**, uncheck _Attempt Secure Boot_, and restart the VM:
+![Disable Secure Boot in Proxmox BIOS](images/proxmox-disable-secure-boot-option.png)
+
+#### OPNsense Installation
+
+The VM boots on the ISO, I touch nothing until I get into the login screen:
+![OPNsense CLI login screen in LiveCD](images/opnsense-vm-installation-welcome.png)
+
+I log in as `installer` / `opnsense` and launch the installer. I select the QEMU hard disk of 20GB as destination and launch the installation:
+![OPNsense installation progress bar](images/opnsense-vm-installation-progress-bar.png)
+
+Once the installation is finished, I remove the ISO from the drive and restart the machine.
+
+#### OPNsense Basic Configuration
+
+After reboot, I log in as `root` / `opnsense` and get into the CLI menu:
+![OPNsense CLI login screen after fresh installation](images/opnsense-vm-installation-cli-menu.png)
+
+Using option 1, I reassigned interfaces:
+![OPNsense interface configuration using CLI](images/opnsense-vm-installation-assign-interfaces.png)
+
+The WAN interface successfully pulled `10.101.0.150/24` from the `fake-freebox`. I set the LAN interface to `10.102.0.2/24` and configured a DHCP pool from `10.102.0.10` to `10.102.0.99`:
+![OPNsense WAN interface getting IP from `fake-freebox` VM](images/opnsense-vm-installation-interfaces-configured.png)
+
+✅ The first VM is ready, I start over for the second OPNsense VM, `poc-opnsense-2` which will have the IP `10.102.0.3`
+
+### Configure OPNsense Highly Available
+
+With both OPNsense VMs operational, it’s time to configure them from the WebGUI. To access the interface, I connected a Windows VM into the _POC LAN_ VLAN and browsed to the OPNsense IP on port 443:
+![OPNsense WebGUI from Windows VM](images/opnsense-vm-webgui-from-poc-lan.png)
+
+#### Add pfSync Interface
+
+The third NIC (`vtnet2`) is assigned to the _pfSync_ interface. This dedicated network allows the two firewalls to synchronize states on the VLAN *POC pfSync*:
+![Add pfSync interface in OPNsense](images/opnsense-vm-assign-pfsync-interface.png)
+
+I enable the interface on each instance and configure it with a static IP address:
+- **poc-opnsense-1**: `10.103.0.2/24`
+- **poc-opnsense-2**: `10.103.0.3/24`
+
+Then, I add a firewall rule on each node to allow all traffic coming from this network on that *pfSync* interface:
+![Create new firewall rule on pfSync interface to allow any traffic in that network](images/opnsense-vm-firewall-allow-pfsync.png)
+
+#### Setup High Availability
+
+Next, in `System` > `High Availability` > `Settings`.
+- On the master (`poc-opnsense-1`), I configure both the `General Settings` and the `Synchronization Settings`.
+- On the backup (`poc-opnsense-2`), only `General Settings` are needed, you don't want your backup overwrite the master config.
+![OPNsense High Availability settings](images/opnsense-vm-high-availability-settings.png)
+
+Once applied, I verify synchronization on the `Status` page:
+![OPNsense High Availability status](images/opnsense-vm-high-availability-status.png)
+
+#### Create Virtual IP Address
+
+To provide a shared gateway for clients, I create a CARP Virtual IP (VIP) on the LAN interface. It is using the Common Address Redundancy Protocol. This IP is claimed by the active node and automatically fails over.
+
+Navigate to `Interfaces` > `Virtual IPs` > `Settings`:
+![Create CARP virtual IP in OPNsense](images/opnsense-vm-create-vip-carp.png)
+
+To replicate the config, I go to `System > High Availability > Status` and click the button next to `Synchronize and reconfigure all`.
+
+On the `Interfaces > Virtual IPs > Status` page, the master show the VIP as `MASTER`, while the backup report `BACKUP`.
+
+#### Reconfigure DHCP
+
+For HA, I need to adjust the DHCP setup. Since **Dnsmasq** does not support lease synchronization, both instances must serve leases independently.
+
+On the master:
+- `Services` > `Dnsmasq DNS & DHCP` > `General`: tick the `Disable HA sync` box. 
+- `DHCP ranges`: also tick the `Disable HA sync` box
+- `DHCP options`: add the option `router [3]` with the value `10.102.0.1` (LAN VIP)
+- `DHCP options`: clone the rule for `router [6]` pointing to the same VIP.
+![Edit DHCP options for Dnsmasq in OPNsense](images/opnsense-vm-dnsmasq-add-option.png)
+
+On the backup:
+- `Services` > `Dnsmasq DNS & DHCP` > `General`: also tick the `Disable HA sync` box
+- Set `DHCP reply delay` to `5` seconds, to give master priority to answer.
+- `DHCP ranges`: Use a different pool, smaller (`10.102.0.200` -> `220`)
+- but I also set the value `5` to `DHCP reply delay`. This would give enough time to the master node to provide a DHCP lease before the backup node. In `DHCP ranges`, I edit the current one and give a smaller pool, different than the master's. Here I also tick the `Disable HA sync` box.
+
+This way, only DHCP options sync between nodes, while lease ranges stay separate.
+
+#### WAN Interface
+
+My ISP modem only provides a single DHCP lease, I don't want my 2 VMs compete to claim it. To handle this:
+1. In Proxmox, I copy the MAC of the `net0` (WAN) interface from `poc-opnsense-1` and applied it to `poc-opnsense-2`. This way, the DHCP lease could be shared among the nodes.
+⚠️ If both VMs bring up the same MAC, it can cause ARP conflicts and break connectivity, only the MASTER should keep its WAN active.
+2. CARP event hook provides the possibility to run scripts, I deployed this [Gist script](https://gist.github.com/spali/2da4f23e488219504b2ada12ac59a7dc#file-10-wancarp) in `/usr/local/etc/rc.syshook.d/carp/10-wan` on both nodes. This ensures the WAN is active only on the MASTER, avoiding conflicts.
+```php
+#!/usr/local/bin/php
+<?php
+
+require_once("config.inc");
+require_once("interfaces.inc");
+require_once("util.inc");
+require_once("system.inc");
+
+$subsystem = !empty($argv[1]) ? $argv[1] : '';
+$type = !empty($argv[2]) ? $argv[2] : '';
+
+if ($type != 'MASTER' && $type != 'BACKUP') {
+    log_error("Carp '$type' event unknown from source '{$subsystem}'");
+    exit(1);
+}
+
+if (!strstr($subsystem, '@')) {
+    log_error("Carp '$type' event triggered from wrong source '{$subsystem}'");
+    exit(1);
+}
+
+$ifkey = 'wan';
+
+if ($type === "MASTER") {
+    log_error("enable interface '$ifkey' due CARP event '$type'");
+    $config['interfaces'][$ifkey]['enable'] = '1';
+    write_config("enable interface '$ifkey' due CARP event '$type'", false);
+    interface_configure(false, $ifkey, false, false);
+} else {
+    log_error("disable interface '$ifkey' due CARP event '$type'");
+    unset($config['interfaces'][$ifkey]['enable']);
+    write_config("disable interface '$ifkey' due CARP event '$type'", false);
+    interface_configure(false, $ifkey, false, false);
+}
+```
+
+### Test Failover
+
+Time for the real test!
+
+OPNsense provides a _CARP Maintenance Mode_. With the master active, WAN was enabled only on that node. Entering maintenance mode flipped the roles: the master became backup, its WAN disabled, while the backup enabled its WAN:
+![OPNsense CARP maintenance mode](images/opnsense-vm-carp-status.png)
+
+While pinging outside the network, I observed zero packet loss during the failover.
+
+Finally, I simulated a crash by powering off the master. The backup took over seamlessly, I saw only one dropped packet, and thanks to state synchronization, even my SSH session stayed alive. 🎉
+
+## Conclusion
+
+This proof of concept showed that running **OPNsense in high availability on Proxmox VE** is possible, even with a single WAN IP address. To achieve this, I needed these components:
+- VLAN segmentation.
+- Dedicated pfSync network.
+- Shared virtual IP.
+- Script to manage the WAN interface.
+
+The setup behave exactly as expected, seamless failover, synchronized firewall states, and even live sessions surviving a node crash. The most delicate part was handling the WAN lease, since my ISP modem only provides one IP, but the CARP hook script solved that challenge.
+
+🚀 The next milestone will be to prepare a new OPNsense HA cluster with the aim to completely replace my current physical box. Stay tuned!

content/post/13-opnsense-full-configuration/index.fr.md

@@ -0,0 +1,588 @@
+---
+slug: opnsense-ha-full-configuration
+title: OPNsense HA dans Proxmox, ma Configuration Homelab Complète
+description: "Configuration complète d'un cluster OPNsense HA dans Proxmox : interfaces et VIP, pare‑feu, DHCP Dnsmasq, DNS Unbound, VPN WireGuard et reverse proxy Caddy."
+date: 2025-10-23
+draft: false
+tags:
+  - opnsense
+  - high-availability
+  - proxmox
+  - unbound-dns
+  - caddy
+  - wireguard
+  - dnsmasq
+categories:
+  - homelab
+---
+
+## Intro
+
+Dans mon précédent [article]({{< ref "post/12-opnsense-virtualization-highly-available" >}}) j'ai mis en place un PoC pour valider la construction d'un cluster de deux VM **OPNsense** dans **Proxmox VE** afin de rendre le pare‑feu hautement disponible.
+
+Maintenant je prépare la mise en œuvre dans mon homelab, cet article documente ma configuration réelle du cluster OPNsense, depuis de nouvelles installations jusqu'à la HA, le DNS, le DHCP, le VPN et le reverse proxy.
+### Contexte
+
+Avant d'entrer dans la configuration d'OPNsense, un peu de contexte pour comprendre les choix que j'ai faits.
+
+Dans mon cluster Proxmox VE, j'ai créé 2 VM et installé OPNsense. L'objectif est de remplacer ma unique machine physique par ce cluster. Chaque VM possède 7 NICs pour les réseaux suivants :
+- **vmbr0** : _Mgmt_
+- **vlan20** : _WAN_
+- **vlan13** : _User_
+- **vlan37** : _IoT_
+- **vlan44** : _pfSync_
+- **vlan55** : _DMZ_
+- **vlan66** : _Lab_
+
+Initialement je pensais simplement restaurer ma configuration actuelle sur la VM fraîchement installée. Mais j'ai réalisé que je n'avais pas vraiment documenté comment j'avais assemblé les éléments la première fois. C'est le moment parfait pour remettre les choses en ordre.
+
+⚠️ Je ne peux disposer que d'une seule IP WAN, partagée entre les nœuds, fournie par le DHCP de ma box opérateur. Pour cette raison je n'aurai pas de VIP pour le WAN et je dois trouver une solution pour partager cette unique IP.
+
+J'espère que, dans le prochain article, si ce projet arrive sur mon réseau de production, je couvrirais aussi la création des VM dans Proxmox et la façon dont je prépare la migration de ma box OPNsense physique vers ce cluster HA en VM. Allons‑y !
+
+---
+## Système
+
+### Général
+
+Je commence par les bases, dans `System` > `Settings` > `General` :
+- **Hostname** : `cerbere-head1` (`cerbere-head2` pour la seconde).
+- **Domain** : `mgmt.vezpi.com`.
+- **Time zone** : `Europe/Paris`.
+- **Language** : `English`.
+- **Theme** : `opnsense-dark`.
+- **Prefer IPv4 over IPv6** : cocher la case pour préférer IPv4.
+
+### Utilisateurs
+
+Ensuite, dans `System` > `Access` > `Users`, je crée un nouvel utilisateur plutôt que d'utiliser `root`, l'ajoute au groupe `admins`, et retire `root` de ce groupe.
+
+### Administration
+
+Dans `System` > `Settings` > `Administration`, je modifie plusieurs éléments :
+- **Web GUI**
+    - **TCP port** : de `443` à `4443`, pour libérer le port 443 pour le reverse proxy à venir.
+    - **HTTP Redirect** : Désactivé, pour libérer le port 80 pour le reverse proxy.
+    - **Alternate Hostnames** : `cerbere.vezpi.com` qui sera l'URL pour atteindre le pare‑feu via le reverse proxy.
+    - **Access log** : Activé.
+- **Secure Shell**
+    - **Secure Shell Server** : Activé.
+    - **Root Login** : Désactivé.
+    - **Authentication Method :** Autoriser la connexion par mot de passe (pas de login `root`).
+    - **Listen Interfaces** : _Mgmt_
+- **Authentication**
+    - **Sudo** : `No password`.
+
+Une fois que je clique sur `Save`, je suis le lien fourni pour atteindre la WebGUI sur le port `4443`.
+
+### Mises à Jour
+
+Il est temps de mettre à jour, dans `System` > `Firmware` > `Status`, je vérifie les mises à jour du firmware et les applique (nécessite un redémarrage).
+
+### QEMU Guest Agent
+
+Une fois mis à jour et redémarré, je vais dans `System` > `Firmware` > `Plugins`, je coche l'option pour afficher les plugins communautaires. J'installe que le **QEMU Guest Agent**, `os-qemu-guest-agent`, pour permettre la communication entre la VM et l'hôte Proxmox.
+
+Cela nécessite un arrêt. Dans Proxmox, j'active le `QEMU Guest Agent` dans les options de la VM :  
+![Options d'une VM Proxmox avec QEMU Guest Agent activé](images/proxmox-opnsense-enable-qemu-guest-agent.png)
+
+Finalement je redémarre la VM. Une fois démarrée, depuis la WebGUI de Proxmox, je peux voir les IPs de la VM ce qui confirme que le guest agent fonctionne.
+
+---
+## Interfaces
+
+Sur les deux pare‑feu, j'assigne les NIC restantes à de nouvelles interfaces en ajoutant une description. Les VMs ont 7 interfaces, je compare attentivement les adresses MAC pour éviter de mélanger les interfaces :
+![Assignement des interfaces dans OPNsense](images/opnsense-assign-interfaces.png)
+
+Au final, la configuration des interfaces ressemble à ceci :
+
+| Interface | Mode        | `cerbere-head1` | `cerbere-head2` |
+| --------- | ----------- | --------------- | --------------- |
+| *Mgmt*    | Static IPv4 | 192.168.88.2/24 | 192.168.88.3/24 |
+| *WAN*     | DHCPv4/6    | Enabled         | Disabled        |
+| *User*    | Static IPv4 | 192.168.13.2/24 | 192.168.13.3/24 |
+| *IoT*     | Static IPv4 | 192.168.37.2/24 | 192.168.37.3/24 |
+| *pfSync*  | Static IPv4 | 192.168.44.1/30 | 192.168.44.2/30 |
+| *DMZ*     | Static IPv4 | 192.168.55.2/24 | 192.168.55.3/24 |
+| *Lab*     | Static IPv4 | 192.168.66.2/24 | 192.168.66.3/24 |
+
+Je ne configure pas encore les Virtual IPs, je m'en occuperai une fois la haute disponibilité mise en place.
+
+---
+## Haute Disponibilité
+
+### Règle Pare-feu pour pfSync
+
+À partir d'ici nous pouvons associer les deux instances pour créer un cluster. La dernière chose que je dois faire est d'autoriser la communication sur l'interface _pfSync_. Par défaut, aucune communication n'est autorisée sur les nouvelles interfaces.
+
+Dans `Firewall` > `Rules` > `pfSync`, je crée une nouvelle règle sur chaque pare‑feu :
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | *pfSync*                              |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | any                                   |
+| **Source**                 | *pfSync* net                          |
+| **Destination**            | *pfSync* net                          |
+| **Destination port range** | from: any - to: any                   |
+| **Log**                    | Log packets                           |
+| **Category**               | OPNsense                              |
+| **Description**            | pfSync                                |
+
+### Configurer la HA
+
+OPNsense HA utilise pfSync pour la synchronisation des états du pare‑feu (en temps réel) et XMLRPC Sync pour pousser la configuration et les services du master → backup (sens unique).
+
+La HA est configurée dans `System` > `High Availability` > `Settings`
+#### Master
+
+- **General Settings**
+    - **Synchronize all states via**: _pfSync_
+    - **Synchronize Peer IP**: `192.168.44.2`, l'IP du nœud backup
+- **Configuration Synchronization Settings (XMLRPC Sync)**
+    - **Synchronize Config**: `192.168.44.2`
+    - **Remote System Username**: `<username>`
+    - **Remote System Password**: `<password>`
+- **Services to synchronize (XMLRPC Sync)**
+    - **Services**: Select All
+
+#### Backup
+
+- **General Settings**
+    - **Synchronize all states via**: _pfSync_
+    - **Synchronize Peer IP**: `192.168.44.1`, l'IP du nœud master
+
+⚠️ Ne remplissez pas les champs XMLRPC Sync sur le nœud backup, ils doivent uniquement être remplis sur le master.
+
+### Statut de la HA
+
+Dans `System` > `High Availability` > `Status`, je peux vérifier si la synchronisation fonctionne. Sur cette page je peux répliquer un ou tous les services du master vers le nœud backup :
+![Page de statut de la haute disponibilité dans OPNsense](images/opnsense-high-availability-status.png)
+
+---
+## IPs Virtuelles
+
+Maintenant que la HA est configurée, je peux attribuer à mes réseaux une IP virtuelle partagée entre mes nœuds. Dans `Interfaces` > `Virtual IPs` > `Settings`, je crée un VIP pour chacun de mes réseaux en utilisant **CARP** (Common Address Redundancy Protocol). L'objectif est de réutiliser les adresses IP utilisées par mon instance OPNsense actuelle, mais comme elle route encore mon réseau, j'utilise des IP différentes pour la phase de configuration :
+![Liste des IPs virtuelles dans OPNsense](images/opnsense-interface-virtual-ips.png)
+
+ℹ️ OPNsense permet CARP par défaut, aucune règle de pare‑feu spéciale requise
+
+---
+## Script de Bascule CARP
+
+Dans ma configuration, je n'ai qu'une seule adresse WAN fournie par le DHCP de ma box opérateur. OPNsense ne propose pas nativement de moyen de gérer ce scénario. Pour s'en occuper, j'implémente la même astuce que j'ai utilisée dans le [PoC]({{< ref "post/12-opnsense-virtualization-highly-available" >}}).
+### Copier l'Adresse MAC
+
+Je copie la MAC de l'interface `net1` de `cerbere-head1` et la colle sur la même interface de `cerbere-head2`. Ainsi, le bail DHCP pour l'adresse WAN peut être partagé entre les nœuds.
+
+⚠️ Attention : Avoir deux machines sur le réseau avec la même MAC peut provoquer des conflits ARP et casser la connectivité. Une seule VM doit garder son interface active.
+
+### Script d'Evènement CARP
+
+Sous le capot, dans OPNsense, un événement CARP déclenche certains scripts (lorsque le master meurt). Ils sont situés dans `/usr/local/etc/rc.syshook.d/carp/`.
+
+Pour gérer l'interface WAN sur chaque nœud, j'implémente ce script PHP `10-wan` sur les deux nœuds, via SSH (n'oubliez pas de le rendre exécutable). Selon leur rôle (master ou backup), il activera ou désactivera leur interface WAN :
+```php
+#!/usr/local/bin/php
+<?php
+
+require_once("config.inc");
+require_once("interfaces.inc");
+require_once("util.inc");
+require_once("system.inc");
+
+$subsystem = !empty($argv[1]) ? $argv[1] : '';
+$type = !empty($argv[2]) ? $argv[2] : '';
+
+if ($type != 'MASTER' && $type != 'BACKUP') {
+    log_error("Carp '$type' event unknown from source '{$subsystem}'");
+    exit(1);
+}
+
+if (!strstr($subsystem, '@')) {
+    log_error("Carp '$type' event triggered from wrong source '{$subsystem}'");
+    exit(1);
+}
+
+$ifkey = 'wan';
+
+if ($type === "MASTER") {
+    log_error("enable interface '$ifkey' due CARP event '$type'");
+    $config['interfaces'][$ifkey]['enable'] = '1';
+    write_config("enable interface '$ifkey' due CARP event '$type'", false);
+    interface_configure(false, $ifkey, false, false);
+} else {
+    log_error("disable interface '$ifkey' due CARP event '$type'");
+    unset($config['interfaces'][$ifkey]['enable']);
+    write_config("disable interface '$ifkey' due CARP event '$type'", false);
+    interface_configure(false, $ifkey, false, false);
+}
+```
+
+Dans `Interfaces` > `Virtual IPs` > `Status`, je peux forcer un événement CARP en entrant en `Persistent maintenance mode`. Le déclenchement permet de tester ce script, qui désactive l'interface WAN sur le master tout en l'activant sur le backup.
+
+---
+## Pare-feu
+
+Configurons la fonctionnalité principale d'OPNsense, le pare‑feu. Je ne veux pas multiplier les règles inutilement. Je n'ai besoin de configurer que le master, grâce à la réplication.
+
+### Groupes d'Interface 
+
+Globalement j'ai 2 types de réseaux : ceux en qui j'ai confiance et ceux en qui je n'ai pas confiance. Dans cette optique, je vais créer deux zones.
+
+En règle générale, mes réseaux non fiables n'ont accès qu'au DNS et à Internet. Les réseaux fiables peuvent atteindre les autres VLANs.
+
+Pour commencer, dans `Firewall` > `Groups`, je crée 2 zones pour regrouper mes interfaces :
+- **Trusted** : _Mgmt_, _User_
+- **Untrusted** : _IoT_, _DMZ_, _Lab_
+
+### Network Aliases
+
+Ensuite, dans `Firewall` > `Aliases`, je crée un alias `InternalNetworks` pour regrouper tous mes réseaux internes :
+![Création d'alias pour les réseaux locaux dansOPNsense](images/opnsense-create-alias-internalnetworks.png)
+
+### Règles de Pare-feu Rules
+
+Pour tous mes réseaux, je veux autoriser les requêtes DNS vers le DNS local. Dans `Firewall` > `Rules` > `Floating`, créons la première règle
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | Trusted, Untrusted                    |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | TCP/UDP                               |
+| **Source**                 | InternalNetworks                      |
+| **Destination**            | This Firewall                         |
+| **Destination port range** | from: DNS - to: DNS                   |
+| **Log**                    | Log packets                           |
+| **Category**               | DNS                                   |
+| **Description**            | DNS query                             |
+
+Ensuite je veux autoriser les connexions vers Internet. Au même endroit je crée une seconde règle :
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | Trusted, Untrusted                    |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4+IPv6                             |
+| **Protocol**               | any                                   |
+| **Source**                 | InternalNetworks                      |
+| **Destination / Invert**   | Invert the sense of the match         |
+| **Destination**            | InternalNetworks                      |
+| **Destination port range** | from: any - to: any                   |
+| **Log**                    | Log packets                           |
+| **Category**               | Internet                              |
+| **Description**            | Internet                              |
+
+Enfin, je veux autoriser tout depuis mes réseaux fiables. Dans `Firewall` > `Rules` > `Trusted`, je crée la règle :
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | Trusted                               |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4+IPv6                             |
+| **Protocol**               | any                                   |
+| **Source**                 | Trusted net                           |
+| **Destination**            | any                                   |
+| **Destination port range** | from: any - to: any                   |
+| **Log**                    | Log packets                           |
+| **Category**               | Trusted                               |
+| **Description**            | Trusted                               |
+
+Parfait, avec ces 3 règles, je couvre les bases. Les règles restantes serviront à autoriser certains équipements à atteindre d'autres services. Par exemple, mon instance Home Assistant veut se connecter à ma TV, les deux sont sur des VLANs différents, donc j'ai besoin d'une règle pour l'autoriser :
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | Lab                                   |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | TCP                                   |
+| **Source**                 | 192.168.66.50/32                      |
+| **Destination**            | 192.168.37.30/32                      |
+| **Destination port range** | from: 3000 - to: 3001                 |
+| **Log**                    | Log packets                           |
+| **Category**               | Home Assistant                        |
+| **Description**            | Home assistant to TV                  |
+
+---
+## DHCP
+
+Pour le DHCP, je choisis **Dnsmasq**. Dans mon installation actuelle j'utilise ISC DHCPv4, mais comme il est maintenant déprécié, je préfère le remplacer. Dnsmasq agira aussi comme DNS, mais seulement pour mes zones locales.
+
+Dnsmasq ne synchronise pas les baux. Pour éviter les conflits, les deux nœuds servent le DHCP mais avec un délai de réponse décalé et des plages différentes. Le master couvre le pool principal, le backup un petit pool de secours.
+
+### Configuration Générale de Dnsmasq
+
+Dans `Services` > `Dnsmasq DNS & DHCP` > `General`, je configure le pare‑feu master comme suit :
+- **Default**
+	- **Enable**: Oui
+	- **Interface**: *Mgmt*, *User*, *IoT*, *DMZ* et *Lab*
+- **DNS**
+	- **Listen port**: 53053
+- **DNS Query Forwarding** 
+	- **Do not forward to system defined DNS servers**: Activé
+- **DHCP**
+	- **DHCP FQDN**: Activé
+	- **DHCP local domain**: Activé
+	- **DHCP authoritative**: Activé
+	- **DHCP reply delay**: 0
+	- **DHCP register firewall rules**: Activé
+	- **Disable HA sync**: Activé
+
+Sur le nœud backup, je le configure de la même manière, la seule différence sera le **DHCP reply delay** que je règle à **10**. Cela donne au master le temps de répondre aux requêtes DHCP avant que le backup n'intervienne.
+
+### Plages DHCP
+
+Ensuite je configure les plages DHCP. Les deux pare‑feu auront des plages différentes, le nœud backup aura des plages plus petites (10 baux devraient suffire). Sur le master, elles sont configurées comme suit :
+![Plages DHCP de Dnsmasq dans OPNsense](images/opnsense-dnsmasq-dhcp-ranges.png)
+
+### Options DHCP
+
+Puis je définis quelques options DHCP pour chaque domaine : le `router`, le `dns-server` et le `domain-name`. Je pointe les adresses IP vers la VIP de l'interface :
+![Options DHCP de Dnsmasq dans OPNsense](images/opnsense-dnsmasq-dhcp-options.png)
+
+### Hôtes
+
+Enfin, dans l'onglet `Hosts`, je définis des mappings DHCP statiques mais aussi des IP statiques non gérées par le DHCP, pour qu'elles soient enregistrées dans le DNS :
+![Hôtes DHCP de Dnsmasq dans OPNsense](images/opnsense-dnsmasq-dhcp-hosts.png)
+
+---
+## DNS
+
+Pour le DNS, j'utilise **Unbound**. C'est un résolveur DNS récursif, validant et cacheur intégré à OPNsense, qui peut :
+- Résoudre les requêtes depuis les serveurs racine.
+- Mettre en cache les résultats pour des réponses plus rapides.
+- Vérifier l'authenticité des domaines avec DNSSEC.
+- Bloquer des domaines via une liste noire.
+- Ajouter des enregistrements personnalisés.
+
+Unbound est le résolveur récursif, pour les zones locales j'effectue un forward vers Dnsmasq.
+
+### Paramètres Généraux d'Unbound
+
+Configurons-le, dans `Services` > `Unbound DNS` > `General` :
+![Paramètres généraux d'Unbound DNS dans OPNsense](images/opnsense-unbound-general-settings.png)
+
+### Liste de Blocage DNS 
+
+ Ensuite je configure la blocklist dans `Services` > `Unbound DNS` > `Blocklist`. Je l'active et sélectionne la liste `[hagezi] Multi PRO mini`. Initialement j'utilisais AdGuard Home, mais je veux donner une chance à cette fonctionnalité de blocklist.
+
+Pour maintenir le service à jour, dans `System` > `Settings` > `Cron`, j'ajoute mon premier job qui s'exécute chaque nuit à 2h pour `Update Unbound DNSBLs`.
+
+### Transfert de Requêtes
+
+Enfin je configure le transfert de requêtes pour mes domaines locaux vers Dnsmasq. Dans `Services` > `Unbound DNS` > `Query Forwarding`, j'ajoute chacun de mes domaines locaux avec leurs reverse lookups (enregistrements PTR) :
+![Configuration du transfert de requêtes d'Unbound DNS dans OPNsense](images/opnsense-unbound-dns-query-forwarding.png)
+
+---
+## VPN
+
+Quand je ne suis pas chez moi, je veux toujours pouvoir atteindre mes services et profiter de mon bloqueur DNS. Pour cela je configure un VPN avec **WireGuard**. C'est rapide, sécurisé et simple à mettre en place.
+
+### Configuration de l'Instance WireGuard
+
+Dans `VPN` > `WireGuard` > `Instances`, je crée une nouvelle instance :
+- **Enabled**: Oui
+- **Name**: *Homelan*
+- **Public/Private keys**: Paire de clés générée
+- **Listen port**: `61337`
+- **Tunnel address**: `10.13.37.1/24`
+- **Depend on (CARP)**: on *lan* (vhid 1)
+
+Une fois configuré, j'active WireGuard et j'applique la configuration.
+
+### Configuration d'un Peer
+
+Ensuite, dans l'onglet `Peer generator`, je remplis les champs pour mon premier appareil :
+- **Endpoint** : `vezpi.com`
+- **Name** : _S25Ultra_
+- **DNS Servers** : `10.13.37.1`
+
+Avant de cliquer sur `Store and generate next`, depuis mon appareil je configure le peer en capturant le QR code. Enfin je peux sauvegarder ce peer et recommencer pour les suivants.
+
+### Créer l'Interface VPN
+
+Cette étape n'est pas obligatoire, mais facilite la gestion des règles de pare‑feu. Sur les deux pare‑feu, dans `Interfaces` > `Assignments`, j'assigne l'interface `wg0 (WireGuard - Homelan)` et la nomme _VPN_.
+
+Puis dans `Interfaces` > `VPN`, j'active cette interface.
+
+Enfin, dans `Firewall` > `Groups`, j'ajoute cette interface au groupe _Trusted_.
+### Règle de Pare-feu
+
+Pour autoriser les connexions depuis l'extérieur, je dois créer une règle de pare‑feu sur l'interface WAN :
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | WAN                                   |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | UDP                                   |
+| **Source**                 | any                                   |
+| **Destination**            | WAN address                           |
+| **Destination port range** | from: 61337 - to: 61337               |
+| **Log**                    | Log packets                           |
+| **Category**               | VPN                                   |
+| **Description**            | WireGuard                             |
+
+---
+## Reverse Proxy
+
+La fonctionnalité suivante dont j’ai besoin est un **reverse proxy**, pour rediriger les requêtes HTTPS entrantes vers mes services, comme ce blog par exemple.  
+Pour cela, j’utilise **Caddy**. Il écoute sur les ports 80 et 443, c’est la raison pour laquelle j’ai déplacé l’interface WebGUI d’OPNsense vers d’autres ports au début.
+
+Ce service n’est pas installé par défaut, il faut ajouter un plugin.  
+Sur les deux pare-feux, dans `System` > `Firmware` > `Plugins`, je coche l’option pour afficher les plugins communautaires et j’installe **`os-caddy`**.
+
+### Paramètres Généraux de Caddy
+
+Je rafraîchis ensuite la page et, sur le nœud maître, je vais dans `Services` > `Caddy` > `General Settings` :
+- **Enable Caddy** : Oui
+- **Enable Layer4 Proxy** : Oui
+- **ACME** : `<adresse email>`
+- **Auto HTTPS** : On (default)
+
+Il existe deux types de redirections : le `Reverse Proxy` et le `Layer4 Proxy`. Le premier est réservé au HTTPS, où Caddy gère le chiffrement SSL lui-même.
+
+### Reverse Proxy
+
+Dans `Services` > `Caddy` > `Reverse Proxy`, je définis les services directement gérés par Caddy.
+
+Ces services ne doivent pas être accessibles à tout le monde.  
+Dans l’onglet **Access**, je crée une liste appelée `Internal`, qui regroupe mes réseaux autorisés, notamment le LAN et le VPN.
+
+Puis, dans l’onglet `Domains`, j’ajoute mes domaines. Par exemple, c’est ici que je définis `cerbere.vezpi.com`, l’URL pour accéder à mon interface WebGUI OPNsense :
+- **Enable** : Oui
+- **Frontend**
+    - **Protocol** : `https://`
+    - **Domain** : `cerbere.vezpi.com`
+    - **Port** : laisser vide
+    - **Certificate** : Auto HTTPS
+    - **HTTP-01 Challenge Redirection** : `192.168.44.2` (pour la haute disponibilité)
+    - **Description** : OPNsense
+- **Access**
+    - **Access List** : `Internal`
+    - **HTTP Access Log** : Activé
+
+Enfin, dans l’onglet `Handlers`, je définis la destination vers laquelle ces domaines doivent être redirigés. Pour `cerbere.vezpi.com`,
+j’ajoute :
+- **Enabled** : Oui
+- **Frontend**
+    - **Domain** : `https://cerbere.vezpi.com`
+    - **Subdomain** : None
+- **Handler**
+    - **Path** : any
+- **Access**
+    - **Access List** : None
+- **Directive**
+    - **Directive** : `reverse_proxy`
+- **Upstream**
+    - **Protocol** : `https://`
+    - **Upstream Domain** : `127.0.0.1`
+    - **Upstream Port** : `4443`
+    - **TLS Insecure Skip Verify** : Activé
+    - **Description** : OPNsense
+
+### Layer4 Proxy
+
+La plupart de mes services sont déjà derrière un autre reverse proxy sur mon réseau, **Traefik**. Pour lui permettre de gérer directement ses domaines, je les redirige à l’aide de `Layer4 Routes`. Cela évite que Caddy termine le SSL, le flux HTTPS reste donc intact.
+
+Dans `Services` > `Caddy` > `Layer4 Proxy`, je crée 3 routes.
+
+La première concerne les services exposés sur Internet, comme ce blog ou mon instance Gitea :
+- **Enabled** : Oui
+- **Sequence** : 1
+- **Layer 4**
+    - **Routing Type** : listener_wrappers
+- **Layer 7**
+    - **Matchers** : TLS (SNI Client Hello)
+    - **Domain** : `blog.vezpi.com` `git.vezpi.com`
+    - **Terminate SSL** : No
+- **Upstream**
+    - **Upstream Domain** : `192.168.66.50`
+    - **Upstream Port** : `443`
+    - **Proxy Protocol** : `v2` (si supporté par l’upstream)
+    - **Description** : External Traefik HTTPS dockerVM
+
+La deuxième route est dédiée aux services internes uniquement. Elle est configurée de manière similaire, mais avec une liste de contrôle d’accès :
+- **Sequence** : 2
+- **Access**
+    - **Remote IP** : `192.168.13.0/24` `192.168.88.0/24` `10.13.37.0/24`
+
+La troisième route gère les challenge HTTP de Traefik pour Let's Encrypt :
+- **Sequence** : 3
+- **Layer 7**
+    - **Matchers** : HTTP (Host Header)
+    - **Domain** : `blog.vezpi.com` `git.vezpi.com` etc.
+- **Upstream**
+    - **Upstream Port** : 80
+    - **Proxy Protocol** : Off (default)
+
+### Règles du pare-feu
+
+Enfin, je dois autoriser les connexions sur ces ports sur le pare-feu.  
+Je crée donc une règle pour le HTTPS (et une autre pour le HTTP) :
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | WAN                                   |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | TCP                                   |
+| **Source**                 | any                                   |
+| **Destination**            | WAN address                           |
+| **Destination port range** | from: HTTPS - to: HTTPS               |
+| **Log**                    | Log packets                           |
+| **Category**               | Caddy                                 |
+| **Description**            | Caddy HTTPS                           |
+
+---
+## Répéteur mDNS
+
+Le dernier service que je souhaite configurer dans OPNsense est un répéteur mDNS. Il est utile pour certains appareils qui annoncent leur présence sur le réseau, lorsqu’ils ne sont pas sur le même VLAN, comme mon imprimante ou mon Chromecast. Le répéteur mDNS reçoit les annonces d’une interface et les transmet sur une autre.
+
+Ce service n’est pas installé par défaut. Sur les deux pare-feux, dans `System` > `Firmware` > `Plugins`, je coche l’option pour afficher les plugins communautaires et j’installe **`os-mdns-repeater`**.
+
+Ensuite, dans `Services` > `mDNS Repeater`, la configuration est très simple :
+- **Enable** : Oui
+- **Enable CARP Failover** : Oui
+- **Listen Interfaces** : _IoT_, _User_
+
+---
+## Synchronisation des services
+
+La dernière étape consiste à synchroniser tous les services entre le maître et le nœud de secours du cluster. D’abord, dans `System` > `High Availability` > `Status`, je clique sur le bouton **Synchronize and reconfigure all**.
+
+Puis, je veux m’assurer que les futurs changements soient synchronisés même si j’oublie de les répliquer. Dans `System` > `Settings` > `Cron`, j’ajoute une tâche planifiée chaque nuit pour **HA update and reconfigure backup**.
+
+---
+
+## Conclusion
+
+🚀 Mon cluster **OPNsense** est désormais configuré et prêt à être mis en production !
+
+J’espère que cette configuration complète d’OPNsense pour mon propre réseau t’aidera à construire la tienne.
+
+La prochaine étape sera de planifier la migration depuis mon ancienne box OPNsense vers ces deux pare-feu en haute disponibilité.  
+Cette nouvelle infrastructure renforcera la sécurité de mes opérations tout en éliminant le SPOF (Single Point Of Failure) de mon réseau.
+
+À très vite pour te raconter comment cette opération s’est déroulée !
+
+
+
+
+

content/post/13-opnsense-full-configuration/index.md

@@ -0,0 +1,579 @@
+---
+slug: opnsense-ha-full-configuration
+title: OPNsense HA in Proxmox, my Full Homelab Configuration
+description: Step-by-step OPNsense HA cluster full configuration in Proxmox, interfaces and VIP, firewall, Dnsmasq DHCP, Unbound DNS, WireGuard VPN and Caddy reverse proxy.
+date: 2025-10-23
+draft: false
+tags:
+  - opnsense
+  - high-availability
+  - proxmox
+  - unbound-dns
+  - caddy
+  - wireguard
+  - dnsmasq
+categories:
+  - homelab
+---
+
+## Intro
+
+In my previous [article]({{< ref "post/12-opnsense-virtualization-highly-available" >}}) I set up a PoC to validate building a cluster of two **OPNsense** VMs in **Proxmox VE** to make the firewall highly available. 
+
+Now I'm preparing to make that real in my homelab, this post documents my real OPNsense cluster configuration, from fresh installs to HA, DNS, DHCP, VPN and reverse proxy.
+### Context
+
+Before diving into the OPNsense configuration, a little bit of context to understand the choices I made.
+
+In my Proxmox VE cluster, I've created 2 VMs and installed OPNsense. The goal is to replace my single physical box by this cluster. Each VM have 7 NICs for the following networks:
+- **vmbr0**: *Mgmt*
+- **vlan20**: *WAN*
+- **vlan13**: *User*
+- **vlan37**: *IoT*
+- **vlan44**: *pfSync*
+- **vlan55**: *DMZ*
+- **vlan66**: *Lab*
+
+Initially I was thinking of just restoring my current configuration on the VM freshly installed. But then I realized that I didn't really documented how I put the pieces together the first time. This is the perfect moment to put things right.
+
+⚠️ I can only have a single WAN IP, shared between the nodes, served by the DHCP of my ISP box. For this reason I won't have a VIP for the WAN and I have to find a solution to share this single IP.
+
+Hopefully in the next post, if this project lands on my production network, I will also cover the VM creation on Proxmox and how I'm preparing this migration from my physical OPNsense box to this highly available cluster in VMs. Let's dive in!
+
+---
+## System
+
+### General
+
+I start with the basics, in `System` > `Settings` > `General`:
+- **Hostname**: `cerbere-head1` (`cerbere-head2` for the second one).
+- **Domain**: `mgmt.vezpi.com`.
+- **Time zone**: `Europe/Paris`.
+- **Language**: `English`.
+- **Theme**: `opnsense-dark`.
+- **Prefer IPv4 over IPv6**: tick the box to prefer IPv4.
+
+### Users
+
+Then, in `System` > `Access` > `Users`, I create a new user rather than using `root`, add it to the `admins` group, and remove `root` from that group.
+
+### Administration
+
+In `System` > `Settings` > `Administration`, I change several things:
+- **Web GUI**
+	- **TCP port**: from `443` to `4443`, to free port 443 for the reverse proxy coming next.
+	- **HTTP Redirect**: Disabled,  to free port 80 for the reverse proxy 
+	-  **Alternate Hostnames**: `cerbere.vezpi.com` which will be the URL to reach the firewall by the reverse proxy.
+	- **Access log**: Enabled.
+- **Secure Shell**
+	- **Secure Shell Server**: Enabled.
+	- **Root Login**: Disabled.
+	- **Authentication Method:** Permit password login (no `root` login).
+	- **Listen Interfaces**: *Mgmt*
+- **Authentication**
+	- **Sudo**: `No password`.
+
+Once I click `Save`, I follow the link given to reach the WebGUI on port `4443`.
+
+### Updates
+
+Time for updates, in `System` > `Firmware` > `Status`, I check for firmware updates and apply them (requires reboot).
+
+### QEMU Guest Agent
+
+Once updated and rebooted, I go to `System` > `Firmware` > `Plugins`, I tick the box to show community plugins. I install the **QEMU Guest Agent**, `os-qemu-guest-agent`, to allow communication between the VM and the Proxmox host. 
+
+This requires a shutdown. On Proxmox, I enable the `QEMU Guest Agent` in the VM options:
+Proxmox VM options with QEMU Guest Agent enabled
+
+Finally I restart the VM. Once started, from the Proxmox WebGUI, I can see the IPs of the VM which confirms the guest agent is working.
+
+---
+## Interfaces
+
+On both firewalls, I assign the remaining NICs to new interfaces adding a description. The VMs have 7 interfaces, I carefully compare MAC addresses to avoid mixing interfaces:
+![Assign interfaces menu in OPNsense](images/opnsense-assign-interfaces.png)
+
+In the end, the interfaces configuration looks like this:
+
+| Interface | Mode        | `cerbere-head1` | `cerbere-head2` |
+| --------- | ----------- | --------------- | --------------- |
+| *Mgmt*    | Static IPv4 | 192.168.88.2/24 | 192.168.88.3/24 |
+| *WAN*     | DHCPv4/6    | Enabled         | Disabled        |
+| *User*    | Static IPv4 | 192.168.13.2/24 | 192.168.13.3/24 |
+| *IoT*     | Static IPv4 | 192.168.37.2/24 | 192.168.37.3/24 |
+| *pfSync*  | Static IPv4 | 192.168.44.1/30 | 192.168.44.2/30 |
+| *DMZ*     | Static IPv4 | 192.168.55.2/24 | 192.168.55.3/24 |
+| *Lab*     | Static IPv4 | 192.168.66.2/24 | 192.168.66.3/24 |
+
+I don't configure Virtual IPs yet, I'll manage that once high availability has been setup.
+
+---
+## High Availability
+
+### Firewall Rule for pfSync
+
+From here we can associate both instances to create a cluster. The last thing I need to do, is to allow the communication on the *pfSync* interface. By default, no communication is allowed on the new interfaces.
+
+From `Firewall` > `Rules` > `pfSync`, I create a new rule on each firewall:
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | *pfSync*                              |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | any                                   |
+| **Source**                 | *pfSync* net                          |
+| **Destination**            | *pfSync* net                          |
+| **Destination port range** | from: any - to: any                   |
+| **Log**                    | Log packets                           |
+| **Category**               | OPNsense                              |
+| **Description**            | pfSync                                |
+
+### Configure HA
+
+OPNsense HA uses pfSync for firewall state synchronization (real-time) and XMLRPC Sync to push config and services from master → backup (one-way).
+
+The HA is setup in `System` > `High Availability` > `Settings`
+#### Master
+- **General Settings**
+	- **Synchronize all states via**: *pfSync*
+	- **Synchronize Peer IP**: `192.168.44.2`, the backup node IP
+- **Configuration Synchronization Settings (XMLRPC Sync)**
+	- **Synchronize Config**: `192.168.44.2`
+	- **Remote System Username**: `<username>`
+	- **Remote System Password**: `<password>`
+- **Services to synchronize (XMLRPC Sync)**
+	- **Services**: Select All
+#### Backup (`cerbere-head2`):
+- **General Settings**
+	- **Synchronize all states via**: *pfSync*
+	- **Synchronize Peer IP**: `192.168.44.1`, the master node IP
+
+⚠️ Do not fill the XMLRPC Sync fields on the backup node, only to be filled on the master.
+
+### HA Status
+
+In the section `System` > `High Availability` > `Status`, I can verify if the synchronization is working. On this page I can replicate any or all services from my master to my backup node:
+![OPNsense high availability status page](images/opnsense-high-availability-status.png)
+
+---
+## Virtual IPs
+
+Now that HA is configured, I can give my networks a virtual IP shared across my nodes. In `Interfaces` > `Virtual IPs` > `Settings`, I create one VIP for each of my networks using **CARP** (Common Address Redundancy Protocol). The target is to reuse the IP addresses used by my current OPNsense instance, but as it is still routing my network, I use different IPs for the configuration phase:
+![OPNsense virtual IPs list](images/opnsense-interface-virtual-ips.png)
+
+ℹ️ OPNsense allows CARP by default, no special firewall rule required
+
+---
+## CARP Failover Script
+
+In my setup, I only have a single WAN IP address which is served by the DHCP of my ISP box. OPNsense does not provide natively a way to handle this scenario. To manage it, I implement the same trick I used in the [PoC]({{< ref "post/12-opnsense-virtualization-highly-available" >}}).
+### Copy MAC Address
+
+I copy the MAC of the `net1` interface of `cerbere-head1` and paste it to the same interface for `cerbere-head2`. Doing so, the DHCP lease for the WAN IP address can be shared among the nodes.
+
+⚠️ Warning: Having two machines on the network with the same MAC can cause ARP conflicts and break connectivity. Only one VM should keep its interface active.
+
+### CARP Event Script
+
+Under the hood, in OPNsense, a CARP event triggers some scripts (when the master dies). These are located in `/usr/local/etc/rc.syshook.d/carp/`. 
+
+To manage WAN interface on each node, I implement this PHP script `10-wan` on both nodes, using SSH (do not forget to make it executable). Depending on their role (master or backup), this will enable or disable their WAN interface:
+```php
+#!/usr/local/bin/php
+<?php
+
+require_once("config.inc");
+require_once("interfaces.inc");
+require_once("util.inc");
+require_once("system.inc");
+
+$subsystem = !empty($argv[1]) ? $argv[1] : '';
+$type = !empty($argv[2]) ? $argv[2] : '';
+
+if ($type != 'MASTER' && $type != 'BACKUP') {
+    log_error("Carp '$type' event unknown from source '{$subsystem}'");
+    exit(1);
+}
+
+if (!strstr($subsystem, '@')) {
+    log_error("Carp '$type' event triggered from wrong source '{$subsystem}'");
+    exit(1);
+}
+
+$ifkey = 'wan';
+
+if ($type === "MASTER") {
+    log_error("enable interface '$ifkey' due CARP event '$type'");
+    $config['interfaces'][$ifkey]['enable'] = '1';
+    write_config("enable interface '$ifkey' due CARP event '$type'", false);
+    interface_configure(false, $ifkey, false, false);
+} else {
+    log_error("disable interface '$ifkey' due CARP event '$type'");
+    unset($config['interfaces'][$ifkey]['enable']);
+    write_config("disable interface '$ifkey' due CARP event '$type'", false);
+    interface_configure(false, $ifkey, false, false);
+}
+```
+
+In `Interfaces` > `Virtual IPs` > `Status`, I can force a CARP event by entering into `Persistent maintenance mode`. Triggering this allow me to test this script, which disable the WAN interface on the master while enabling it on the backup.
+
+---
+## Firewall
+
+Let's configure the core feature of OPNsense, the firewall. I don't want to go too crazy with the rules. I only need to configure the master, thanks to the replication.
+
+### Interface Groups
+
+Basically I have 2 kinds of networks, those which I trust, and those which I don't. From this standpoint, I will create two zones. 
+
+Globally, my untrusted networks only have access to DNS and the internet. Trusted networks can reach other VLANs.
+
+To begin, in `Firewall` > `Groups`, I create 2 zones to regroup my interfaces:
+- **Trusted**: *Mgmt*, *User*
+- **Untrusted**: *IoT*, *DMZ*, *Lab*
+
+### Network Aliases
+
+Next, in `Firewall` > `Aliases`, I create an alias `InternalNetworks` to regroup all my internal networks:
+![OPNsense alias creation for internal networks ](images/opnsense-create-alias-internalnetworks.png)
+
+### Firewall Rules
+
+For all my networks, I want to allow DNS queries on the local DNS. In `Firewall` > `Rules` > `Floating`, let's create the first rule:
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | Trusted, Untrusted                    |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | TCP/UDP                               |
+| **Source**                 | InternalNetworks                      |
+| **Destination**            | This Firewall                         |
+| **Destination port range** | from: DNS - to: DNS                   |
+| **Log**                    | Log packets                           |
+| **Category**               | DNS                                   |
+| **Description**            | DNS query                             |
+
+Next I want to allow connections towards the internet. At the same place I create a second rule:
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | Trusted, Untrusted                    |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4+IPv6                             |
+| **Protocol**               | any                                   |
+| **Source**                 | InternalNetworks                      |
+| **Destination / Invert**   | Invert the sense of the match         |
+| **Destination**            | InternalNetworks                      |
+| **Destination port range** | from: any - to: any                   |
+| **Log**                    | Log packets                           |
+| **Category**               | Internet                              |
+| **Description**            | Internet                              |
+
+Finally, I want to allow anything from my trusted networks. In `Firewall` > `Rules` > `Trusted`, I create the rule:
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | Trusted                               |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4+IPv6                             |
+| **Protocol**               | any                                   |
+| **Source**                 | Trusted net                           |
+| **Destination**            | any                                   |
+| **Destination port range** | from: any - to: any                   |
+| **Log**                    | Log packets                           |
+| **Category**               | Trusted                               |
+| **Description**            | Trusted                               |
+
+Great, with these 3 rules, I cover the basics. The remaining rules would be to allow specific equipment to reach out to something else. For example my home assistant instance want to connect to my TV, both are on different VLAN, hence I need a rule to allow it:
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | Lab                                   |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | TCP                                   |
+| **Source**                 | 192.168.66.50/32                      |
+| **Destination**            | 192.168.37.30/32                      |
+| **Destination port range** | from: 3000 - to: 3001                 |
+| **Log**                    | Log packets                           |
+| **Category**               | Home Assistant                        |
+| **Description**            | Home assistant to TV                  |
+
+
+---
+## DHCP
+
+For the DHCP, I choose **Dnsmasq**. In my current installation I use ISC DHCPv4, but as it is now deprecated, I prefer to replace it. Dnsmasq will also act as DNS, but only for my local zones. 
+
+Dnsmasq doesn't sync leases. To avoid conflicts, both nodes serve DHCP but with staggered reply delay and different ranges. The master covers the main pool, the backup a small fallback pool
+
+### Dnsmasq General Configuration
+
+In `Services` > `Dnsmasq DNS & DHCP` > `General`, I configure the master firewall as follow:
+- **Default**
+	- **Enable**: Yes
+	- **Interface**: *Mgmt*, *User*, *IoT*, *DMZ* and *Lab*
+- **DNS**
+	- **Listen port**: 53053
+- **DNS Query Forwarding** 
+	- **Do not forward to system defined DNS servers**: Enabled
+- **DHCP**
+	- **DHCP FQDN**: Enabled
+	- **DHCP local domain**: Enabled
+	- **DHCP authoritative**: Enabled
+	- **DHCP reply delay**: 0
+	- **DHCP register firewall rules**: Enabled
+	- **Disable HA sync**: Enabled
+
+On the backup node, I configure it the same, the only difference will be the **DHCP reply delay** which I set to **10**. This gives the master time to answer DHCP requests before the backup responds.
+
+### DHCP Ranges
+
+Next I configure the DHCP ranges. Both firewalls will have different ranges, the backup node will have smaller ones (only 10 leases should be enough). On the master, they are configured as follow:
+![OPNsense DHCP ranges in Dnsmasq](images/opnsense-dnsmasq-dhcp-ranges.png)
+
+### DHCP Options
+
+Then I set some DHCP options for each domain: the `router`, the `dns-server` and the `domain-name`. I'm pointing the IP addresses to the interface's VIP:
+![OPNsense DHCP options in Dnsmasq](images/opnsense-dnsmasq-dhcp-options.png)
+
+### Hosts
+
+Finally in in the `Hosts` tab, I define static DHCP mappings but also static IP not managed by the DHCP, to have them registered in the DNS:
+![OPNsense DHCP hosts in Dnsmasq](images/opnsense-dnsmasq-dhcp-hosts.png)
+
+---
+## DNS
+
+For the DNS, I use **Unbound**. It is a validating, recursive, caching DNS resolver built into OPNsense, which can:
+- Resolve queries from the root servers.
+- Cache results for faster responses.
+- Check domain authenticity with DNSSEC.
+- Block domains based on a blacklist.
+- Add custom records.
+
+Unbound is the recursive resolver, for local zones I forward queries to Dnsmasq.
+
+### Unbound General Settings
+
+Let's configure it, in `Services` > `Unbound DNS` > `General`:
+![OPNsense Unbound DNS general settings](images/opnsense-unbound-general-settings.png)
+
+### DNS Blocklist
+
+ Then I configure the blocklist in `Services` > `Unbound DNS` > `Blocklist`. I enable it and select the `[hagezi] Multi PRO mini` list. Initially I was using AdGuard Home, but I want to give this blocklist feature a chance.
+
+To maintain the service up to date, in `System` > `Settings` > `Cron`, I add my first job that runs every night at 2AM to `Update Unbound DNSBLs`.
+
+### Query Forwarding
+
+Finally I configure query forwarding for my local domains to Dnsmasq. In `Services` > `Unbound DNS` > `Query Forwarding`, I add each of my local domains with their reverse lookup (PTR record):
+![OPNsense Unbound DNS query forwarding configuration](images/opnsense-unbound-dns-query-forwarding.png)
+
+---
+## VPN
+
+When I'm not home, I still want to be able to reach my services and enjoy my DNS ad blocker. For that I'm setting up a VPN, with **WireGuard**. It's fast, secure and easy to set up.
+
+### WireGuard Instance Setup
+
+In `VPN` > `WireGuard` > `Instances`, I create a new one:
+- **Enabled**: Yes
+- **Name**: *Homelan*
+- **Public/Private keys**: Key-pair generated
+- **Listen port**: `61337`
+- **Tunnel address**: `10.13.37.1/24`
+- **Depend on (CARP)**: on *lan* (vhid 1)
+
+Once configured, I enable WireGuard and apply the configuration.
+
+### Peer Setup
+
+Next in the `Peer generator` tab, I fulfill the empty fields for my first device:
+- **Endpoint**: `vezpi.com`
+- **Name**: *S25Ultra*
+- **DNS Servers**: `10.13.37.1`
+
+Before clicking `Store and generate next`, from my device, I configure the peer by capturing the QR code. Finally I can save that peer and start over for new ones.
+
+### Create VPN Interface
+
+This step is not required, but ease the configuration management for firewall rules. On both firewall, in `Interfaces` > `Assignments`, I assign the `wg0 (WireGuard - Homelan)` interface and name it *VPN*.
+
+Then in `Interfaces` > `VPN`, I enable this interface.
+
+Finally, in `Firewall` > `Groups`, I add this interface in the *Trusted* group.
+### Firewall Rule
+
+To allow connections from outside, I need to create a firewall rule on the WAN interface:
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | WAN                                   |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | UDP                                   |
+| **Source**                 | any                                   |
+| **Destination**            | WAN address                           |
+| **Destination port range** | from: 61337 - to: 61337               |
+| **Log**                    | Log packets                           |
+| **Category**               | VPN                                   |
+| **Description**            | WireGuard                             |
+
+---
+## Reverse Proxy
+
+The next feature I need is a reverse proxy, to redirect incoming HTTPS requests to reach my services, such as this blog. For that I use **Caddy**. It will listen on port 80/443, that's why I moved the WebGUI off these ports at the beginning.
+
+This service is not installed by default, I need to add a plugin. On both firewalls, In `System` > `Firmware` > `Plugins`, I tick the box to show community plugins and install `os-caddy`.
+
+### Caddy General Settings
+
+I refresh the page and, on the master, in `Services` > `Caddy` > `General Settings`:
+- **Enable Caddy**: Yes
+- **Enable Layer4 Proxy**: Yes
+- **ACME**: `<email address>`
+- **Auto HTTPS**: On (default)
+
+There are two types of redirections, the `Reverse Proxy` and the `Layer4 Proxy`. The first one is for HTTPS only, where Caddy will manage the SSL.
+
+### Reverse Proxy
+
+In `Services` > `Caddy` > `Reverse Proxy`, I define the services directly managed by Caddy.
+
+These services should not be exposed to everyone. In the `Access` tab, I create a list, called `Internal`, of allowed networks, including my LAN and VPN networks.
+
+Then in the `Domains` tab, I add my domains. For example, this is here I define `cerbere.vezpi.com`, my URL to reach my OPNsense WebGUI:
+- **Enable**: Yes
+- **Frontend**
+	- **Protocol**: `https://`
+	- **Domain**: `cerbere.vezpi.com`
+	- **Port**: leave empty
+	- **Certificate**: Auto HTTPS
+	- **HTTP-01 Challenge Redirection**: `192.168.44.2`, for high availability setup
+	- **Description**: OPNsense
+- **Access**
+	- **Access List**: `Internal`
+	- **HTTP Access Log**: Enabled
+
+Finally in the `Handlers` tab, I define to which upstream these domains are forwarded to. For `cerbere.vezpi.com` I define this:
+- **Enabled**: Yes
+- **Frontend**
+	- **Domain**: `https://cerbere.vezpi.com`
+	- **Subdomain**: None
+- **Handler**
+	- **Path**: any
+- **Access**
+	- **Access List**: None
+- **Directive**
+	- **Directive**: `reverse_proxy`
+- **Upstream**
+	- **Protocol**: `https://`
+	- **Upstream Domain**: `127.0.0.1`
+	- **Upstream Port**: `4443`
+	- **TLS Insecure Skip Verify**: Enabled
+	- **Description**: OPNSense
+
+### Layer4 Proxy
+
+Most of my services are behind another reverse proxy on my network, Traefik. To let it manage normally its domains, I forward them using `Layer4 Routes`. It prevents Caddy to terminate SSL, the HTTPS stream is left intact.
+
+In `Services` > `Caddy` > `Layer4 Proxy`, I create 3 routes.
+
+The first one is for internet exposed services, like this blog or my Gitea instance:
+- Enabled: Yes
+- Sequence: 1
+- Layer 4
+	- Routing Type: listener_wrappers
+- Layer 7
+	- Matchers: TLS (SNI Client Hello)
+	- Domain: `blog.vezpi.com` `git.vezpi.com`
+	- Terminate SSL: No
+- Upstream
+	- Upstream Domain: `192.168.66.50`
+	- Upstream Port: `443`
+	- Proxy Protocol: `v2`, if your upstream supports it
+	- Description: External Traefik HTTPS dockerVM
+
+The second one is for internal only services. It is configured pretty much the same but using an access list:
+- Sequence: 2
+- Access
+	- Remote IP: `192.168.13.0/24` `192.168.88.0/24` `10.13.37.0/24`
+
+The third one is for Traefik HTTP challenges for Let's Encrypt:
+- Sequence: 3
+- Layer 7
+	- Matchers: HTTP (Host Header)
+	- Domain: `blog.vezpi.com` `git.vezpi.com` etc.
+- Upstream:
+	- Upstream Port: 80
+	- Proxy Protocol: Off (default)
+
+### Firewall Rules
+
+Finally, I need to allow connection of these ports on the firewall, I create one rule for HTTPS (and another for HTTP):
+
+| Field                      | Value                                 |
+| -------------------------- | ------------------------------------- |
+| **Action**                 | Pass                                  |
+| **Quick**                  | Apply the action immediately on match |
+| **Interface**              | WAN                                   |
+| **Direction**              | in                                    |
+| **TCP/IP Version**         | IPv4                                  |
+| **Protocol**               | TCP                                   |
+| **Source**                 | any                                   |
+| **Destination**            | WAN address                           |
+| **Destination port range** | from: HTTPS - to: HTTPS               |
+| **Log**                    | Log packets                           |
+| **Category**               | Caddy                                 |
+| **Description**            | Caddy HTTPS                           |
+
+---
+## mDNS Repeater
+
+The last service I want to setup in OPNsense is a mDNS repeater. This is useful for some devices to announce themselves on the network, when not on the same VLAN, such as my printer or my Chromecast. The mDNS repeater get the message from an interface to forward it to another one.
+
+This service is also not installed by default. On both firewalls, In `System` > `Firmware` > `Plugins`, I tick the box to show community plugins and install `os-mdns-repeater`.
+
+Then in `Services` > `mDNS Repeater`, the configuration is pretty straight forward:
+- Enable: Yes
+- Enable CARP Failover: Yes
+- Listen Interfaces: *IoT*, *User*
+
+---
+## Service Synchronization
+
+The final step is to synchronize all the services between the master and the backup node in the cluster. First in `System` > `High Availability` > `Status`, I click the button to `Synchronize and reconfigure all`.
+
+Then I want to make sure that future changes are synchronized if I omit to replicate them myself. In `System` > `Settings` > `Cron`, I add a new job that runs every night to `HA update and reconfigure backup`.
+
+---
+## Conclusion
+
+🚀 My **OPNsense** cluster is now configured and ready to go live!
+
+I hope this OPNsense full configuration for my own network, help you with your own setup.
+
+The next phase is to plan the migration from my current OPNsense box to these two highly available firewalls. This new infrastructure would secure my future operations on the firewall, while removing this SPOF (Single Point Of Failure) of my network.
+
+See you next time to tell how this operation went!
+
+
+
+
+

content/post/14-proxmox-cluster-upgrade-8-to-9-ceph/index.fr.md

@@ -0,0 +1,424 @@
+---
+slug: proxmox-cluster-upgrade-8-to-9-ceph
+title: Mise à niveau de mon cluster Proxmox VE HA 3 nœuds de 8 vers 9 basé sur Ceph
+description: Mise à niveau pas à pas de mon cluster Proxmox VE 3 nœuds en haute disponibilité, de 8 vers 9, basé sur Ceph, sans aucune interruption.
+date: 2025-11-04
+draft: false
+tags:
+  - proxmox
+  - high-availability
+  - ceph
+categories:
+  - homelab
+---
+
+## Intro
+
+Mon **cluster Proxmox VE** a presque un an maintenant, et je n’ai pas tenu les nœuds complètement à jour. Il est temps de m’en occuper et de le passer en Proxmox VE **9**.
+
+Je recherche principalement les nouvelles règles d’affinité HA, mais voici les changements utiles apportés par cette version :
+- Debian 13 "Trixie".
+- Snapshots pour le stockage LVM partagé thick-provisioned.
+- Fonctionnalité SDN fabrics.
+- Interface mobile améliorée.
+- Règles d’affinité dans le cluster HA.
+
+Le cluster est composée de 3 nœuds, hautement disponible, avec une configuration hyper‑convergée, utilisant Ceph pour le stockage distribué.
+
+Dans cet article, je décris les étapes de mise à niveau de mon cluster Proxmox VE, de la version 8 vers 9, tout en gardant les ressources actives. [Documentation officielle](https://pve.proxmox.com/wiki/Upgrade_from_8_to_9).
+
+---
+## Prérequis
+
+Avant de se lancer dans la mise à niveau, passons en revue les prérequis :
+
+1. Tous les nœuds mis à jour vers la dernière version Proxmox VE `8.4`.
+2. Cluster Ceph mis à niveau vers Squid (`19.2`).
+3. Proxmox Backup Server mis à jour vers la version 4.
+4. Accès fiable au nœud.
+5. Cluster en bonne santé.
+6. Sauvegarde de toutes les VM et CT.
+7. Au moins 5 Go libres sur `/`.
+
+Remarques sur mon environnement :
+
+- Les nœuds PVE sont en `8.3.2`, donc une mise à jour mineure vers 8.4 est d’abord requise.
+- Ceph tourne sous Reef (`18.2.4`) et sera mis à niveau vers Squid après PVE 8.4.
+- Je n’utilise pas PBS dans mon homelab, donc je peux sauter cette étape.
+- J’ai plus de 10 Go disponibles sur `/` sur mes nœuds, c’est suffisant.
+- Je n’ai qu’un accès console SSH, si un nœud ne répond plus je pourrais avoir besoin d’un accès physique.
+- Une VM a un passthrough CPU (APU). Le passthrough empêche la migration à chaud, donc je supprime ce mapping avant la mise à niveau.
+- Mettre les OSD Ceph en `noout` pendant la mise à niveau pour éviter le rebalancing automatique :
+```bash
+ceph osd set noout
+```
+
+### Mettre à Jour Proxmox VE vers 8.4.14
+
+Le plan est simple, pour tous les nœuds, un par un :
+
+1. Activer le mode maintenance
+```bash
+ha-manager crm-command node-maintenance enable $(hostname)
+```
+
+2. Mettre à jour le nœud
+```bash
+apt-get update
+apt-get dist-upgrade -y
+```
+
+À la fin de la mise à jour, on me propose de retirer booloader, ce que j’exécute :
+```plaintext
+Removable bootloader found at '/boot/efi/EFI/BOOT/BOOTX64.efi', but GRUB packages not set up to update it!
+Run the following command:
+
+echo 'grub-efi-amd64 grub2/force_efi_extra_removable boolean true' | debconf-set-selections -v -u
+
+Then reinstall GRUB with 'apt install --reinstall grub-efi-amd64'
+```
+
+3. Redémarrer la machine
+```bash
+reboot
+```
+
+4. Désactiver le mode maintenance
+```bash
+ha-manager crm-command node-maintenance disable $(hostname)
+```
+
+Entre chaque nœud, j’attends que le statut Ceph soit clean, sans alertes.
+
+✅ À la fin, le cluster Proxmox VE est mis à jour vers `8.4.14`
+
+### Mettre à Niveau Ceph de Reef vers Squid
+
+Je peux maintenant passer à la mise à niveau de Ceph, la documentation Proxmox pour cette procédure est [ici](https://pve.proxmox.com/wiki/Ceph_Reef_to_Squid).
+
+Mettre à jour les sources de paquets Ceph sur chaque nœud :
+```bash
+sed -i 's/reef/squid/' /etc/apt/sources.list.d/ceph.list
+```
+
+Mettre à niveau les paquets Ceph :
+```
+apt update
+apt full-upgrade -y
+```
+
+Après la mise à niveau sur le premier nœud, la version Ceph affiche maintenant `19.2.3`, je peux voir mes OSD apparaître comme obsolètes, les moniteurs nécessitent soit une mise à niveau soit un redémarrage :
+![État du stockage Ceph dans Proxmox après la mise à jour des paquets Ceph du premier nœud](images/proxmox-ceph-version-upgrade.png)
+
+Je poursuis et mets à niveau les paquets sur les 2 autres nœuds.
+
+J’ai un moniteur sur chaque nœud, donc je dois redémarrer chaque moniteur, un nœud à la fois :
+```bash
+systemctl restart ceph-mon.target
+```
+
+Je vérifie le statut Ceph entre chaque redémarrage :
+```bash
+ceph status
+```
+
+Une fois tous les moniteurs redémarrés, ils rapportent la dernière version, avec `ceph mon dump` :
+- Avant : `min_mon_release 18 (reef)`
+- Après : `min_mon_release 19 (squid)`
+
+Je peux maintenant redémarrer les OSD, toujours un nœud à la fois. Dans ma configuration, j’ai un OSD par nœud :
+```bash
+systemctl restart ceph-osd.target
+```
+
+Je surveille le statut Ceph avec la WebGUI Proxmox. Après le redémarrage, elle affiche quelques couleurs fancy. J’attends juste que les PG redeviennent verts, cela prend moins d’une minute :
+![État du stockage Ceph dans Proxmox lors du premier redémarrage d'un OSD](images/proxmox-ceph-status-osd-restart.png)
+
+Un avertissement apparaît : `HEALTH_WARN: all OSDs are running squid or later but require_osd_release < squid`
+
+Maintenant tous mes OSD tournent sous Squid, je peux fixer la version minimum à celle‑ci :
+```bash
+ceph osd require-osd-release squid
+```
+
+ℹ️ Je n’utilise pas actuellement CephFS donc je n’ai pas à me soucier du daemon MDS (MetaData Server).
+
+✅ Le cluster Ceph a été mis à niveau avec succès vers Squid (`19.2.3`).
+
+---
+## Vérifications
+
+Les prérequis pour mettre à niveau le cluster vers Proxmox VE 9 sont maintenant complets. Suis‑je prêt à mettre à niveau ? Pas encore.
+
+Un petit programme de checklist nommé **`pve8to9`** est inclus dans les derniers paquets Proxmox VE 8.4. Le programme fournit des indices et des alertes sur les problèmes potentiels avant, pendant et après la mise à niveau. Pratique non ?
+
+Lancer l’outil la première fois me donne des indications sur ce que je dois faire. Le script vérifie un certain nombre de paramètres, regroupés par thème. Par exemple, voici la section sur les Virtual Guest :
+```plaintext
+= VIRTUAL GUEST CHECKS =
+
+INFO: Checking for running guests..
+WARN: 1 running guest(s) detected - consider migrating or stopping them.
+INFO: Checking if LXCFS is running with FUSE3 library, if already upgraded..
+SKIP: not yet upgraded, no need to check the FUSE library version LXCFS uses
+INFO: Checking for VirtIO devices that would change their MTU...
+PASS: All guest config descriptions fit in the new limit of 8 KiB
+INFO: Checking container configs for deprecated lxc.cgroup entries
+PASS: No legacy 'lxc.cgroup' keys found.
+INFO: Checking VM configurations for outdated machine versions
+PASS: All VM machine versions are recent enough
+```
+
+À la fin, vous avez le résumé. L’objectif est de corriger autant de `FAILURES` et `WARNINGS` que possible :
+```plaintext
+= SUMMARY =
+
+TOTAL:    57
+PASSED:   43
+SKIPPED:  7
+WARNINGS: 2
+FAILURES: 2
+```
+
+Passons en revue les problèmes qu’il a trouvés :
+
+```
+FAIL: 1 custom role(s) use the to-be-dropped 'VM.Monitor' privilege and need to be adapted after the upgrade
+```
+
+Il y a quelque temps, pour utiliser Terraform avec mon cluster Proxmox, j'ai créé un rôle dédié. C'était détaillé dans cet [article]({{< ref "post/3-terraform-create-vm-proxmox" >}}).
+
+Ce rôle utilise le privilège `VM.Monitor`, qui a été supprimé dans Proxmox VE 9. De nouveaux privilèges, sous `VM.GuestAgent.*`, existent à la place. Je supprime donc celui-ci et j'ajouterai les nouveaux une fois le cluster mis à niveau.
+
+```
+FAIL: systemd-boot meta-package installed. This will cause problems on upgrades of other boot-related packages. Remove 'systemd-boot' See https://pve.proxmox.com/wiki/Upgrade_from_8_to_9#sd-boot-warning for more information.
+```
+
+ Proxmox VE utilise généralement `systemd-boot` pour le démarrage uniquement dans certaines configurations gérées par proxmox-boot-tool. Le méta-paquet `systemd-boot` doit être supprimé. Ce paquet était automatiquement installé sur les systèmes de PVE 8.1 à 8.4, car il contenait `bootctl` dans Bookworm.
+
+Si le script de la checklist pve8to9 le suggère, vous pouvez supprimer le méta-paquet `systemd-boot` sans risque, sauf si vous l'avez installé manuellement et que vous utilisez `systemd-boot` comme bootloader :
+```bash
+apt remove systemd-boot -y
+```
+
+
+```
+WARN: 1 running guest(s) detected - consider migrating or stopping them.
+```
+
+Dans une configuration HA, avant de mettre à jour un nœud, je le mets en mode maintenance. Cela déplace automatiquement les ressources ailleurs. Quand ce mode est désactivé, la machine revient à son emplacement précédent.
+
+```
+WARN: The matching CPU microcode package 'amd64-microcode' could not be found! Consider installing it to receive the latest security and bug fixes for your CPU.
+        Ensure you enable the 'non-free-firmware' component in the apt sources and run:
+        apt install amd64-microcode
+```
+
+Il est recommandé d’installer le microcode processeur pour les mises à jour qui peuvent corriger des bogues matériels, améliorer les performances et renforcer la sécurité du processeur.
+
+J’ajoute la source `non-free-firmware` aux sources actuelles :
+```bash
+sed -i '/^deb /{/non-free-firmware/!s/$/ non-free-firmware/}' /etc/apt/sources.list
+```
+
+Puis installe le paquet `amd64-microcode` :
+```bash
+apt update
+apt install amd64-microcode -y
+```
+
+Après ces petits ajustements, suis‑je prêt ? Vérifions en relançant le script `pve8to9`.
+
+⚠️ N’oubliez pas de lancer `pve8to9` sur tous les nœuds pour vous assurer que tout est OK.
+
+---
+## Mise à Niveau
+
+🚀 Maintenant tout est prêt pour le grand saut ! Comme pour la mise à jour mineure, je procéderai nœud par nœud, en gardant mes VM et CT actives.
+
+### Mettre le Mode Maintenance
+
+D’abord, j’entre le nœud en mode maintenance. Cela déplacera la charge existante sur les autres nœuds :
+```bash
+ha-manager crm-command node-maintenance enable $(hostname)
+```
+
+Après avoir exécuté la commande, j’attends environ une minute pour laisser le temps aux ressources de migrer.
+
+### Changer les Dépôts Sources vers Trixie
+
+Depuis Debian Trixie, le format `deb822` est désormais disponible et recommandé pour les sources. Il est structuré autour d’un format clé/valeur. Cela offre une meilleure lisibilité et sécurité.
+
+#### Sources Debian
+```bash
+cat > /etc/apt/sources.list.d/debian.sources << EOF
+Types: deb deb-src
+URIs: http://deb.debian.org/debian/
+Suites: trixie trixie-updates
+Components: main contrib non-free-firmware
+Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg
+
+Types: deb deb-src
+URIs: http://security.debian.org/debian-security/
+Suites: trixie-security
+Components: main contrib non-free-firmware
+Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg
+EOF
+```
+
+#### Sources Proxmox (sans subscription)
+```bash
+cat > /etc/apt/sources.list.d/proxmox.sources << EOF
+Types: deb 
+URIs: http://download.proxmox.com/debian/pve
+Suites: trixie
+Components: pve-no-subscription
+Signed-By: /usr/share/keyrings/proxmox-archive-keyring.gpg
+EOF
+```
+
+#### Sources Ceph Squid (sans subscription)
+```bash
+cat > /etc/apt/sources.list.d/ceph.sources << EOF
+Types: deb
+URIs: http://download.proxmox.com/debian/ceph-squid
+Suites: trixie
+Components: no-subscription
+Signed-By: /usr/share/keyrings/proxmox-archive-keyring.gpg
+EOF
+```
+
+#### Supprimer les Anciennes Listes Bookworm
+
+Les listes pour Debian Bookworm au format ancien doivent être supprimées :
+```bash
+rm -f /etc/apt/sources.list{,.d/*.list}
+```
+
+### Mettre à Jour les Dépôts `apt` Configurés
+
+Rafraîchir les dépôts :  
+```bash
+apt update
+```
+```plaintext
+Get:1 http://security.debian.org/debian-security trixie-security InRelease [43.4 kB]
+Get:2 http://deb.debian.org/debian trixie InRelease [140 kB]                                                                       
+Get:3 http://download.proxmox.com/debian/ceph-squid trixie InRelease [2,736 B]        
+Get:4 http://download.proxmox.com/debian/pve trixie InRelease [2,771 B]               
+Get:5 http://deb.debian.org/debian trixie-updates InRelease [47.3 kB]
+Get:6 http://security.debian.org/debian-security trixie-security/main Sources [91.1 kB]
+Get:7 http://security.debian.org/debian-security trixie-security/non-free-firmware Sources [696 B]
+Get:8 http://security.debian.org/debian-security trixie-security/main amd64 Packages [69.0 kB]
+Get:9 http://security.debian.org/debian-security trixie-security/main Translation-en [45.1 kB]
+Get:10 http://security.debian.org/debian-security trixie-security/non-free-firmware amd64 Packages [544 B]
+Get:11 http://security.debian.org/debian-security trixie-security/non-free-firmware Translation-en [352 B]
+Get:12 http://download.proxmox.com/debian/ceph-squid trixie/no-subscription amd64 Packages [33.2 kB]
+Get:13 http://deb.debian.org/debian trixie/main Sources [10.5 MB] 
+Get:14 http://download.proxmox.com/debian/pve trixie/pve-no-subscription amd64 Packages [241 kB]
+Get:15 http://deb.debian.org/debian trixie/non-free-firmware Sources [6,536 B]
+Get:16 http://deb.debian.org/debian trixie/contrib Sources [52.3 kB]
+Get:17 http://deb.debian.org/debian trixie/main amd64 Packages [9,669 kB]
+Get:18 http://deb.debian.org/debian trixie/main Translation-en [6,484 kB]
+Get:19 http://deb.debian.org/debian trixie/contrib amd64 Packages [53.8 kB]
+Get:20 http://deb.debian.org/debian trixie/contrib Translation-en [49.6 kB]
+Get:21 http://deb.debian.org/debian trixie/non-free-firmware amd64 Packages [6,868 B]
+Get:22 http://deb.debian.org/debian trixie/non-free-firmware Translation-en [4,704 B]
+Get:23 http://deb.debian.org/debian trixie-updates/main Sources [2,788 B]
+Get:24 http://deb.debian.org/debian trixie-updates/main amd64 Packages [5,412 B]
+Get:25 http://deb.debian.org/debian trixie-updates/main Translation-en [4,096 B]
+Fetched 27.6 MB in 3s (8,912 kB/s)              
+Reading package lists... Done
+Building dependency tree... Done
+Reading state information... Done
+666 packages can be upgraded. Run 'apt list --upgradable' to see them.
+```
+
+😈 666 paquets, je suis condamné !
+
+### Mise à Niveau vers Debian Trixie et Proxmox VE 9
+
+Lancer la mise à niveau :
+```bash
+apt-get dist-upgrade -y
+```
+
+Pendant le processus, vous serez invité à approuver des changements de fichiers de configuration et certains redémarrages de services. Il se peut aussi que vous voyiez la sortie de certains changements, vous pouvez simplement en sortir en appuyant sur `q` :
+- `/etc/issue` : Proxmox VE régénérera automatiquement ce fichier au démarrage -> `No`
+- `/etc/lvm/lvm.conf` : Changements pertinents pour Proxmox VE seront mis à jour -> `Yes`
+- `/etc/ssh/sshd_config` : Selon votre configuration -> `Inspect`
+- `/etc/default/grub` : Seulement si vous l’avez modifié manuellement -> `Inspect`
+- `/etc/chrony/chrony.conf` : Si vous n’avez pas fait de modifications supplémentaires -> `Yes`
+
+La mise à niveau a pris environ 5 minutes, selon le matériel.
+
+À la fin de la mise à niveau, redémarrez la machine :
+```bash
+reboot
+```
+### Sortir du Mode Maintenance
+
+Enfin, quand le nœud (espérons‑le) est revenu, vous pouvez désactiver le mode maintenance. La charge qui était localisée sur cette machine reviendra :
+```bash
+ha-manager crm-command node-maintenance disable $(hostname)
+```
+
+### Validation Après Mise à Niveau
+
+- Vérifier la communication du cluster :
+```bash
+pvecm status
+```
+
+- Vérifier les points de montage des stockages
+
+- Vérifier la santé du cluster Ceph :
+```bash
+ceph status
+```
+
+- Confirmer les opérations VM, les sauvegardes et les groupes HA
+
+Les groupes HA ont été retirés au profit des règles d’affinité HA. Les groupes HA sont automatiquement migrés en règles HA.  
+
+- Désactiver le dépôt PVE Enterprise
+
+Si vous n’utilisez pas le dépôt `pve-enterprise`, vous pouvez le désactiver :   `` ```
+```bash
+sed -i 's/^/#/' /etc/apt/sources.list.d/pve-enterprise.sources
+```
+
+🔁 Ce nœud est maintenant mis à niveau vers Proxmox VE 9. Procédez aux autres nœuds.
+
+## Actions Postérieures
+
+Une fois que tout le cluster a été mis à niveau, procédez aux actions postérieures :
+
+- Supprimer le flag `noout` du cluster Ceph :
+```bash
+ceph osd unset noout
+```
+
+- Recréer les mappings PCI passthrough
+
+Pour la VM pour laquelle j’ai retiré le mapping hôte au début de la procédure, je peux maintenant recréer le mapping.
+
+- Ajouter les privilèges pour le rôle Terraform
+
+Pendant la phase de vérification, il m’a été conseillé de supprimer le privilège `VM.Monitor` de mon rôle personnalisé pour Terraform. Maintenant que de nouveaux privilèges ont été ajoutés avec Proxmox VE 9, je peux les attribuer à ce rôle :
+- VM.GuestAgent.Audit
+- VM.GuestAgent.FileRead
+- VM.GuestAgent.FileWrite
+- VM.GuestAgent.FileSystemMgmt
+- VM.GuestAgent.Unrestricted
+
+## Conclusion
+
+🎉 Mon cluster Proxmox VE est maintenant en version 9 !
+
+Le processus de mise à niveau s’est déroulé assez tranquillement, sans aucune interruption pour mes ressources.
+
+J’ai maintenant accès aux règles d’affinité HA, dont j’avais besoin pour mon cluster OPNsense.
+
+Comme vous avez pu le constater, je ne maintiens pas mes nœuds à jour très souvent. Je pourrais automatiser cela la prochaine fois, pour les garder à jour sans effort.
+
+

content/post/14-proxmox-cluster-upgrade-8-to-9-ceph/index.md

@@ -0,0 +1,425 @@
+---
+slug: proxmox-cluster-upgrade-8-to-9-ceph
+title: Upgrading my 3-node Proxmox VE HA Cluster from 8 to 9 based on Ceph
+description: Step-by-step upgrade of my 3-node Proxmox VE highly available cluster from 8 to 9, based on Ceph distributed storage, without any downtime.
+date: 2025-11-04
+draft: false
+tags:
+  - proxmox
+  - high-availability
+  - ceph
+categories:
+  - homelab
+---
+
+## Intro
+
+My **Proxmox VE** cluster is almost one year old now, and I haven’t kept the nodes fully up to date. Time to address this and bump it to Proxmox VE **9**.
+
+I'm mainly after the new HA affinity rules, but here the useful changes that this version brings:
+- Debian 13 "Trixie".
+- Snapshots for thick-provisioned LVM shared storage.
+- SDN fabrics feature.
+- Improved mobile UI.
+- Affinity rules in HA cluster.
+
+The cluster is a three‑node, highly available, hyper‑converged setup using Ceph for distributed storage.
+
+In this article, I'll walk through the upgrade steps for my Proxmox VE cluster, from 8 to 9, while keeping the resources up and running. [Official docs](https://pve.proxmox.com/wiki/Upgrade_from_8_to_9).
+
+---
+## Prerequisites
+
+Before jumping into the upgrade, let's review the prerequisites:
+
+1. All nodes upgraded to the latest Proxmox VE `8.4`.
+2. Ceph cluster upgraded to  Squid (`19.2`).
+3. Proxmox Backup Server upgraded to version 4.
+4. Reliable access to the node.
+5. Healthy cluster.
+6. Backup of all VMs and CTs.
+7. At least 5 GB free on `/`.
+
+Notes about my environment:
+
+- PVE nodes are on `8.3.2`, so a minor upgrade to 8.4 is required first.
+- Ceph is Reef (`18.2.4`) and will be upgraded to Squid after PVE 8.4.
+- I don’t use PBS in my homelab, so I can skip that step.
+- I have more than 10GB available on `/` on my nodes, this is fine.
+- I only have SSH console access, if a node becomes unresponsive I may need physical access.
+- One VM has a CPU passthrough (APU). Passthrough prevents live‑migration, so I remove that mapping prior to the upgrade.
+- Set Ceph OSDs to `noout` during the upgrade to avoid automatic rebalancing:  
+```bash
+ceph osd set noout
+```
+
+### Update Proxmox VE to 8.4.14
+
+The plan is simple, for all nodes, one at a time:
+
+1. Enable the maintenance mode
+```bash
+ha-manager crm-command node-maintenance enable $(hostname)
+```
+
+2. Update the node
+```bash
+apt-get update
+apt-get dist-upgrade -y
+```
+
+At the end of the update, I'm invited to remove a bootloader, which I execute:
+```plaintext
+Removable bootloader found at '/boot/efi/EFI/BOOT/BOOTX64.efi', but GRUB packages not set up to update it!
+Run the following command:
+
+echo 'grub-efi-amd64 grub2/force_efi_extra_removable boolean true' | debconf-set-selections -v -u
+
+Then reinstall GRUB with 'apt install --reinstall grub-efi-amd64'
+```
+
+3. Restart the machine
+```bash
+reboot
+```
+
+4. Disable the maintenance node
+```bash
+ha-manager crm-command node-maintenance disable $(hostname)
+```
+
+Between each node, I wait for the Ceph status to be clean, without warnings.
+
+✅ At the end, the Proxmox VE cluster is updated to `8.4.14`
+
+### Upgrade Ceph from Reef to Squid
+
+I can now move on into the Ceph upgrade, the Proxmox documentation for that procedure is [here](https://pve.proxmox.com/wiki/Ceph_Reef_to_Squid).
+
+Update Ceph package sources on every node:
+```bash
+sed -i 's/reef/squid/' /etc/apt/sources.list.d/ceph.list
+```
+
+Upgrade the Ceph packages:
+```
+apt update
+apt full-upgrade -y
+```
+
+After the upgrade on the first node, the Ceph version now shows `19.2.3`, I can see my OSDs appear as outdated, the monitors need either an upgrade or a restart:
+![Ceph storage status in Proxmox after first node Ceph package udpate](images/proxmox-ceph-version-upgrade.png)
+
+I carry on and upgrade the packages on the 2 other nodes. 
+
+I have a monitor on each node, so I have to restart each monitor, one node at a time:
+```bash
+systemctl restart ceph-mon.target
+```
+
+I verify the Ceph status between each restart:
+```bash
+ceph status
+```
+
+Once all monitors are restarted, they report the latest version, with `ceph mon dump`:
+- Before: `min_mon_release 18 (reef)`
+- After: `min_mon_release 19 (squid)`
+
+Now I can restart the OSDs, still one node at a time. In my setup, I have one OSD per node:
+```bash
+systemctl restart ceph-osd.target
+```
+
+I monitor the Ceph status with the Proxmox WebGUI. After the restart, it is showing some fancy colors. I'm just waiting for the PGs to be back to green, it takes less than a minute:
+![Ceph storage status in Proxmox during the first OSD restart](images/proxmox-ceph-status-osd-restart.png)
+
+A warning shows up: `HEALTH_WARN: all OSDs are running squid or later but require_osd_release < squid`
+
+Now all my OSDs are running Squid, I can set the minimum version to it:
+```bash
+ceph osd require-osd-release squid
+```
+
+ℹ️ I'm not currently using CephFS so I don't have to care about the MDS (MetaData Server) daemon.
+
+✅ The Ceph cluster has been successfully upgraded to Squid (`19.2.3`).
+
+---
+## Checks
+
+The prerequisites to upgrade the cluster to Proxmox VE 9 are now complete. Am I ready to upgrade? Not yet.
+
+A small checklist program named **`pve8to9`** is included in the latest Proxmox VE 8.4 packages. The program will provide hints and warnings about potential issues before, during and after the upgrade process. Pretty handy isn't it?
+
+Running the tool the first time give me some insights on what I need to do. The script checks a number of parameters, grouped by theme. For example, this is the Virtual Guest section:
+```plaintext
+= VIRTUAL GUEST CHECKS =
+
+INFO: Checking for running guests..
+WARN: 1 running guest(s) detected - consider migrating or stopping them.
+INFO: Checking if LXCFS is running with FUSE3 library, if already upgraded..
+SKIP: not yet upgraded, no need to check the FUSE library version LXCFS uses
+INFO: Checking for VirtIO devices that would change their MTU...
+PASS: All guest config descriptions fit in the new limit of 8 KiB
+INFO: Checking container configs for deprecated lxc.cgroup entries
+PASS: No legacy 'lxc.cgroup' keys found.
+INFO: Checking VM configurations for outdated machine versions
+PASS: All VM machine versions are recent enough
+```
+
+At the end, you have the summary. The goal is to address as many `FAILURES` and `WARNINGS` as possible:
+```plaintext
+= SUMMARY =
+
+TOTAL:    57
+PASSED:   43
+SKIPPED:  7
+WARNINGS: 2
+FAILURES: 2
+```
+
+Let's review the problems it found:
+
+```
+FAIL: 1 custom role(s) use the to-be-dropped 'VM.Monitor' privilege and need to be adapted after the upgrade
+```
+
+Some time ago, in order to use Terraform with my Proxmox cluster, I created a dedicated role. This was detailed in that [post]({{< ref "post/3-terraform-create-vm-proxmox" >}}).
+
+This role is using the `VM.Monitor` privilege, which is removed in Proxmox VE 9. Instead, new privileges  under `VM.GuestAgent.*` exist. So I remove this one and I'll add those once the cluster have been upgraded.
+
+```
+FAIL: systemd-boot meta-package installed. This will cause problems on upgrades of other boot-related packages. Remove 'systemd-boot' See https://pve.proxmox.com/wiki/Upgrade_from_8_to_9#sd-boot-warning for more information.
+```
+
+ Proxmox VE usually uses `systemd-boot` for booting only in some configurations which are managed by `proxmox-boot-tool`, the meta-package `systemd-boot` should be removed. The package was automatically shipped for systems installed from the PVE 8.1 to PVE 8.4, as it contained `bootctl` in Bookworm.
+
+If the `pve8to9` checklist script suggests it, the `systemd-boot` meta-package is safe to remove unless you manually installed it and are using `systemd-boot` as a bootloader:
+```bash
+apt remove systemd-boot -y
+```
+
+
+```
+WARN: 1 running guest(s) detected - consider migrating or stopping them.
+```
+
+In HA setup, before updating a node, I put it in maintenance mode. This automatically moves the workload elsewhere. When this mode is disabled, the workload moves back to its previous location.
+
+```
+WARN: The matching CPU microcode package 'amd64-microcode' could not be found! Consider installing it to receive the latest security and bug fixes for your CPU.
+        Ensure you enable the 'non-free-firmware' component in the apt sources and run:
+        apt install amd64-microcode
+```
+
+It is recommended to install processor microcode for updates which can fix hardware bugs, improve performance, and enhance security features of the processor.
+
+I add the `non-free-firmware` source to the current ones:
+```bash
+sed -i '/^deb /{/non-free-firmware/!s/$/ non-free-firmware/}' /etc/apt/sources.list
+```
+
+Then install the `amd64-microcode` package:
+```bash
+apt update
+apt install amd64-microcode -y
+```
+
+After these small adjustments, am I ready yet? Let's find out by relaunching the `pve8to9` script.
+
+⚠️ Don't forget to run the `pve8to9` on all nodes to make sure everything is good.
+
+---
+## Upgrade
+
+🚀 Now everything is ready for the big move! Like I did for the minor update, I'll proceed one node at a time, keeping my VMs and CTs up and running.
+
+### Set Maintenance Mode
+
+First, I enter the node into maintenance mode. This will move existing workload on other nodes:
+```bash
+ha-manager crm-command node-maintenance enable $(hostname)
+```
+
+After issuing the command, I wait about one minute to give the resources the time to migrate.
+
+### Change Source Repositories to Trixie
+
+Since Debian Trixie, the `deb822` format is now available and recommended for sources. It is structured around key/value format. This offers better readability and security.
+
+#### Debian Sources
+```bash
+cat > /etc/apt/sources.list.d/debian.sources << EOF
+Types: deb deb-src
+URIs: http://deb.debian.org/debian/
+Suites: trixie trixie-updates
+Components: main contrib non-free-firmware
+Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg
+
+Types: deb deb-src
+URIs: http://security.debian.org/debian-security/
+Suites: trixie-security
+Components: main contrib non-free-firmware
+Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg
+EOF
+```
+
+#### Proxmox Sources (without subscription)
+```bash
+cat > /etc/apt/sources.list.d/proxmox.sources << EOF
+Types: deb 
+URIs: http://download.proxmox.com/debian/pve
+Suites: trixie
+Components: pve-no-subscription
+Signed-By: /usr/share/keyrings/proxmox-archive-keyring.gpg
+EOF
+```
+
+#### Ceph Squid Sources (without subscription)
+```bash
+cat > /etc/apt/sources.list.d/ceph.sources << EOF
+Types: deb
+URIs: http://download.proxmox.com/debian/ceph-squid
+Suites: trixie
+Components: no-subscription
+Signed-By: /usr/share/keyrings/proxmox-archive-keyring.gpg
+EOF
+```
+
+#### Remove Old Bookworm Source Lists
+
+The lists for Debian Bookworm in the old format must be removed:
+```bash
+rm -f /etc/apt/sources.list{,.d/*.list}
+```
+
+### Update the Configured `apt` Repositories
+
+Refresh the repositories:
+```bash
+apt update
+```
+```plaintext
+Get:1 http://security.debian.org/debian-security trixie-security InRelease [43.4 kB]
+Get:2 http://deb.debian.org/debian trixie InRelease [140 kB]                                                                       
+Get:3 http://download.proxmox.com/debian/ceph-squid trixie InRelease [2,736 B]        
+Get:4 http://download.proxmox.com/debian/pve trixie InRelease [2,771 B]               
+Get:5 http://deb.debian.org/debian trixie-updates InRelease [47.3 kB]
+Get:6 http://security.debian.org/debian-security trixie-security/main Sources [91.1 kB]
+Get:7 http://security.debian.org/debian-security trixie-security/non-free-firmware Sources [696 B]
+Get:8 http://security.debian.org/debian-security trixie-security/main amd64 Packages [69.0 kB]
+Get:9 http://security.debian.org/debian-security trixie-security/main Translation-en [45.1 kB]
+Get:10 http://security.debian.org/debian-security trixie-security/non-free-firmware amd64 Packages [544 B]
+Get:11 http://security.debian.org/debian-security trixie-security/non-free-firmware Translation-en [352 B]
+Get:12 http://download.proxmox.com/debian/ceph-squid trixie/no-subscription amd64 Packages [33.2 kB]
+Get:13 http://deb.debian.org/debian trixie/main Sources [10.5 MB] 
+Get:14 http://download.proxmox.com/debian/pve trixie/pve-no-subscription amd64 Packages [241 kB]
+Get:15 http://deb.debian.org/debian trixie/non-free-firmware Sources [6,536 B]
+Get:16 http://deb.debian.org/debian trixie/contrib Sources [52.3 kB]
+Get:17 http://deb.debian.org/debian trixie/main amd64 Packages [9,669 kB]
+Get:18 http://deb.debian.org/debian trixie/main Translation-en [6,484 kB]
+Get:19 http://deb.debian.org/debian trixie/contrib amd64 Packages [53.8 kB]
+Get:20 http://deb.debian.org/debian trixie/contrib Translation-en [49.6 kB]
+Get:21 http://deb.debian.org/debian trixie/non-free-firmware amd64 Packages [6,868 B]
+Get:22 http://deb.debian.org/debian trixie/non-free-firmware Translation-en [4,704 B]
+Get:23 http://deb.debian.org/debian trixie-updates/main Sources [2,788 B]
+Get:24 http://deb.debian.org/debian trixie-updates/main amd64 Packages [5,412 B]
+Get:25 http://deb.debian.org/debian trixie-updates/main Translation-en [4,096 B]
+Fetched 27.6 MB in 3s (8,912 kB/s)              
+Reading package lists... Done
+Building dependency tree... Done
+Reading state information... Done
+666 packages can be upgraded. Run 'apt list --upgradable' to see them.
+```
+
+😈 666 packages, I'm doomed!
+
+### Upgrade to Debian Trixie and Proxmox VE 9
+
+Launch the upgrade:
+```bash
+apt-get dist-upgrade -y
+```
+
+During the process , you will be prompted to approve changes to configuration files and some service restarts. You may also be shown the output of changes, you can simply exit there by pressing `q`:
+- `/etc/issue`: Proxmox VE will auto-generate this file on boot -> `No`
+- `/etc/lvm/lvm.conf`: Changes relevant for Proxmox VE will be updated -> `Yes`
+- `/etc/ssh/sshd_config`: Depending your setup -> `Inspect`
+- `/etc/default/grub`: Only if you changed it manually -> `Inspect`
+- `/etc/chrony/chrony.conf`: If you did not make extra changes yourself -> `Yes`
+
+The upgrade took about 5 minutes, depending of the hardware.
+
+At the end of the upgrade, restart the machine:
+```bash
+reboot
+```
+### Remove Maintenance Mode
+
+Finally when the node (hopefully) comes back, you can disable the maintenance mode. The workload which was located on that machine will come back:
+```bash
+ha-manager crm-command node-maintenance disable $(hostname)
+```
+
+### Post-Upgrade Validation
+
+- Check cluster communication:
+```bash
+pvecm status
+```
+
+- Verify storage mounts points
+
+- Check Ceph cluster health :
+```bash
+ceph status
+```
+
+- Confirm VM operations, backups, and HA groups
+
+HA groups have been removed at the profit of HA affinity rules. HA groups are automatically migrated to HA rules.
+
+- Disable PVE Enterprise repository
+
+If you don't use the `pve-enterprise` repo, you can disable it:
+```bash
+sed -i 's/^/#/' /etc/apt/sources.list.d/pve-enterprise.sources
+```
+
+🔁 This node is now upgraded to Proxmox VE 9. Proceed to other nodes.
+
+## Post Actions
+
+Once the whole cluster has been upgraded, proceed to post actions:
+
+- Remove the Ceph cluster `noout` flag:
+```bash
+ceph osd unset noout
+```
+
+- Recreate PCI passthrough mapping 
+
+For the VM which I removed the host mapping at the beginning of the procedure, I can now recreate the mapping.
+
+-  Add privileges for the Terraform role
+
+During the check phase, I was advised to remove the privilege `VM.Monitor` from my custom role for Terraform. Now that new privileges have been added with Proxmox VE 9, I can assign them to that role:
+- VM.GuestAgent.Audit
+- VM.GuestAgent.FileRead
+- VM.GuestAgent.FileWrite
+- VM.GuestAgent.FileSystemMgmt
+- VM.GuestAgent.Unrestricted
+
+## Conclusion
+
+🎉My Proxmox VE cluster is now is version 9!
+
+The upgrade process was pretty smooth, without any downtime for my resources.
+
+Now I have access to HA affinity rules, which I was needing for my OPNsense cluster.
+
+As you could observe, I'm not maintaining my node up to date quite often. I might automate this next time, to keep them updated without any effort.
+
+
+

content/post/15-migration-opnsense-proxmox-highly-available/index.fr.md

@@ -0,0 +1,423 @@
+---
+slug: migration-opnsense-proxmox-highly-available
+title: Migration vers mon cluster OPNsense HA dans Proxmox VE
+description: La démarche détaillée de la migration de ma box OPNsense physique vers un cluster de VM hautement disponible dans Proxmox VE.
+date: 2025-11-20
+draft: false
+tags:
+  - opnsense
+  - high-availability
+  - proxmox
+categories:
+  - homelab
+---
+## Intro
+
+C'est la dernière étape de mon aventure de virtualisation d'**OPNsense**.
+
+Il y a quelques mois, ma [box OPNsense physique a crash]({{< ref "post/10-opnsense-crash-disk-panic" >}}) à cause d'une défaillance matérielle. Cela a plongé ma maison dans le noir, littéralement. Pas de réseau, pas de lumières.
+
+💡 Pour éviter de me retrouver à nouveau dans cette situation, j'ai imaginé un plan pour virtualiser mon pare-feu OPNsense dans mon cluster **Proxmox VE**. La dernière fois, j'avais mis en place un [proof of concept]({{< ref "post/12-opnsense-virtualization-highly-available" >}}) pour valider cette solution : créer un cluster de deux VM **OPNsense** dans Proxmox et rendre le firewall hautement disponible.
+
+Cette fois, je vais couvrir la création de mon futur cluster OPNsense depuis zéro, planifier la bascule et finalement migrer depuis ma box physique actuelle. C'est parti !
+
+---
+## La Configuration VLAN
+
+Pour mes plans, je dois connecter le WAN, provenant de ma box FAI, à mon switch principal. Pour cela je crée un VLAN dédié pour transporter ce flux jusqu'à mes nœuds Proxmox.
+
+### UniFi
+
+D'abord, je configure mon réseau de couche 2 qui est géré par UniFi. Là, je dois créer deux VLANs :
+
+- _WAN_ (20) : transporte le WAN entre ma box FAI et mes nœuds Proxmox.
+- _pfSync_ (44), communication entre mes nœuds OPNsense.
+
+Dans le contrôleur UniFi, dans `Paramètres` > `Réseaux`, j'ajoute un `New Virtual Network`. Je le nomme `WAN` et lui donne l'ID VLAN 20 :
+![Création du VLAN WAN dans le contrôleur UniFi](images/unifi-add-vlan-for-wan.png)
+
+Je fais la même chose pour le VLAN `pfSync` avec l'ID VLAN 44.
+
+Je prévois de brancher ma box FAI sur le port 15 de mon switch, qui est désactivé pour l'instant. Je l'active, définis le VLAN natif sur le nouveau `WAN (20)` et désactive le trunking :
+![Configuration du port du switch UniFi pour la liaison WAN](images/unifi-enable-port-wan-vlan.png)
+
+Une fois ce réglage appliqué, je m'assure que seules les ports où sont connectés mes nœuds Proxmox propagent ces VLANs sur leur trunk.
+
+J'ai fini la configuration UniFi.
+
+### Proxmox SDN
+
+Maintenant que le VLAN peut atteindre mes nœuds, je veux le gérer dans le SDN de Proxmox. J'ai configuré le SDN dans [cet article]({{< ref "post/11-proxmox-cluster-networking-sdn" >}}).
+
+Dans `Datacenter` > `SDN` > `VNets`, je crée un nouveau VNet, je l'appelle `vlan20` pour suivre ma propre convention de nommage, je lui donne l'alias _WAN_ et j'utilise le tag (ID VLAN) 20 :
+![Création du VNet pour le WAN dans le SDN Proxmox](images/proxmox-sdn-new-vnet-wan.png)
+
+Je crée aussi le `vlan44` pour le VLAN _pfSync_, puis j'applique cette configuration et nous avons terminé avec le SDN.
+
+---
+## Création des VMs
+
+Maintenant que la configuration VLAN est faite, je peux commencer à construire les machines virtuelles sur Proxmox.
+
+La première VM s'appelle `cerbere-head1` (je ne vous l'ai pas dit ? Mon firewall actuel s'appelle `cerbere`, ça a encore plus de sens maintenant !). Voici les réglages :
+- **Type d'OS** : Linux (même si OPNsense est basé sur FreeBSD)
+- **Type de machine** : `q35`
+- **BIOS** : `OVMF (UEFI)`
+- **Disque** : 20 Go sur stockage Ceph distribué
+- **RAM** : 4 Go, ballooning désactivé
+- **CPU** : 2 vCPU
+- **NICs**, pare-feu désactivé :
+    1. `vmbr0` (_Mgmt_)
+    2. `vlan20` (_WAN_)
+    3. `vlan13` _(User)_
+    4. `vlan37` _(IoT)_
+    5. `vlan44` _(pfSync)_
+    6. `vlan55` _(DMZ)_
+    7. `vlan66` _(Lab)_
+
+![Paramètres matériels de la VM OPNsense dans Proxmox](images/proxmox-cerbere-vm-settings.png)
+
+ℹ️ Maintenant je clone cette VM pour créer `cerbere-head2`, puis je procède à l'installation d'OPNsense. Je ne veux pas entrer trop dans les détails de l'installation d'OPNsense, je l'ai déjà documentée dans le [proof of concept]({{< ref "post/12-opnsense-virtualization-highly-available" >}}).
+
+Après l'installation des deux instances OPNsense, j'attribue à chacune leur IP sur le réseau _Mgmt_ :
+- `cerbere-head1` : `192.168.88.2/24`
+- `cerbere-head2` : `192.168.88.3/24`
+
+Tant que ces routeurs ne gèrent pas encore les réseaux, je leur donne comme passerelle mon routeur OPNsense actuel (`192.168.88.1`) pour me permettre de les atteindre depuis mon portable dans un autre VLAN.
+
+---
+## Configuration d'OPNsense
+
+Initialement, j'envisageais de restaurer ma configuration OPNsense existante et de l'adapter à l'installation.
+
+Puis j'ai décidé de repartir de zéro pour documenter et partager la procédure. Cette partie devenant trop longue, j'ai préféré créer un article dédié.
+
+📖 Vous pouvez trouver les détails de la configuration complète d'OPNsense dans cet [article]({{< ref "post/13-opnsense-full-configuration" >}}), couvrant HA, DNS, DHCP, VPN et reverse proxy.
+
+---
+## VM Proxmox Hautement Disponible
+
+Les ressources (VM ou LXC) dans Proxmox VE peuvent être marquées comme hautement disponibles, voyons comment les configurer.
+
+### Prérequis pour la HA Proxmox
+
+D'abord, votre cluster Proxmox doit le permettre. Il y a quelques exigences :
+
+- Au moins 3 nœuds pour avoir le quorum
+- Stockage partagé pour vos ressources
+- Horloge synchronisée
+- Réseau fiable
+
+Un mécanisme de fencing doit être activé. Le fencing est le processus d'isoler un nœud de cluster défaillant pour s'assurer qu'il n'accède plus aux ressources partagées. Cela évite les situations de split-brain et permet à Proxmox HA de redémarrer en toute sécurité les VM affectées sur des nœuds sains. Par défaut, il utilise le watchdog logiciel Linux, _softdog_, suffisant pour moi.
+
+Dans Proxmox VE 8, il était possible de créer des groupes HA, en fonction de leurs ressources, emplacements, etc. Cela a été remplacé, dans Proxmox VE 9, par des règles d'affinité HA. C'est la raison principale derrière la mise à niveau de mon cluster Proxmox VE, que j'ai détaillée dans ce [post]({{< ref "post/14-proxmox-cluster-upgrade-8-to-9-ceph" >}}).
+
+### Configurer la HA pour les VM
+
+Le cluster Proxmox est capable de fournir de la HA pour les ressources, mais vous devez définir les règles.
+
+Dans `Datacenter` > `HA`, vous pouvez voir le statut et gérer les ressources. Dans le panneau `Resources` je clique sur `Add`. Je dois choisir la ressource à configurer en HA dans la liste, ici `cerbere-head1` avec l'ID 122. Puis dans l'infobulle je peux définir le maximum de redémarrages et de relocations, je laisse `Failback` activé et l'état demandé à `started` :
+![Créer une ressource HA dans Proxmox](images/proxmox-add-vm-ha.png)
+
+Le cluster Proxmox s'assurera maintenant que cette VM est démarrée. Je fais de même pour l'autre VM OPNsense, `cerbere-head2`.
+
+### Règles d'Affinité HA
+
+Super, mais je ne veux pas qu'elles tournent sur le même nœud. C'est là qu'intervient la nouvelle fonctionnalité des règles d'affinité HA de Proxmox VE 9. Proxmox permet de créer des règles d'affinité de nœud et de ressource. Peu m'importe sur quel nœud elles tournent, mais je ne veux pas qu'elles soient ensemble. J'ai besoin d'une règle d'affinité de ressource.
+
+Dans `Datacenter` > `HA` > `Affinity Rules`, j'ajoute une nouvelle règle d'affinité de ressource HA. Je sélectionne les deux VMs et choisis l'option `Keep Separate` :
+![Créer une affinité de ressource HA dans Proxmox](images/proxmox-ha-resource-affinity-rule.png)
+
+✅ Mes VMs OPNsense sont maintenant entièrement prêtes !
+
+---
+## Migration
+
+🚀 Il est temps de rendre cela réel !
+
+Je ne vais pas mentir, je suis assez excité. Je travaille pour ce moment depuis des jours.
+
+### Le Plan de Migration
+
+Ma box OPNsense physique est directement connectée à ma box FAI. Je veux la remplacer par le cluster de VM. (Pour éviter d'écrire le mot OPNsense à chaque ligne, j'appellerai simplement l'ancienne instance "la box" et la nouvelle "la VM" )
+
+Voici le plan :
+1. Sauvegarde de la configuration de la box.
+2. Désactiver le serveur DHCP sur la box.
+3. Changer les adresses IP de la box.
+4. Changer les VIP sur la VM.
+5. Désactiver la passerelle sur la VM.
+6. Configurer le DHCP sur les deux VMs.
+7. Activer le répéteur mDNS sur la VM.
+8. Répliquer les services sur la VM.
+9. Déplacement du câble Ethernet.
+
+### Stratégie de Retour Arrière
+
+Aucune. 😎
+
+Je plaisante, le retour arrière consiste à restaurer la configuration de la box, arrêter les VMs OPNsense et rebrancher le câble Ethernet dans la box.
+
+### Plan de vérification
+
+Pour valider la migration, je dresse une checklist :
+1. Bail DHCP WAN dans la VM.
+2. Ping depuis mon PC vers le VIP du VLAN User.
+3. Ping entre les VLANs.
+4. SSH vers mes machines.
+5. Renouveler le bail DHCP.
+6. Vérifier `ipconfig`
+7. Tester l'accès à des sites internet.
+8. Vérifier les logs du pare-feu.
+9. Vérifier mes services web.
+10. Vérifier que mes services internes ne sont pas accessibles depuis l'extérieur.
+11. Tester le VPN.
+12. Vérifier tous les appareils IoT.
+13. Vérifier les fonctionnalités Home Assistant.
+14. Vérifier que la TV fonctionne.
+15. Tester le Chromecast.
+16. Imprimer quelque chose.
+17. Vérifier la blocklist DNS.
+18. Speedtest.
+19. Bascule.
+20. Failover.
+21. Reprise après sinistre.
+22. Champagne !
+
+Est-ce que ça va marcher ? On verra bien !
+
+### Étapes de Migration
+
+1. **Sauvegarde de la configuration de la box.**
+
+Sur mon instance OPNsense physique, dans `System` > `Configuration` > `Backups`, je clique sur le bouton `Download configuration` qui me donne le précieux fichier XML. Celui qui m'a sauvé la mise la [dernière fois]({{< ref "post/10-opnsense-crash-disk-panic" >}}).
+
+2. **Désactiver le serveur DHCP sur la box.**
+
+Dans `Services` > `ISC DHCPv4`, et pour toutes mes interfaces, je désactive le serveur DHCP. Je ne fournis que du DHCPv4 dans mon réseau.
+
+3. **Changer les adresses IP de la box.**
+
+Dans `Interfaces`, et pour toutes mes interfaces, je modifie l'IP du firewall, de `.1` à `.253`. Je veux réutiliser la même adresse IP comme VIP, et garder cette instance encore joignable si besoin.
+
+Dès que je clique sur `Apply`, je perds la communication, ce qui est attendu.
+
+4. **Changer les VIP sur la VM.**
+
+Sur ma VM maître, dans `Interfaces` > `Virtual IPs` > `Settings`, je change l'adresse VIP pour chaque interface et la mets en `.1`.
+
+5. **Désactiver la passerelle sur la VM.**
+
+Dans `System` > `Gateways` > `Configuration`, je désactive `LAN_GW` qui n'est plus nécessaire.
+
+6. **Configurer le DHCP sur les deux VMs.**
+
+Sur les deux VMs, dans `Services` > `Dnsmasq DNS & DHCP`, j'active le service sur mes 5 interfaces.
+
+7. **Activer le répéteur mDNS sur la VM.**
+
+Dans `Services` > `mDNS Repeater`, j'active le service et j'active aussi le `CARP Failover`.
+
+Le service ne démarre pas. Je verrai ce problème plus tard.
+
+8. **Répliquer les services sur la VM.**
+
+Dans `Système` > `High Availability` > `Status`, je clique sur le bouton `Synchronize and reconfigure all`.
+
+9. **Déplacement du câble Ethernet.**
+
+Physiquement dans mon rack, je débranche le câble Ethernet du port WAN (`igc0`) de ma box OPNsense physique et je le branche sur le port 15 de mon switch UniFi.
+
+---
+## Vérification
+
+😮‍💨 Je prends une grande inspiration et commence la phase de vérification.
+
+### Checklist
+
+- ✅ Bail DHCP WAN dans la VM.
+- ✅ Ping depuis mon PC vers le VIP du VLAN User.
+- ⚠️ Ping entre VLANs.  
+    Les pings fonctionnent, mais j'observe quelques pertes, environ 10 %.
+- ✅ SSH vers mes machines.
+- ✅ Renouvellement du bail DHCP.
+- ✅ Vérifier `ipconfig`
+- ❌ Tester un site internet. → ✅  
+Quelques sites fonctionnent, tout est incroyablement lent... Ça doit être le DNS. J'essaie de résoudre un domaine au hasard, ça marche. Mais je ne peux pas résoudre `google.com`. Je redémarre le service Unbound DNS, tout fonctionne maintenant. C'est toujours le DNS...
+- ⚠️ Vérifier les logs du pare-feu.  
+Quelques flux sont bloqués, pas critique.
+- ✅ Vérifier mes services web.
+- ✅ Vérifier que mes services internes ne sont pas accessibles depuis l'extérieur.
+- ✅ Tester le VPN.
+- ✅ Vérifier tous les appareils IoT.
+- ✅ Vérifier les fonctionnalités Home Assistant.
+- ✅ Vérifier que la TV fonctionne.
+- ❌ Tester le Chromecast.  
+C'est lié au service mDNS qui ne parvient pas à démarrer. Je peux le démarrer si je décoche l'option `CARP Failover`. Le Chromecast est visible maintenant. → ⚠️
+- ✅ Imprimer quelque chose.
+- ✅ Vérifier la blocklist DNS.
+- ✅ Speedtest.  
+J'observe environ 15 % de diminution de bande passante (de 940Mbps à 825Mbps).
+- ❌ Bascule.  
+La bascule fonctionne difficilement, beaucoup de paquets perdus pendant la bascule. Le service rendu n'est pas génial : plus d'accès internet et mes services web sont inaccessibles.
+- ⌛ Failover.
+- ⌛ Reprise après sinistre.  
+À tester plus tard.
+
+📝 Bon, les résultats sont plutôt bons, pas parfaits, mais satisfaisants !
+### Résolution des Problèmes
+
+Je me concentre sur la résolution des problèmes restants rencontrés lors des tests.
+
+1. **DNS**
+
+Lors de la bascule, la connexion internet ne fonctionne pas. Pas de DNS, c'est toujours le DNS.
+
+C'est parce que le nœud de secours n'a pas de passerelle lorsqu'il est en mode passif. L'absence de passerelle empêche le DNS de résoudre. Après la bascule, il conserve des domaines non résolus dans son cache. Ce problème conduit aussi à un autre souci : quand il est passif, je ne peux pas mettre à jour le système.
+
+**Solution** : Définir une passerelle pointant vers l'autre nœud, avec un numéro de priorité plus élevé que la passerelle WAN (un numéro plus élevé signifie une priorité plus basse). Ainsi, cette passerelle n'est pas active tant que le nœud est maître.
+
+2. **Reverse Proxy**
+
+Lors de la bascule, tous les services web que j'héberge (reverse proxy/proxy couche 4) renvoient cette erreur : `SSL_ERROR_INTERNAL_ERROR_ALERT`. Après vérification des services synchronisés via XMLRPC Sync, Caddy et mDNS repeater n'étaient pas sélectionnés. C'est parce que ces services ont été installés après la configuration initiale du HA.
+
+**Solution** : Ajouter Caddy à XMLRPC Sync.
+
+3. **Pertes de paquets**
+
+J'observe environ 10 % de pertes de paquets pour les pings depuis n'importe quel VLAN vers le VLAN _Mgmt_. Je n'ai pas ce problème pour les autres VLANs.
+
+Le VLAN _Mgmt_ est le VLAN natif dans mon réseau, cela pourrait être la raison de ce problème. C'est le seul réseau non défini dans le SDN Proxmox. Je ne veux pas avoir à tagger ce VLAN.
+
+**Solution** : Désactiver le pare-feu Proxmox de cette interface pour la VM. En réalité, je les ai tous désactivés et mis à jour la documentation ci-dessus. Je ne sais pas exactement pourquoi cela causait ce type de problème, mais la désactivation a résolu mon souci (j'ai pu reproduire le comportement en réactivant le pare-feu).
+
+4. **Script CARP**
+
+Lors de la bascule, le script d'événement CARP est déclenché autant de fois qu'il y a d'interfaces. J'ai 5 IPs virtuelles, le script reconfigure mon interface WAN 5 fois.
+
+**Solution** : Retravailler le script pour récupérer l'état de l'interface WAN et ne reconfigurer l'interface que lorsque c'est nécessaire :
+```php
+#!/usr/local/bin/php
+<?php
+/**
+ * OPNsense CARP event script
+ * - Enables/disables the WAN interface only when needed
+ * - Avoids reapplying config when CARP triggers multiple times
+ */
+
+require_once("config.inc");
+require_once("interfaces.inc");
+require_once("util.inc");
+require_once("system.inc");
+
+// Read CARP event arguments
+$subsystem = !empty($argv[1]) ? $argv[1] : '';
+$type = !empty($argv[2]) ? $argv[2] : '';
+
+// Accept only MASTER/BACKUP events
+if (!in_array($type, ['MASTER', 'BACKUP'])) {
+    // Ignore CARP INIT, DEMOTED, etc.
+    exit(0);
+}
+
+// Validate subsystem name format, expected pattern: <ifname>@<vhid>
+if (!preg_match('/^[a-z0-9_]+@\S+$/i', $subsystem)) {
+    log_error("Malformed subsystem argument: '{$subsystem}'.");
+    exit(0);
+}
+
+// Interface key to manage
+$ifkey = 'wan';
+// Determine whether WAN interface is currently enabled
+$ifkey_enabled = !empty($config['interfaces'][$ifkey]['enable']) ? true : false;
+
+// MASTER event
+if ($type === "MASTER") {
+    // Enable WAN only if it's currently disabled
+    if (!$ifkey_enabled) {
+        log_msg("CARP event: switching to '$type', enabling interface '$ifkey'.", LOG_WARNING);
+        $config['interfaces'][$ifkey]['enable'] = '1';
+        write_config("enable interface '$ifkey' due CARP event '$type'", false);
+        interface_configure(false, $ifkey, false, false);
+    } else {
+        log_msg("CARP event: already '$type' for interface '$ifkey', nothing to do.");
+    }
+
+// BACKUP event
+} else {
+    // Disable WAN only if it's currently enabled
+    if ($ifkey_enabled) {
+        log_msg("CARP event: switching to '$type', disabling interface '$ifkey'.", LOG_WARNING);
+        unset($config['interfaces'][$ifkey]['enable']);
+        write_config("disable interface '$ifkey' due CARP event '$type'", false);
+        interface_configure(false, $ifkey, false, false);
+    } else {
+        log_msg("CARP event: already '$type' for interface '$ifkey', nothing to do.");
+    }
+}
+```
+
+5. **mDNS Repeater**
+
+Le répéteur mDNS ne veut pas démarrer quand je sélectionne l'option `CARP Failover`.
+
+**Solution** : La machine nécessite un redémarrage pour démarrer ce service compatible CARP.
+
+6. **Adresse IPv6**
+
+Mon nœud `cerbere-head1` crie dans le fichier de logs tandis que l'autre ne le fait pas. Voici les messages affichés chaque seconde quand il est maître :
+```plaintext
+Warning rtsold <interface_up> vtnet1 is disabled. in the logs (OPNsense)
+```
+
+Un autre message que j'ai plusieurs fois après un switchback :
+```plaintext
+Error dhcp6c transmit failed: Can't assign requested address
+```
+
+Ceci est lié à IPv6. J'observe que mon nœud principal n'a pas d'adresse IPv6 globale, seulement une link-local. De plus, il n'a pas de passerelle IPv6. Mon nœud secondaire, en revanche, a à la fois l'adresse globale et la passerelle.
+
+Je ne suis pas expert IPv6, après quelques heures de recherche, j'abandonne IPv6. Si quelqu'un peut m'aider, ce serait vraiment apprécié !
+
+**Contournement** : Supprimer DHCPv6 pour mon interface WAN.
+
+### Confirmation
+
+Maintenant que tout est corrigé, je peux évaluer les performances du failover.
+
+1. **Basculement**
+
+En entrant manuellement en mode maintenance CARP depuis l'interface WebGUI, aucune perte de paquets n'est observée. Impressionnant.
+
+2. **Failover**
+
+Pour simuler un failover, je tue la VM OPNsense active. Ici j'observe une seule perte de paquet. Génial.
+
+![Test de ping pendant le CARP failover d'OPNsense](images/opnsense-ping-failover.png)
+
+3. **Reprise après sinistre**
+
+Une reprise après sinistre est ce qui se produirait après un arrêt complet d'un cluster Proxmox, suite à une coupure de courant par exemple. Je n'ai pas eu le temps (ni le courage) de m'en occuper, je préfère mieux me préparer pour éviter les dommages collatéraux. Mais il est certain que ce genre de scénario doit être évalué.
+
+### Avantages Supplémentaires
+
+Outre le fait que cette nouvelle configuration est plus résiliente, j'ai constaté quelques autres avantages.
+
+Mon rack est minuscule et l'espace est restreint. L'ensemble chauffe beaucoup, dépassant les 40 °C au sommet du rack en été. Réduire le nombre de machines allumées a permis de faire baisser la température. J'ai gagné 1,5 °C après avoir éteint l'ancien boîtier OPNsense, c'est super !
+
+La consommation électrique est également un point important, mon petit datacenter consommait en moyenne 85 W. Là encore, j'ai constaté une légère baisse, d'environ 8 W. Sachant que le système fonctionne 24/7, ce n'est pas négligeable.
+
+Enfin, j'ai également retiré le boîtier lui-même et le câble d'alimentation. Les places sont très limitées, ce qui est un autre point positif.
+
+---
+## Conclusion
+
+🎉 J'ai réussi les gars ! Je suis très fier du résultat, et fier de moi.
+
+De mon [premier crash de ma box OPNsense]({{< ref "post/10-opnsense-crash-disk-panic" >}}), à la recherche d'une solution, en passant par la [proof of concept]({{< ref "post/12-opnsense-virtualization-highly-available" >}}) de haute disponibilité, jusqu'à cette migration, ce fut un projet assez long, mais extrêmement intéressant.
+
+🎯 Se fixer des objectifs, c'est bien, mais les atteindre, c'est encore mieux.
+
+Je vais maintenant mettre OPNsense de côté un petit moment pour me recentrer sur mon apprentissage de Kubernetes !
+
+Comme toujours, si vous avez des questions, des remarques ou une solution à mon problème d'IPv6, je serai ravi de vous aider.

content/post/15-migration-opnsense-proxmox-highly-available/index.md

@@ -0,0 +1,420 @@
+---
+slug: migration-opnsense-proxmox-highly-available
+title: Migration to my OPNsense HA Cluster in Proxmox VE
+description: The detailed steps of the migration from my OPNsense physical box to a highly available cluster of VM in Proxmox VE.
+date: 2025-11-20
+draft: false
+tags:
+  - opnsense
+  - high-availability
+  - proxmox
+categories:
+  - homelab
+---
+## Intro
+
+This is the final stage of my **OPNsense** virtualization journey.
+
+A few months ago, my physical [OPNsense box crashed]({{< ref "post/10-opnsense-crash-disk-panic" >}}) because of a hardware failure. This leads my home in the dark, literally. No network, no lights.
+
+💡 To avoid being in that situation again, I imagined a plan to virtualize my OPNsense firewall into my **Proxmox VE** cluster. The last time, I've set up a [proof of concept]({{< ref "post/12-opnsense-virtualization-highly-available" >}}) to validate this solution: create a cluster of two **OPNsense** VMs in Proxmox and make the firewall highly available.
+
+This time, I will cover the creation of my future OPNsense cluster from scratch, plan the cut over and finally migrate from my current physical box. Let's go!
+
+---
+## The VLAN Configuration
+
+For my plans, I'll have to connect the WAN, coming from my ISP box, to my main switch. For that I create a dedicated VLAN to transport this flow to my Proxmox nodes.
+
+### UniFi
+
+First, I configure my layer 2 network which is managed by UniFi. There I need to create two VLANs:
+- *WAN* (20): transport the WAN between my ISP box and my Proxmox nodes.
+- *pfSync* (44), communication between my OPNsense nodes.
+
+In the UniFi controller, in `Settings` > `Networks`, I add a `New Virtual Network`. I name it `WAN` and give it the VLAN ID 20:
+![Creation of the WAN VLAN in the UniFi Controller](images/unifi-add-vlan-for-wan.png)
+
+I do the same thing again for the `pfSync` VLAN with the VLAN ID 44.
+
+I plan to plug my ISP box on the port 15 of my switch, which is disabled for now. I set it as active, set the native VLAN on the newly created one `WAN (20)` and disable trunking:
+![Configuration of the UniFi switch port for the WAN uplink](images/unifi-enable-port-wan-vlan.png)
+
+Once this setting applied, I make sure that only the ports where are connected my Proxmox nodes propagate these VLAN on their trunk. 
+
+I'm done with UniFi configuration.
+
+### Proxmox SDN
+
+Now that the VLAN can reach my nodes, I want to handle it in the Proxmox SDN. I've configured the SDN in [that article]({{< ref "post/11-proxmox-cluster-networking-sdn" >}}).
+
+In `Datacenter` > `SDN` > `VNets`, I create a new VNet, call it `vlan20` to follow my own naming convention, give it the *WAN* alias and use the tag (VLAN ID) 20:
+![Creation of the VNet for the WAN in the Proxmox SDN](images/proxmox-sdn-new-vnet-wan.png)
+
+I also create the `vlan44` for the *pfSync* VLAN, then I apply this configuration and we are done with the SDN.
+
+---
+## Create the VMs
+
+Now that the VLAN configuration is done, I can start buiding the virtual machines on Proxmox.
+
+The first VM is named `cerbere-head1` (I didn't tell you? My current firewall is named `cerbere`, it makes even more sense now!). Here are the settings:
+- **OS type**: Linux (even if OPNsense is  based on FreeBSD)
+- **Machine type**: `q35`
+- **BIOS**: `OVMF (UEFI)`
+- **Disk**: 20 GB on Ceph distributed storage
+- **RAM**: 4 GB RAM, ballooning disabled
+- **CPU**: 2 vCPU
+- **NICs**, firewall disabled:
+	1. `vmbr0` (*Mgmt*)
+	2. `vlan20` (*WAN*)
+	3. `vlan13` *(User)*
+	4. `vlan37` *(IoT)*
+	5. `vlan44` *(pfSync)*
+	6. `vlan55` *(DMZ)*
+	7. `vlan66` *(Lab)*
+
+![Hardware settings of the OPNsense VM in Proxmox](images/proxmox-cerbere-vm-settings.png)
+
+ℹ️ Now I clone that VM to create `cerbere-head2`, then I proceed with OPNsense installation. I don't want to go into much details about OPNsense installation, I already documented it in the [proof of concept]({{< ref "post/12-opnsense-virtualization-highly-available" >}}).
+
+After the installation of both OPNsense instances, I give to each of them their IP in the *Mgmt* network:
+- `cerbere-head1`: `192.168.88.2/24`
+- `cerbere-head2`: `192.168.88.3/24`
+
+I give them the other OPNsense node as gateway (`192.168.88.1`) to allow me to reach them from my laptop in another VLAN.
+
+---
+## Configure OPNsense
+
+Initially, I considered restoring my existing OPNsense configuration and adapt it to the setup.
+
+Then I decided to start over to document and share it. This part was getting so long that I prefered create a dedicated post instead.
+
+📖 You can find the details of the full OPNsense configuration in that [article]({{< ref "post/13-opnsense-full-configuration" >}}), covering HA, DNS, DHCP, VPN and reverse proxy.
+
+---
+## Proxmox VM High Availability
+
+Resources (VM or LXC) in Proxmox VE can be tagged as highly available, let see how to set it up.
+
+### Proxmox HA Requirements
+
+First, your Proxmox cluster must allow it. There are some requirements:
+- At least 3 nodes to have quorum
+- Shared storage for your resources
+- Time synchronized
+- Reliable network
+
+A fencing mechanism must be enabled. Fencing is the process of isolating a failed cluster node to ensure it no longer accesses shared resources. This prevents split-brain situations and allows Proxmox HA to safely restart affected VMs on healthy nodes. By default, it is using Linux software watchdog, *softdog*, good enough for me.
+
+In Proxmox VE 8, It was possible to create HA groups, depending of their resources, locations, etc. This has been replaced, in Proxmox VE 9, by HA affinity rules. This is actually the main reason behind my Proxmox VE cluster upgrade, which I've detailed in that [post]({{< ref "post/14-proxmox-cluster-upgrade-8-to-9-ceph" >}}).
+
+### Configure VM HA
+
+The Proxmox cluster is able to provide HA for the resources, but you need to define the rules.
+
+In `Datacenter` > `HA`, you can see the status and manage the resources. In the `Resources` panel I click on `Add`. I need to pick the resource to configure as HA in the list, here `cerbere-head1` with ID 122. Then in the tooltip I can define the maximum of restart and relocate, I keep `Failback` enabled and the requested state to `started`:
+![Create HA resource in Proxmox](images/proxmox-add-vm-ha.png)
+
+The Proxmox cluster will now make sure this VM is started. I do the same for the other OPNsense VM, `cerbere-head2`.  
+
+### HA Affinity Rules
+
+Great, but I don't want them on the same node. This is when the new feature HA affinity rules, of Proxmox VE 9, come in. Proxmox allows to create node affinity and resource affinity rules. I don't mind on which node they run, but I don't want them together. I need a resource affinity rule.
+
+In `Datacenter` > `HA` > `Affinity Rules`, I add a new HA resource affinity rule. I select both VMs and pick the option `Keep Separate`:
+![Create HA resource affinity in Proxmox](images/proxmox-ha-resource-affinity-rule.png)
+
+✅ My OPNsense VMs are now fully ready!
+
+---
+## Migration
+
+🚀 Time to make it real!
+
+I'm not gonna lie, I'm quite excited. I'm working for this moment for days. 
+
+### The Migration Plan
+
+I have my physical OPNsense box directly connected to my ISP box. I want to swap it for the VM cluster. (To avoid writing the word OPNsense on each line, I'll simply name it "the box" and "the VM")
+
+Here is the plan:
+1. Backup of the box configuration.
+2. Disable DHCP server on the box.
+3. Change IP addresses of the box.
+4. Change VIP on the VM.
+5. Disable gateway on VM.
+6. Configure DHCP on both VMs.
+7. Enable mDNS repeater on VM.
+8. Replicate services on VM.
+9. Move of the Ethernet cable.
+### Rollback Strategy
+
+None. 😎
+
+I'm kidding, the rollback consists of restoring the box configuration, shutdown the OPNsense VMs and plug back the Ethernet cable into the box.
+
+### Verification Plan
+
+To validate the migration, I'm drawing up a checklist:
+1. WAN DHCP lease in the VM.
+2. Ping from my PC to the VIP of the User VLAN.
+3. Ping cross VLAN.
+4. SSH into my machines.
+5. Renew DHCP lease.
+6. Check `ipconfig`
+7. Test internet website.
+8. Check firewall logs.
+9. Check my webservices.
+10. Verify if my internal webservices are not accessible from outside.
+11. Test VPN.
+12. Check all IoT devices.
+13. Check Home Assistant features.
+14. Check if the TV works.
+15. Test the Chromecast.
+16. Print something.
+17. Verify DNS blocklist.
+18. Speedtest.
+19. Switchover.
+20. Failover.
+21. Disaster Recovery.
+22. Champaign!
+
+Will it work? Let's find out! 
+
+### Migration Steps
+
+1. **Backup of the box configuration.**
+
+On my physical OPNsense instance, in `System` > `Configuration` > `Backups`, I click the `Download configuration` button which give me the precious XML file. The one that saved my ass the [last time]({{< ref "post/10-opnsense-crash-disk-panic" >}}).
+
+2. **Disable DHCP server on the box.**
+
+In `Services` > `ISC DHCPv4`, and for all my interfaces, I disable the DHCP server. I only serve DHCPv4 in my network.
+
+3. **Change IP addresses of the box.**
+
+In `Interfaces`, and for all my interfaces, I modify the IP of the firewall, from `.1` to `.253`. I want to reuse the same IP address as VIP, and have this instance still reachable if needed.
+
+As soon as I click on `Apply`, I lost the communication, which is expected.
+
+4. **Change VIP on the VM.**
+
+On my master VM, In `Interfaces` > `Virtual IPs` > `Settings`, I change the VIP address for each interface and set it to `.1`.
+
+5. **Disable gateway on VM.**
+
+In `System` > `Gateways` > `Configuration`, I disable the `LAN_GW` which is not needed anymore.
+
+6. **Configure DHCP on both VMs.**
+
+In both VM, in `Services` > `Dnsmasq DNS & DHCP`, I enable the service on my 5 interfaces.
+
+7. **Enable mDNS repeater on VM.**
+
+In `Services` > `mDNS Repeater`, I enable the service and also enable CARP Failover.
+
+The service does not start. I'll see that problem later.
+
+8. **Replicate services on VM.**
+
+In `System` > `High Availability` > `Status`, I click the button to `Synchronize and reconfigure all`.
+
+9. **Move of the Ethernet cable.**
+
+Physically in my rack, I unplug the Ethernet cable from the WAN port (`igc0`) of my physical OPNsense box and plug it into the port 15 of my UniFi switch.
+
+---
+## Verification
+
+😮‍💨 I take a deep breath and start the verification phase.
+
+### Checklist
+
+- ✅ WAN DHCP lease in the VM.
+- ✅ Ping from my PC to the VIP of the User VLAN.
+- ⚠️ Ping cross VLAN.  
+Pings are working, but I observe some drops, about 10%.
+- ✅ SSH into my machines.
+- ✅ Renew DHCP lease.
+- ✅ Check `ipconfig`
+- ❌ Test internet website. → ✅  
+A few websites are working, everything is incredibly slow... It must be the DNS. I try to lookup a random domain, it is working. But I can't lookup `google.com`. I restart the Unbound DNS service, everything works now. It is always the DNS...
+- ⚠️ Check firewall logs.  
+Few flows are blocks, not mandatory.
+- ✅Check my webservices.
+- ✅Verify if my internal webservices are not accessible from outside.
+- ✅ Test VPN.
+- ✅ Check all IoT devices.
+- ✅ Check Home Assistant features.
+- ✅Check if the TV works.
+- ❌ Test the Chromecast.  
+It is related to the mDNS service not able to start. I can start it if I uncheck the `CARP Failover` option. the Chromecast is visible now. → ⚠️
+- ✅Print something.
+- ✅Verify DNS blocklist.
+- ✅Speedtest.  
+I observe roughly 15% of decrease bandwidth (from 940Mbps to 825Mbps). 
+- ❌ Switchover.  
+The switchover barely works, a lot of dropped packets during the switch. The service provided is not great: no more internet and my webservices are not reachable.
+- ⌛ Failover.
+- ⌛ Disaster Recovery.  
+To be tested later.
+
+📝 Well, the results are pretty good, not perfect, but satisfying!
+###  Problem Solving
+
+I focus on resolving remaining problems experienced during the tests.
+
+1. **DNS**
+
+During the switchover, the internet connection is not working. No DNS, it is always DNS.
+
+It's because the backup node does not have a gateway while passive. No gateway prevents the DNS to resolve. After the switchover, it still has unresolved domains in its cache. This problem also lead to another issue, while passive, I can't update the system.
+
+**Solution**: Create a gateway pointing to the other node, with a higher priority number than the WAN gateway (higher number means lower priority). This way, that gateway is not active while the node is master.
+
+2. **Reverse Proxy**
+
+During the switchover, every webservices which I host (reverse proxy/layer 4 proxy) give this error: `SSL_ERROR_INTERNAL_ERROR_ALERT`. After checking the services synchronized throught XMLRPC Sync, Caddy and mDNS repeater were not selected. It is because these services were installed after the initial configuration of the HA. 
+
+**Solution**: Add Caddy to XMLRPC Sync.
+
+3. **Packet Drops**
+
+I observe about 10% packet drops for pings from any VLAN to the *Mgmt* VLAN. I don't have this problem for the other VLANs.
+
+The *Mgmt* VLAN is the native one in my network, it might be the reason behind this issue. This is the only network not defined in the Proxmox SDN. I don't want to have to tag this VLAN.
+
+**Solution**: Disable the Proxmox firewall of this interface for the VM. I actually disable them all and update the documentation above. I'm not sure why this cause that kind of problem, but disabling it fixed my issue (I could reproduce the behavior while activating the firewall again).
+
+4. **CARP Script**
+
+During a switchover, the CARP event script is triggered as many times as the number of interfaces. I have 5 virtual IPs, the script reconfigure my WAN interface 5 times.
+
+**Solution**: Rework the script to get the WAN interface state and only reconfigure the inteface when needed:
+```php
+#!/usr/local/bin/php
+<?php
+/**
+ * OPNsense CARP event script
+ * - Enables/disables the WAN interface only when needed
+ * - Avoids reapplying config when CARP triggers multiple times
+ */
+
+require_once("config.inc");
+require_once("interfaces.inc");
+require_once("util.inc");
+require_once("system.inc");
+
+// Read CARP event arguments
+$subsystem = !empty($argv[1]) ? $argv[1] : '';
+$type = !empty($argv[2]) ? $argv[2] : '';
+
+// Accept only MASTER/BACKUP events
+if (!in_array($type, ['MASTER', 'BACKUP'])) {
+    // Ignore CARP INIT, DEMOTED, etc.
+    exit(0);
+}
+
+// Validate subsystem name format, expected pattern: <ifname>@<vhid>
+if (!preg_match('/^[a-z0-9_]+@\S+$/i', $subsystem)) {
+    log_error("Malformed subsystem argument: '{$subsystem}'.");
+    exit(0);
+}
+
+// Interface key to manage
+$ifkey = 'wan';
+// Determine whether WAN interface is currently enabled
+$ifkey_enabled = !empty($config['interfaces'][$ifkey]['enable']) ? true : false;
+
+// MASTER event
+if ($type === "MASTER") {
+    // Enable WAN only if it's currently disabled
+    if (!$ifkey_enabled) {
+        log_msg("CARP event: switching to '$type', enabling interface '$ifkey'.", LOG_WARNING);
+        $config['interfaces'][$ifkey]['enable'] = '1';
+        write_config("enable interface '$ifkey' due CARP event '$type'", false);
+        interface_configure(false, $ifkey, false, false);
+    } else {
+        log_msg("CARP event: already '$type' for interface '$ifkey', nothing to do.");
+    }
+
+// BACKUP event
+} else {
+    // Disable WAN only if it's currently enabled
+    if ($ifkey_enabled) {
+        log_msg("CARP event: switching to '$type', disabling interface '$ifkey'.", LOG_WARNING);
+        unset($config['interfaces'][$ifkey]['enable']);
+        write_config("disable interface '$ifkey' due CARP event '$type'", false);
+        interface_configure(false, $ifkey, false, false);
+    } else {
+        log_msg("CARP event: already '$type' for interface '$ifkey', nothing to do.");
+    }
+}
+```
+
+5. **mDNS Repeater**
+
+The mDNS repeater does not want to start when I select the option for `CARP Failover`.
+
+**Solution**: The machine requires a reboot to start this service CARP aware.
+
+6. **IPv6 Address**
+
+My `cerbere-head1` node is crying in the log file while the other does not. Here are the messages spit every seconds while it is master:
+```plaintext
+Warning rtsold <interface_up> vtnet1 is disabled. in the logs (OPNsense)
+```
+
+Another one I'm having several times after a switchback:
+```plaintext
+Error dhcp6c transmit failed: Can't assign requested address
+```
+
+This is related to IPv6. I observe that my main node does not have a global IPv6 address, only a link-local. Also, it does not have a IPv6 gateway. My secondary node, in the other hand, has both addresses and the gateway.
+
+I'm no IPv6 expert, after searching for a couple of hours, I give up the IPv6. If someone out here can help, it would be really appreciated!
+
+**Workaround**: Remove DHCPv6 for my WAN interface. 
+
+### Confirmation
+
+Now that everything is fixed, I can evaluate the failover performance.
+
+1. **Switchover**
+
+When manually entering CARP maintenance mode from the WebGUI interface, no packet drop is observed. Impressive.
+
+2. **Failover**
+
+To simulate a failover, I kill the active OPNsense VM. Here I observe only one packet dropped. Awesome.
+
+![Ping test during OPNsense CARP failover](images/opnsense-ping-failover.png)
+
+3. **Disaster Recovery**
+
+A disaster recovery is what would happen after a full Proxmox cluster stop, after an electrical outage for example. I didn't have the time (or the courage) to do that, I'd prefer to prepare a bit better to avoid collateral damages. But surely, this kind of scenario must be evaluated.
+
+### Extras Benefits
+
+Leaving aside the fact that this new setup is more resilient, I have few more bonuses.
+
+My rack is tiny and the space is tight. The whole thing is heating quite much, exceeding 40°C on top of the rack in summer. Reducing the number of machines powered up lower the temperature. I've gained **1,5°C** after shutting down the old OPNsense box, cool!
+
+Power consumption is also a concern, my tiny datacenter was drawing 85W on average. Here again I could observe a small decrease, about 8W lower. Considering that this run 24/7, not negligible.
+
+Finally I also removed the box itself and the power cable. Slots are very limited, another good point.
+
+---
+## Conclusion
+
+🎉 I did it guys! I'm very proud of the results, proud of myself.
+
+From my [first OPNsense box crash]({{< ref "post/10-opnsense-crash-disk-panic" >}}), the thinking about a solution, the HA [proof of concept]({{< ref "post/12-opnsense-virtualization-highly-available" >}}), to this migration. This has been a quite long project, but extremly interesting.
+
+🎯 This is great to set objectives, but this is even better when you reach them.
+
+Now I'm going to leave OPNsense aside for a bit, to be able to re-focus on my Kubernetes journey!
+
+As always, if you have questions, remarks or a solution for my IPv6 problem, I'll be really happy to share with you.

content/post/16-how-I-deploy-application/index.fr.md

@@ -0,0 +1,170 @@
+---
+slug: how-I-deploy-application
+title: Comment je Déploie des Applications Aujourd’hui
+description: La méthode que j’utilise aujourd’hui pour déployer de nouvelles applications dans mon homelab. Workflow simple tirant parti de Docker Compose dans une VM sur Proxmox VE
+date: 2026-01-31
+draft: false
+tags:
+  - docker
+  - proxmox
+  - opnsense
+  - treafik
+  - gitea
+categories:
+  - homelab
+---
+## Intro
+
+Dans cet article, je ne vais pas expliquer les bonnes pratiques pour déployer des applications. À la place, je veux documenter comment je déploie actuellement de nouvelles applications dans mon homelab.
+
+Considérez cet article comme un snapshot. C’est comme ça que les choses fonctionnent vraiment aujourd’hui, sachant que dans un futur proche j’aimerais évoluer vers un workflow plus orienté GitOps.
+
+La méthode que j’utilise est assez simple. J’ai essayé de la standardiser autant que possible, mais elle implique encore pas mal d’étapes manuelles. J’expliquerai aussi comment je mets à jour les applications, ce qui est, à mon avis, la plus grande faiblesse de cette configuration. À mesure que le nombre d’applications augmente, garder le tout à jour demande de plus en plus de temps.
+
+
+---
+## Overview de la Plateforme
+
+Avant d’entrer dans le workflow, voici un rapide aperçu des principaux composants impliqués.
+### Docker
+
+Docker est la base de ma stack applicative. Quand c’est possible, je déploie les applications sous forme de conteneurs.
+
+J’utilise Docker Compose depuis des années. À l’époque, tout tournait sur un seul serveur physique. Aujourd’hui, mon installation est basée sur des VM, et je pourrais migrer vers Docker Swarm, mais j’ai choisi de ne pas le faire. Cela peut avoir du sens dans certains scénarios, mais ce n’est pas aligné avec là où je veux aller à long terme.
+
+Pour l’instant, je m’appuie toujours sur une seule VM pour héberger toutes les applications Docker. Cette VM est plus ou moins un clone de mon ancien serveur physique, simplement virtualisé.
+
+### Proxmox VE
+
+Cette VM est hébergée sur un cluster Proxmox VE, composé de trois nœuds et utilisant Ceph comme stockage distribué.
+
+Cela me donne de la haute disponibilité et facilite grandement la gestion des VM, même si le workload Docker n'est pas hautement disponible.
+
+### Traefik
+
+Traefik tourne directement sur l’hôte Docker et fait office de reverse proxy.
+
+Il est responsable d’acheminer le trafic HTTPS vers les bons conteneurs et de gérer automatiquement les certificats TLS via Let’s Encrypt. Cela garde la configuration au niveau des applications simple et centralisée.
+
+### OPNsense
+
+OPNsense est mon routeur, pare-feu et agit aussi comme reverse proxy.
+
+Le trafic HTTPS entrant est transféré vers Traefik en utilisant le plugin Caddy avec des règles Layer 4. Le TLS n’est pas terminé au niveau du pare-feu. Il est transmis à Traefik, qui gère l’émission et le renouvellement des certificats.
+
+### Gitea
+
+Gitea est un dépôt Git self-hosted, j’ai une instance qui tourne dans mon homelab.
+
+Dans Gitea, j’ai un dépôt privé qui contient toutes mes configurations Docker Compose. Chaque application a son propre dossier, ce qui rend le dépôt facile à parcourir et à maintenir.
+
+---
+## Déployer une Nouvelle Application
+
+Pour standardiser les déploiements, j’utilise un template `docker-compose.yml` qui ressemble à ceci :
+```yml
+services:
+  NAME:
+    image: IMAGE
+    container_name: NAME
+    volumes:
+      - /appli/data/NAME/:/
+    environment:
+      - TZ=Europe/Paris
+    networks:
+      - web
+    labels:
+    - traefik.enable=true
+    - traefik.http.routers.NAME.rule=Host(`HOST.vezpi.com`)
+    - traefik.http.routers.NAME.entrypoints=https
+    - traefik.http.routers.NAME.tls.certresolver=letsencrypt
+    - traefik.http.services.NAME.loadbalancer.server.port=PORT
+    restart: always
+
+networks:
+  web:
+    external: true
+```
+
+Laissez-moi expliquer.
+
+Pour l’image, selon l’application, le registre utilisé peut varier, mais j’utilise quand même Docker Hub par défaut. Quand j’essaie une nouvelle application, je peux utiliser le tag `latest` au début. Ensuite, si je choisis de la garder, je préfère épingler la version actuelle plutôt que `latest`.
+
+J’utilise des montages de volumes pour tout ce qui est stateful. Chaque application a son propre dossier dans le filesystem `/appli/data`.
+
+Quand une application doit être accessible en HTTPS, je relie le conteneur qui sert les requêtes au réseau `web`, qui est géré par Traefik et je lui associe des labels. Les `entrypoint` et `certresolver` sont définis dans ma configuration Traefik. L’URL définie dans `Host()` est celle qui sera utilisée pour accéder à l’application. Elle doit être identique à ce qui est défini dans la route Layer4 du plugin Caddy d’OPNsense.
+
+Si plusieurs conteneurs doivent communiquer entre eux, j’ajoute un réseau `backend` qui sera créé lors du déploiement de la stack, dédié à l’application. Ainsi, aucun port n’a besoin d’être ouvert sur l’hôte.
+
+### Étapes de Déploiement
+
+La plupart du travail est effectué depuis VScode :
+- Créer un nouveau dossier dans ce dépôt, avec le nom de l’application.
+- Copier le template ci-dessus dans ce dossier.
+- Adapter le template avec les valeurs fournies par la documentation de l’application.
+- Créer un fichier `.env` pour les secrets si nécessaire. Ce fichier est ignoré par `.gitignore`.
+- Démarrer les services directement depuis VS Code en utilisant l’extension Docker.
+
+Puis dans l’interface Web OPNsense, je mets à jour 2 routes Layer4 pour le plugin Caddy:
+- Selon que l’application doit être exposée sur Internet ou non, j’ai une route _Internal_ et une route _External_. J’ajoute l’URL donnée à Traefik dans l’une d’elles.
+- J’ajoute aussi cette URL dans une autre route pour rediriger le challenge HTTP Let’s Encrypt vers Traefik.
+
+Une fois terminé, je teste l’URL. Si tout est correctement configuré, l’application devrait être accessible en HTTPS.
+
+Quand tout fonctionne comme prévu, je commit le nouveau dossier de l’application dans le dépôt.
+
+---
+## Mettre à Jour une Application
+
+Les mises à jour d’applications sont encore entièrement manuelles.
+
+Je n’utilise pas d’outils automatisés comme Watchtower pour l’instant. Environ une fois par mois, je cherche de nouvelles versions en regardant Docker Hub, les releases GitHub ou la documentation de l’application.
+
+Pour chaque application que je veux mettre à jour, je passe en revue:
+- Nouvelles fonctionnalités
+- Breaking changes
+- Chemins de mise à niveau si nécessaire
+
+La plupart du temps, les mises à jour sont simples:
+
+- Mettre à jour le tag de l’image dans le fichier Docker Compose
+- Redémarrer la stack.
+- Vérifier que les conteneurs redémarrent correctement
+- Consulter les logs Docker
+- Tester l’application pour détecter des régressions
+
+Si ça fonctionne, je continue à mettre à niveau étape par étape jusqu’à atteindre la dernière version disponible.
+
+Sinon, je débogue jusqu’à corriger le problème. Les retours arrière sont pénibles.
+
+Une fois la dernière version atteinte, je commit les changements dans le dépôt.
+
+---
+## Avantages et inconvénients
+
+Qu’est-ce qui fonctionne bien et qu’est-ce qui fonctionne moins ?
+
+### Avantages
+
+- Modèle simple, une VM, un fichier compose par application.
+- Facile à déployer, idéal pour tester une application.
+- Emplacement central pour les configurations.
+
+### Inconvénients
+
+- La VM Docker unique est un point de défaillance unique.
+- Les mises à jour manuelles ne passent pas à l’échelle quand le nombre d’applications augmente.
+- Devoir déclarer l’URL dans Caddy est fastidieux.
+- Difficile de suivre ce qui est en ligne et ce qui ne l’est pas.
+- Les secrets dans .env sont pratiques mais basiques.
+- Pas de moyen rapide de rollback.
+- Les opérations sur la VM sont critiques.
+
+---
+## Conclusion
+
+Cette configuration fonctionne, et elle m’a bien servi jusqu’ici. Elle est simple et intuitive. Cependant, elle est aussi très manuelle, surtout pour les mises à jour et la maintenance à long terme.
+
+À mesure que le nombre d’applications augmente, cette approche ne passe clairement pas très bien à l’échelle. C’est l’une des principales raisons pour lesquelles je regarde vers GitOps et des workflows plus déclaratifs pour l’avenir.
+
+Pour l'instant, cependant, c'est ainsi que je déploie des applications dans mon homelab, et cet article sert de point de référence pour savoir par où j'ai commencé.

content/post/16-how-I-deploy-application/index.md

@@ -0,0 +1,169 @@
+---
+slug: how-I-deploy-application
+title: How Do I Deploy Application Today
+description: The method I use today to deploy new application in my homelab. Simple workflow taking advantage of Docker Compose in a VM on Proxmox VE
+date: 2026-01-31
+draft: false
+tags:
+  - docker
+  - proxmox
+  - opnsense
+  - treafik
+  - gitea
+categories:
+  - homelab
+---
+## Intro
+
+In this post, I am not going to explain best practices for deploying applications. Instead, I want to document how I am currently deploying new applications in my homelab.
+
+Think of this article as a snapshot in time. This is how things really work today, knowing that in the near future I would like to move toward a more GitOps-oriented workflow.
+
+The method I use is fairly simple. I have tried to standardize it as much as possible, but it still involves quite a few manual steps.  I will also explain how I update applications, which is, in my opinion, the biggest weakness of this setup. As the number of applications keeps growing, keeping everything up to date requires more and more time.
+
+---
+## Platform Overview
+
+Before diving into the workflow, here is a quick overview of the main components involved.
+### Docker
+
+Docker is the foundation of my application stack. Whenever possible, I deploy applications as containers.
+
+I have been using Docker Compose for years. At the time, everything was running on a single physical server. Today, my setup is VM-based, and I could migrate to Docker Swarm, but I have chosen not to. It might make sense in some scenarios, but it is not aligned with where I want to go long term.
+
+For now, I still rely on a single VM to host all Docker applications. This VM is more or less a clone of my old physical server, just virtualized.
+
+### Proxmox VE
+
+This VM is hosted on a Proxmox VE cluster, composed of three nodes and uses Ceph as a distributed storage backend.
+
+This gives me high availability and makes VM management much easier, even though the Docker workloads themselves are not highly available.
+
+### Traefik
+
+Traefik runs directly on the Docker host and acts as the reverse proxy.
+
+It is responsible for routing the HTTPS traffic to the correct containers and for managing TLS certificates automatically using Let’s Encrypt. This keeps application-level configuration simple and centralized.
+
+### OPNsense
+
+OPNsense is my router, firewall and also acts as reverse proxy.
+
+Incoming HTTPS traffic is forwarded to Traefik using the Caddy plugin with Layer 4 rules. TLS is not terminated at the firewall level. It is passed through to Traefik, which handles certificate issuance and renewal.
+
+### Gitea
+
+Gitea is a self-hosted Git repository, I have one instance running in my homelab.
+
+Inside Gitea, I have a private repository that contains all my Docker Compose configurations. Each application has its own folder, making the repository easy to navigate and maintain.
+
+---
+## Deploy New Application
+
+To standardize deployments, I use a `docker-compose.yml` template that looks like this:
+```yml
+services:
+  NAME:
+    image: IMAGE
+    container_name: NAME
+    volumes:
+      - /appli/data/NAME/:/
+    environment:
+      - TZ=Europe/Paris
+    networks:
+      - web
+    labels:
+    - traefik.enable=true
+    - traefik.http.routers.NAME.rule=Host(`HOST.vezpi.com`)
+    - traefik.http.routers.NAME.entrypoints=https
+    - traefik.http.routers.NAME.tls.certresolver=letsencrypt
+    - traefik.http.services.NAME.loadbalancer.server.port=PORT
+    restart: always
+
+networks:
+  web:
+    external: true
+```
+
+Let me explain.
+
+For the image, depending on the application, the registry used could differ, but I still the Docker Hub by default. When I try a new application, I might use the `latest` tag at first. Then if I choose to keep the it, I prefer to pin the current version instead of `latest`.
+
+I use volume binds for everything stateful. Every application got its own folder in the `/appli/data` filesystem.
+
+When an application needs to be reachable with HTTPS, I link the container serving the requests in the `web` network, which is managed by Traefik and I associate it labels. The `entrypoint` and `certresolver` is defined in my Traefik configuration. The URL defined in `Host()` is the one which will be used to access the application. This needs to be the same as defined in the Layer4 route in the Caddy plugin of OPNsense. 
+
+If several containers need to talk to each other, I add a `backend` network which will be created when the stack will be deployed, dedicated for the application. This way, no ports need to be opened on the host.
+
+### Steps to Deploy
+
+Most of the work is done from VScode:
+- Create a new folder in that repository, with the application name.
+- Copy the template above inside this folder.
+- Adapt the template with the values given by the application documentation.
+- Create a `.env` file for secrets if needed. This file is ignored by `.gitignore`.
+- Start the services directly from VS Code using the Docker extension.
+
+
+Then in the OPNsense WebUI, I update 2 Layer4 routes for the Caddy plugin:
+- Depending if the application should be exposed on the internet or not, I have an *Internal* and *External* route. I add the URL given to Traefik in one of these.
+- I also add this URL in another route to redirect the Let's Encrypt HTTP challenge to Traefik.
+
+Once complete, I test the URL. If everything is configured correctly, the application should be reachable over HTTPS.
+
+When everything works as expected, I commit the new application folder to the repository.
+
+---
+## Update Application
+
+Application updates are still entirely manual.
+
+I do not use automated tools like Watchtower for now. About once a month, I check for new versions by looking at Docker Hub, GitHub releases, or the application documentation.
+
+For each application I want to update, I review:
+- New features
+- Breaking changes
+- Upgrade paths if required
+
+Most of the time, updates are straightforward:
+- Bump the image tag in the Docker Compose file
+- Restart the stack.
+- Verify that the containers restart properly
+- Check Docker logs
+- Test the application to detect regressions
+
+If it works, I continue upgrading step by step until I reach the latest available version. 
+
+If not, I debug until I fix the problem. Rollbacks are painful.
+
+Once the latest version is reached, I commit the changes to the repository.
+
+---
+## Pros and Cons
+
+What works well and what doesn't?
+
+### Pros
+
+- Simple model, one VM, one compose file per application.
+- Easy to deploy, great to test an application.
+- Central location for the configurations.
+
+### Cons
+
+- Single Docker VM is a single point of failure.
+- Manual updates don’t scale as the app count grows.
+- Having to declare the URL on Caddy is boring.
+- Hard to follow what is up, and what is not.
+- Secrets in .env are convenient but basic.
+- No fast way to rollback.
+- Operations on the VM are critical.
+
+---
+## Conclusion
+
+This setup works, and it has served me well so far. It is simple and intuitive. However, it is also very manual, especially when it comes to updates and long-term maintenance.
+
+As the number of applications grows, this approach clearly does not scale very well. That is one of the main reasons why I am looking toward GitOps and more declarative workflows for the future.
+
+For now, though, this is how I deploy applications in my homelab, and this post serves as a reference point for where I started.

content/post/17-semaphore-ui-interface-ansible-terraform/index.fr.md

@@ -0,0 +1,259 @@
+---
+slug: semaphore-ui-interface-ansible-terraform
+title: Semaphore UI, une excellente interface pour Ansible et Terraform
+description: Démonstration de Semaphore UI, une interface web pour exécuter des playbooks Ansible, du code Terraform et bien plus. Installation avec Docker et exemples rapides.
+date: 2026-02-09
+draft: false
+tags:
+  - semaphore-ui
+  - ansible
+  - terraform
+  - proxmox
+  - docker
+categories:
+  - homelab
+---
+## Intro
+
+Dans mon homelab, j'aime expérimenter avec des outils comme Ansible et Terraform. L'interface principale est le CLI, que j'adore, mais parfois une jolie interface web est juste agréable.
+
+Après avoir configuré mon cluster OPNsense, je voulais un moyen de le tenir à jour selon un calendrier. Pour moi, l'automatisation passe par Ansible, mais comment automatiser et planifier des playbooks ?
+
+Au travail j'utilise Red Hat Ansible Automation Platform, qui est excellent, mais overkill pour mon lab. C'est ainsi que j'ai découvert Semaphore UI. Voyons ce qu'il peut faire.
+
+---
+## Qu'est‑ce que Semaphore UI
+
+[Semaphore UI](https://semaphoreui.com/docs/) est une interface web élégante conçue pour exécuter de l'automatisation avec des outils comme Ansible et Terraform, et même des scripts Bash, Powershell ou Python.
+
+Initialement créé sous le nom Ansible Semaphore, une interface web destinée à fournir un front-end simple pour exécuter uniquement des playbooks Ansible. Au fil du temps, la communauté a fait évoluer le projet en une plateforme de contrôle d'automatisation multi‑outils.
+
+C'est une application autonome écrite en Go avec des dépendances minimales, capable d'utiliser différents backends de base de données, tels que PostgreSQL, MySQL ou BoltDB.
+
+---
+## Installation
+
+Semaphore UI prend en charge plusieurs méthodes d'[installation](https://semaphoreui.com/docs/category/installation) : Docker, Kubernetes, gestionnaire de paquets ou simple binaire.
+
+J'ai utilisé Docker pour mon installation, vous pouvez voir comment je déploie actuellement des applications dans ce [post]({{< ref "post/16-how-I-deploy-application" >}})
+
+Voici mon fichier `docker-compose.yml` que j'ai configuré en utilisant PostgreSQL :
+```yaml
+services:
+  semaphore:
+    image: semaphoreui/semaphore:v2.16.45
+    container_name: semaphore_ui
+    environment:
+      - TZ=Europe/Paris
+      - SEMAPHORE_DB_USER=${POSTGRES_USER}
+      - SEMAPHORE_DB_PASS=${POSTGRES_PASSWORD}
+      - SEMAPHORE_DB_HOST=postgres 
+      - SEMAPHORE_DB_PORT=5432 
+      - SEMAPHORE_DB_DIALECT=postgres
+      - SEMAPHORE_DB=${POSTGRES_DB}
+      - SEMAPHORE_PLAYBOOK_PATH=/tmp/semaphore/
+      - SEMAPHORE_ADMIN_PASSWORD=${SEMAPHORE_ADMIN_PASSWORD}
+      - SEMAPHORE_ADMIN_NAME=${SEMAPHORE_ADMIN_NAME}
+      - SEMAPHORE_ADMIN_EMAIL=${SEMAPHORE_ADMIN_EMAIL}
+      - SEMAPHORE_ADMIN=${SEMAPHORE_ADMIN}
+      - SEMAPHORE_ACCESS_KEY_ENCRYPTION=${SEMAPHORE_ACCESS_KEY_ENCRYPTION}
+      - SEMAPHORE_LDAP_ACTIVATED='no'
+      # - SEMAPHORE_LDAP_HOST=dc01.local.example.com
+      # - SEMAPHORE_LDAP_PORT='636'
+      # - SEMAPHORE_LDAP_NEEDTLS='yes'
+      # - SEMAPHORE_LDAP_DN_BIND='uid=bind_user,cn=users,cn=accounts,dc=local,dc=shiftsystems,dc=net'
+      # - SEMAPHORE_LDAP_PASSWORD='ldap_bind_account_password'
+      # - SEMAPHORE_LDAP_DN_SEARCH='dc=local,dc=example,dc=com'
+      # - SEMAPHORE_LDAP_SEARCH_FILTER="(\u0026(uid=%s)(memberOf=cn=ipausers,cn=groups,cn=accounts,dc=local,dc=example,dc=com))"
+    depends_on:
+      - postgres
+    networks:
+      - backend
+      - web
+    labels:
+      - traefik.enable=true
+      - traefik.http.routers.semaphore.rule=Host(`semaphore.vezpi.com`)
+      - traefik.http.routers.semaphore.entrypoints=https
+      - traefik.http.routers.semaphore.tls.certresolver=letsencrypt
+      - traefik.http.services.semaphore.loadbalancer.server.port=3000
+    restart: unless-stopped
+
+  postgres:
+    image: postgres:14
+    hostname: postgres
+    container_name: semaphore_postgres
+    volumes:
+     - /appli/data/semaphore/db:/var/lib/postgresql/data
+    environment:
+      - POSTGRES_USER=${POSTGRES_USER}
+      - POSTGRES_PASSWORD=${POSTGRES_PASSWORD}
+      - POSTGRES_DB=${POSTGRES_DB}
+    networks:
+      - backend
+    restart: unless-stopped
+
+networks:
+  backend:
+  web:
+    external: true
+```
+
+Pour générer les clés d'accès chiffrées, j'utilise cette commande :
+```bash
+head -c32 /dev/urandom | base64
+```
+
+Avec Semaphore en fonctionnement, faisons rapidement le tour de l'UI et connectons-la à un dépôt.
+
+---
+## Discovery
+
+Après avoir démarré la stack, je peux atteindre la page de connexion à l'URL :
+![Page de connexion de Semaphore UI](images/semaphore-login-page.png)
+
+Pour me connecter, j'utilise les identifiants définis par `SEMAPHORE_ADMIN_NAME`/`SEMAPHORE_ADMIN_PASSWORD`.
+
+Au premier accès, Semaphore me demande de créer un projet. J'ai créé le projet Homelab :
+![Page de création de projet de Semaphore UI](images/semaphore-create-project.png)
+
+La première chose que je veux faire est d'ajouter mon dépôt _homelab_ (vous pouvez trouver son miroir sur Github [ici](https://github.com/Vezpi/homelab)). Dans `Repository`, je clique sur le bouton `New Repository`, et j'ajoute l'URL du repo. Je ne spécifie pas d'identifiants car le dépôt est public :
+![Page d'ajout de dépôt de Semaphore UI](images/semaphore-add-repository.png)
+
+ℹ️ Avant de continuer, je déploie 3 VM à des fins de test : `sem01`, `sem02` et `sem03`. Je les ai créées avec Terraform via [ce projet](https://github.com/Vezpi/Homelab/tree/main/terraform/projects/semaphore-vms).
+
+Pour interagir avec ces VM, je dois configurer des identifiants. Dans le `Key Store`, j'ajoute la première donnée d'identification, une clé SSH pour mon utilisateur :
+![Page d'ajout d'une nouvelle clé de Semaphore UI](images/semaphore-create-new-ssh-key.png)
+
+Ensuite je crée un nouvel `Inventory`. J'utilise le format d'inventaire Ansible (le seul disponible). Je sélectionne la clé SSH créée précédemment et choisis le type `Static`. Dans les champs je renseigne les 3 hôtes créés avec leur FQDN :
+![Page de création d'un inventaire statique de Semaphore UI](images/semaphore-create-new-static-inventory.png)
+
+✅ Avec un projet, un repo, des identifiants et un inventaire en place, je peux avancer et tester l'exécution d'un playbook Ansible.
+
+---
+## Launching an Ansible playbook
+
+Je veux tester quelque chose de simple : installer un serveur web avec une page personnalisée sur ces 3 VM. Je crée le playbook `install_nginx.yml` :
+```yaml
+---
+- name: Demo Playbook - Install Nginx and Serve Hostname Page
+  hosts: all
+  become: true
+
+  tasks:
+    - name: Ensure apt cache is updated
+      ansible.builtin.apt:
+        update_cache: true
+        cache_valid_time: 3600
+
+    - name: Install nginx
+      ansible.builtin.apt:
+        name: nginx
+        state: present
+
+    - name: Create index.html with hostname
+      ansible.builtin.copy:
+        dest: /var/www/html/index.html
+        content: |
+          <html>
+          <head><title>Demo</title></head>
+          <body>
+              <h1>Hostname: {{ inventory_hostname }}</h1>
+          </body>
+          </html>
+        owner: www-data
+        group: www-data
+        mode: "0644"
+
+    - name: Ensure nginx is running
+      ansible.builtin.service:
+        name: nginx
+        state: started
+        enabled: true
+```
+
+Dans Semaphore UI, je peux maintenant créer mon premier `Task Template` pour un playbook Ansible. Je lui donne un nom, le chemin du playbook (depuis le dossier racine du repo), le dépôt et sa branche :
+![Nouveau template de tâche Ansible dans Semaphore UI](images/semaphore-create-new-ansible-task-template.png)
+
+Il est temps de lancer le playbook ! Dans la liste des task templates, je clique sur le bouton ▶️ :
+![Lancement du template de tâche Ansible dans Semaphore UI](images/semaphore-run-test-playbook.png)
+
+Le playbook se lance et je peux suivre la sortie en temps réel :
+![Sortie de la tâche Ansible dans Semaphore UI](images/semaphore-ui-ansible-task-output.png)
+
+Je peux aussi consulter les exécutions précédentes :
+![Liste des exécutions de tâches dans Semaphore UI](images/semaphore-ui-task-template-run-list.png)
+
+
+✅ Enfin, je peux confirmer que le travail est fini en vérifiant l'URL sur le port 80 (http) :
+![Test de l'URL après application du playbook sur les hôtes](images/semaphore-ui-test-nginx-page-playbook.png)
+
+Gérer des playbooks Ansible dans Semaphore UI est assez simple et vraiment pratique. L'interface est très soignée.
+
+Il existe aussi beaucoup d'options de personnalisation lors de la configuration d'un task template. Je peux utiliser des variables via un survey, spécifier un limit ou des tags. J'apprécie vraiment cela.
+
+---
+## Déploiement avec Terraform
+
+Alors que l'exécution des playbooks Ansible était simple dès le départ, le déploiement avec Terraform sur Proxmox VE a été un peu différent. Avant de commencer, je détruis les 3 VM déployées précédemment.
+
+Auparavant depuis le CLI, j'interagissais avec Terraform sur le cluster Proxmox en utilisant une clé SSH. Je n'ai pas réussi à le faire fonctionner depuis Semaphore UI. J'ai dû utiliser un nom d'utilisateur avec un mot de passe à la place.
+
+Je me suis dit que c'était une bonne occasion d'utiliser Ansible pour créer un utilisateur Proxmox dédié. Ma première exécution a échoué avec :
+```plaintext
+Unable to encrypt nor hash, passlib must be installed. No module named 'passlib'
+```
+
+C'est apparemment un problème connu de l'environnement Python de Semaphore. Comme contournement, j'ai installé `passlib` directement dans le conteneur :
+```bash
+docker exec -it semaphore_ui pip install passlib
+```
+
+Avec cela en place, le playbook a réussi et j'ai pu créer l'utilisateur :
+```yaml
+---
+- name: Create Terraform local user for Proxmox
+  hosts: nodes
+  become: true
+  tasks:
+  
+    - name: Create terraform user
+      ansible.builtin.user:
+        name: "{{ terraform_user }}"
+        password: "{{ terraform_password | password_hash('sha512') }}"
+        shell: /bin/bash
+
+    - name: Create sudoers file for terraform user
+      ansible.builtin.copy:
+        dest: /etc/sudoers.d/{{ terraform_user }}
+        mode: '0440'
+        content: |
+          {{ terraform_user }} ALL=(root) NOPASSWD: /sbin/pvesm
+          {{ terraform_user }} ALL=(root) NOPASSWD: /sbin/qm
+          {{ terraform_user }} ALL=(root) NOPASSWD: /usr/bin/tee /var/lib/vz/*
+```
+
+Ensuite je crée un variable group `pve_vm`. Un variable group me permet de définir plusieurs variables et secrets ensemble :
+![Nouveau groupe de variables dans Semaphore UI](images/semaphore-ui-create-variable-group.png)
+
+Puis je crée un nouveau task template, cette fois de type Terraform Code. Je lui donne un nom, le chemin du projet Terraform, un workspace, le dépôt avec sa branche et le variable group :
+![Nouveau template de tâche Terraform dans Semaphore UI](images/semaphore-task-template-terraform.png)
+
+Lancer le template me donne quelques options supplémentaires liées à Terraform :
+![Options d'exécution Terraform dans Semaphore UI](images/semaphore-running-terraform-code-options.png)
+
+Après le plan Terraform, il me propose d'appliquer, d'annuler ou d'arrêter :
+![Plan Terraform dans Semaphore UI](images/semaphore-terraform-task-working.png)
+
+Enfin, après avoir cliqué sur ✅ pour appliquer, j'ai pu regarder Terraform construire les VM, comme avec le CLI. À la fin, les VM ont été déployées avec succès sur Proxmox :
+![Déploiement Terraform terminé dans Semaphore UI](images/semaphore-ui-deploy-with-terraform.png)
+
+---
+## Conclusion
+
+Voilà pour mes tests de Semaphore UI, j'espère que cela vous aidera à voir ce que vous pouvez en faire.
+
+Dans l'ensemble, l'interface est propre et agréable à utiliser. Je peux tout à fait m'imaginer planifier des playbooks Ansible avec elle, comme les mises à jour OPNsense dont je parlais en intro.
+
+Pour Terraform, je l'utiliserai probablement pour lancer des VM éphémères pour des tests. J'aimerais utiliser le backend HTTP pour tfstate, mais cela nécessite la version Pro.
+
+Pour conclure, Semaphore UI est un excellent outil, intuitif, esthétique et pratique. Beau travail de la part du projet !