SPB Git

Repository Public

AUDIT-INITIAL.md 8.3 KB

# Rapport d'audit initial — Mac mini cible (m4mm)

Audit réalisé le 2026-11-19 en lecture seule, avant toute modification, par SSH sur le nœud m4mm du cluster MacLustr. Toutes les valeurs ci-dessous sont des relevés (commandes entre parenthèses), pas des hypothèses.

# 1. Choix de la machine

Le cluster compte trois Mac mini M4 Pro. mld scan (scan live de la RAM, de la charge, du disque et des processus de chaque nœud) donnait au moment de l'audit :

Nœud RAM libre / totale Processus PM2 Charge Disque libre
m4mm 39,7 / 48 Go 0 1,02 346 Go
m4mn 38,7 / 48 Go 4 (hilmacorp-ca, jellyfin, sp-browser-backend…) 1,17 333 Go

m4mm est le seul Mac mini M4 Pro 48 Go sans aucune application : il est retenu et épinglé (placement mld pin) pour que rien d'autre n'y soit placé automatiquement.

# 2. Matériel (system_profiler, sysctl, df, memory_pressure, pmset -g therm)

Élément Relevé
Modèle Mac mini, identifiant Mac16,11, n° de modèle Z1JV00027LL/A
Puce Apple M4 Pro — 12 cœurs CPU (8 performance + 4 efficacité), GPU 16 cœurs, Metal 4
Mémoire unifiée 48 Go (hw.memsize 51 539 607 552 octets)
Limite GPU recommandée par MLX 40,2 Go (max_recommended_working_set_size), tampon unique max 30,2 Go
macOS 26.5.1 (25F80), en marche depuis 12 jours
SSD 460 Go, 346 Go libres (volume Données occupé à 22 %)
Pression mémoire normale — 95 % de mémoire libre, swap 0 Mo
CPU au repos charge 1,2 ; premier processus = WindowServer à 8 %
Thermique aucun avertissement thermique ni bridage enregistré (pmset -g therm) ; la température en °C n'est pas lisible sans privilèges sur Apple Silicon
Réseau Ethernet en0 192.168.2.92 ; Tailscale 100.115.250.59 ; WireGuard wg1 10.67.0.31 (tunnel public) ; Hugging Face joignable, ~75 Mo/s en téléchargement direct

# 3. Le Mac mini n'est pas vierge : ce qui s'y trouvait

  • Services launchd : io.maclustr.wireguard-wg1 (LaunchDaemon du tunnel), ai.spboucher.mcc-agent (agent du MacLustr Command Center), pm2.simon-pierreboucher (PM2 vide), Tailscale, Zoom. Aucun n'est modifié.
  • Ports en écoute : uniquement 3283 (Apple Remote Desktop). Les ports 8810 (passerelle) et 8811 (moteur) étaient libres.
  • Données d'autres projets dans le dossier personnel (wp41_uqo, wp28, raid-e7*, UQO_RESEARCH_DB, ai_dictionary_russell3000…) : travaux de recherche au repos, aucun processus actif. Non touchés.
  • Pare-feu applicatif macOS : désactivé (comme sur les autres nœuds ; la machine est derrière le routeur du LAN et n'est exposée à Internet que par le tunnel). Voir § 6.

# 4. Environnement logiciel

Composant État relevé
Homebrew présent (/opt/homebrew)
Python 3.14.7 et 3.13.15 (Homebrew), 3.12.14 (uv), 3.9.6 (système) → 3.12 retenu (roues MLX et tokenizers disponibles)
uv 0.12.17 — gestion de l'environnement et verrouillage des dépendances
Xcode Command Line Tools installés ; Swift 6.3.3
Git 2.50.1 (Apple)
Node.js / pnpm / PM2 26.9.0 / présents (non utilisés par ce projet : aucun build frontend)
MLX / MLX-LM absents → installés dans l'environnement du projet : MLX 0.32.4, MLX-LM 0.32.2
Reverse proxy local aucun (ni Caddy ni nginx sur le nœud)
TLS / DNS llm.spboucher.ai résout déjà vers la passerelle publique du cluster (51.161.112.61, BHS64), qui termine TLS (Caddy, Let's Encrypt automatique) et relaie vers le nœud par WireGuard

# 5. Capacité disponible pour l'inférence

  • Budget mémoire : 48 Go − macOS et services (~6 Go relevés) ⇒ ~40 Go utilisables par MLX, ce qui coïncide avec la limite recommandée par Metal (40,2 Go).
  • Poids du candidat principal (Qwen3-30B-A3B 4 bits) : 17,2 Go sur disque. La mémoire réellement consommée est mesurée au chargement et sous charge (voir BENCHMARKS.md) plutôt que déduite de la taille des fichiers.
  • Disque : 346 Go libres, largement suffisants pour plusieurs modèles candidats (17 Go chacun).

# 6. Risques techniques relevés et parades

Risque Parade retenue
Épuisement mémoire sous forte concurrence ou longs contextes (KV caches) budget de tokens en vol par moteur, plafonds mémoire MLX explicites, garde sur la pression mémoire réelle de macOS (capacité divisée par deux en « warn », refus en « critical »), cache de préfixes borné en octets
Le serveur mlx_lm nu charge/télécharge n'importe quel modèle nommé dans une requête lanceur durci : modèle verrouillé, écoute sur 127.0.0.1 uniquement, jamais exposé ; la passerelle réécrit toujours le nom du modèle
Client Xet de Hugging Face figé sur ce réseau (téléchargement bloqué à 67 Mo) téléchargement HTTP direct (HF_HUB_DISABLE_XET=1), révision épinglée, SHA-256 revérifié localement
Pare-feu macOS désactivé le moteur n'écoute qu'en bouclage ; la passerelle n'a aucune route non authentifiée hors documentation et statut publics
Journal d'accès du proxy public contenant le chemin /setup/<jeton> exclusion de ce chemin du journal Caddy pour ce site ; jeton à usage unique, 15 minutes, haché côté serveur
Coupure de courant / redémarrage services launchd KeepAlive + RunAtLoad, ouverture de session automatique déjà en place sur le nœud (mld harden), auto-réparation mld heal toutes les 5 minutes
Nœud partagé avec d'autres travaux à l'avenir épinglage mld + requires.ram_gb élevé dans le manifeste pour que le placeur n'y mette rien d'autre

# 7. Architecture recommandée (retenue)

text
Internet ──HTTPS──▶ Caddy (BHS64, TLS Let's Encrypt) ──WireGuard wg1──▶ m4mm:8810  API Gateway (FastAPI)
                                                                            │  clés, quotas, file à priorités,
                                                                            │  Passkeys, Dashboard, documentation
                                                                            ▼
                                                              127.0.0.1:8811  moteur MLX (mlx_lm durci)
                                                                            │  lot continu, cache de préfixes KV
                                                                            ▼
                                                              GPU Apple M4 Pro (Metal), mémoire unifiée

Deux processus séparés, chacun sous launchd : le moteur (un par modèle, bouclage seulement) et la passerelle (seul point d'entrée). L'état (clés hachées, sessions, agrégats d'usage, audit) vit dans une base SQLite locale ; aucun prompt ni réponse n'est stocké.

# 8. Modèles envisageables

Vérifiés sur Hugging Face le jour de l'audit (licence, révision, taille) :

Dépôt Révision Licence Taille Rôle
mlx-community/Qwen3-30B-A3B-Instruct-2507-4bit e9675aa3… Apache-2.0 17,2 Go candidat principal (mise à jour de juillet 2025, sans mode raisonnement)
mlx-community/Qwen3-30B-A3B-4bit d388dead… Apache-2.0 17,2 Go candidat principal d'origine (raisonnement activable)
mlx-community/Qwen3-8B-4bit 545dc425… Apache-2.0 4,6 Go candidat secondaire compact

Le choix final se fait sur mesures (qualité + vitesse + mémoire) : voir BENCHMARKS.md.

# 9. Stratégie de déploiement

  1. Code versionné (dépôt spbgit maclustr-llm.git), dépendances verrouillées (uv.lock).
  2. Déploiement par l'orchestrateur du cluster (mld) : manifeste épinglé sur m4mm, deux services launchd, route publique https://llm.spboucher.ai posée sur la passerelle du tunnel, contrôle de santé local puis public.
  3. Activation de l'administrateur par lien unique généré sur le Mac mini.

# 10. Plan de retour arrière

  • Rien d'existant n'est modifié sur le nœud : le retrait complet se résume à décharger les deux services ai.spboucher.maclustr-llm.*, retirer la route (mld retire maclustr-llm) et supprimer ~/apps/maclustr-llm et ~/maclustr-llm-data.
  • Retour à une version précédente : git checkout <tag> + deploy/install.sh (détail dans OPERATIONS.md).
  • État : sauvegarde quotidienne de la base et du secret serveur (scripts/backup.sh), restauration en une commande.
Files main
Menu

Theme