SPB Git

Repository Public

AUDIT-INITIAL.md 8.3 KB 122 lines markdown

1# Rapport d'audit initial — Mac mini cible (m4mm)23Audit réalisé le **2026-11-19** en lecture seule, avant toute modification, par SSH sur le nœud `m4mm` du cluster4MacLustr. Toutes les valeurs ci-dessous sont des relevés (commandes entre parenthèses), pas des hypothèses.56## 1. Choix de la machine78Le cluster compte trois Mac mini M4 Pro. `mld scan` (scan live de la RAM, de la charge, du disque et des9processus de chaque nœud) donnait au moment de l'audit :1011| Nœud | RAM libre / totale | Processus PM2 | Charge | Disque libre |12|---|---|---|---|---|13| **m4mm** | 39,7 / 48 Go | 0 | 1,02 | 346 Go |14| m4mn | 38,7 / 48 Go | 4 (hilmacorp-ca, jellyfin, sp-browser-backend…) | 1,17 | 333 Go |1516`m4mm` est le seul Mac mini M4 Pro 48 Go sans aucune application : il est retenu et **épinglé** (placement mld17`pin`) pour que rien d'autre n'y soit placé automatiquement.1819## 2. Matériel (`system_profiler`, `sysctl`, `df`, `memory_pressure`, `pmset -g therm`)2021| Élément | Relevé |22|---|---|23| Modèle | Mac mini, identifiant `Mac16,11`, n° de modèle Z1JV00027LL/A |24| Puce | Apple M4 Pro — 12 cœurs CPU (8 performance + 4 efficacité), GPU 16 cœurs, Metal 4 |25| Mémoire unifiée | 48 Go (`hw.memsize` 51 539 607 552 octets) |26| Limite GPU recommandée par MLX | 40,2 Go (`max_recommended_working_set_size`), tampon unique max 30,2 Go |27| macOS | 26.5.1 (25F80), en marche depuis 12 jours |28| SSD | 460 Go, 346 Go libres (volume Données occupé à 22 %) |29| Pression mémoire | normale — 95 % de mémoire libre, **swap 0 Mo** |30| CPU au repos | charge 1,2 ; premier processus = WindowServer à 8 % |31| Thermique | aucun avertissement thermique ni bridage enregistré (`pmset -g therm`) ; la température en °C n'est pas lisible sans privilèges sur Apple Silicon |32| Réseau | Ethernet `en0` 192.168.2.92 ; Tailscale 100.115.250.59 ; WireGuard `wg1` 10.67.0.31 (tunnel public) ; Hugging Face joignable, ~75 Mo/s en téléchargement direct |3334## 3. Le Mac mini n'est pas vierge : ce qui s'y trouvait3536- **Services launchd** : `io.maclustr.wireguard-wg1` (LaunchDaemon du tunnel), `ai.spboucher.mcc-agent`37  (agent du MacLustr Command Center), `pm2.simon-pierreboucher` (PM2 vide), Tailscale, Zoom. **Aucun n'est modifié.**38- **Ports en écoute** : uniquement `3283` (Apple Remote Desktop). Les ports 8810 (passerelle) et 8811 (moteur)39  étaient libres.40- **Données d'autres projets** dans le dossier personnel (`wp41_uqo`, `wp28`, `raid-e7*`, `UQO_RESEARCH_DB`,41  `ai_dictionary_russell3000`…) : travaux de recherche au repos, aucun processus actif. Non touchés.42- **Pare-feu applicatif macOS** : désactivé (comme sur les autres nœuds ; la machine est derrière le routeur du43  LAN et n'est exposée à Internet que par le tunnel). Voir § 6.4445## 4. Environnement logiciel4647| Composant | État relevé |48|---|---|49| Homebrew | présent (`/opt/homebrew`) |50| Python | 3.14.7 et 3.13.15 (Homebrew), 3.12.14 (uv), 3.9.6 (système) → **3.12 retenu** (roues MLX et tokenizers disponibles) |51| uv | 0.12.17 — gestion de l'environnement et verrouillage des dépendances |52| Xcode Command Line Tools | installés ; Swift 6.3.3 |53| Git | 2.50.1 (Apple) |54| Node.js / pnpm / PM2 | 26.9.0 / présents (non utilisés par ce projet : aucun build frontend) |55| MLX / MLX-LM | **absents** → installés dans l'environnement du projet : MLX 0.32.4, MLX-LM 0.32.2 |56| Reverse proxy local | aucun (ni Caddy ni nginx sur le nœud) |57| TLS / DNS | `llm.spboucher.ai` résout déjà vers la passerelle publique du cluster (51.161.112.61, BHS64), qui termine TLS (Caddy, Let's Encrypt automatique) et relaie vers le nœud par WireGuard |5859## 5. Capacité disponible pour l'inférence6061- Budget mémoire : 48 Go − macOS et services (~6 Go relevés) ⇒ **~40 Go utilisables par MLX**, ce qui coïncide62  avec la limite recommandée par Metal (40,2 Go).63- Poids du candidat principal (Qwen3-30B-A3B 4 bits) : 17,2 Go sur disque. La mémoire réellement consommée est64  **mesurée** au chargement et sous charge (voir `BENCHMARKS.md`) plutôt que déduite de la taille des fichiers.65- Disque : 346 Go libres, largement suffisants pour plusieurs modèles candidats (17 Go chacun).6667## 6. Risques techniques relevés et parades6869| Risque | Parade retenue |70|---|---|71| Épuisement mémoire sous forte concurrence ou longs contextes (KV caches) | budget de tokens en vol par moteur, plafonds mémoire MLX explicites, garde sur la pression mémoire réelle de macOS (capacité divisée par deux en « warn », refus en « critical »), cache de préfixes borné en octets |72| Le serveur `mlx_lm` nu charge/télécharge n'importe quel modèle nommé dans une requête | lanceur durci : modèle verrouillé, écoute sur 127.0.0.1 uniquement, jamais exposé ; la passerelle réécrit toujours le nom du modèle |73| Client Xet de Hugging Face figé sur ce réseau (téléchargement bloqué à 67 Mo) | téléchargement HTTP direct (`HF_HUB_DISABLE_XET=1`), révision épinglée, SHA-256 revérifié localement |74| Pare-feu macOS désactivé | le moteur n'écoute qu'en bouclage ; la passerelle n'a aucune route non authentifiée hors documentation et statut publics |75| Journal d'accès du proxy public contenant le chemin `/setup/<jeton>` | exclusion de ce chemin du journal Caddy pour ce site ; jeton à usage unique, 15 minutes, haché côté serveur |76| Coupure de courant / redémarrage | services launchd `KeepAlive` + `RunAtLoad`, ouverture de session automatique déjà en place sur le nœud (`mld harden`), auto-réparation `mld heal` toutes les 5 minutes |77| Nœud partagé avec d'autres travaux à l'avenir | épinglage mld + `requires.ram_gb` élevé dans le manifeste pour que le placeur n'y mette rien d'autre |7879## 7. Architecture recommandée (retenue)8081```82Internet ──HTTPS──▶ Caddy (BHS64, TLS Let's Encrypt) ──WireGuard wg1──▶ m4mm:8810  API Gateway (FastAPI)83                                                                            │  clés, quotas, file à priorités,84                                                                            │  Passkeys, Dashboard, documentation85                                                                            ▼86                                                              127.0.0.1:8811  moteur MLX (mlx_lm durci)87                                                                            │  lot continu, cache de préfixes KV88                                                                            ▼89                                                              GPU Apple M4 Pro (Metal), mémoire unifiée90```9192Deux processus séparés, chacun sous launchd : le **moteur** (un par modèle, bouclage seulement) et la93**passerelle** (seul point d'entrée). L'état (clés hachées, sessions, agrégats d'usage, audit) vit dans une base94SQLite locale ; aucun prompt ni réponse n'est stocké.9596## 8. Modèles envisageables9798Vérifiés sur Hugging Face le jour de l'audit (licence, révision, taille) :99100| Dépôt | Révision | Licence | Taille | Rôle |101|---|---|---|---|---|102| `mlx-community/Qwen3-30B-A3B-Instruct-2507-4bit` | `e9675aa3…` | Apache-2.0 | 17,2 Go | candidat principal (mise à jour de juillet 2025, sans mode raisonnement) |103| `mlx-community/Qwen3-30B-A3B-4bit` | `d388dead…` | Apache-2.0 | 17,2 Go | candidat principal d'origine (raisonnement activable) |104| `mlx-community/Qwen3-8B-4bit` | `545dc425…` | Apache-2.0 | 4,6 Go | candidat secondaire compact |105106Le choix final se fait sur mesures (qualité + vitesse + mémoire) : voir `BENCHMARKS.md`.107108## 9. Stratégie de déploiement1091101. Code versionné (dépôt spbgit `maclustr-llm.git`), dépendances verrouillées (`uv.lock`).1112. Déploiement par l'orchestrateur du cluster (`mld`) : manifeste épinglé sur m4mm, deux services launchd,112   route publique `https://llm.spboucher.ai` posée sur la passerelle du tunnel, contrôle de santé local puis public.1133. Activation de l'administrateur par lien unique généré sur le Mac mini.114115## 10. Plan de retour arrière116117- **Rien d'existant n'est modifié** sur le nœud : le retrait complet se résume à décharger les deux services118  `ai.spboucher.maclustr-llm.*`, retirer la route (`mld retire maclustr-llm`) et supprimer `~/apps/maclustr-llm`119  et `~/maclustr-llm-data`.120- Retour à une version précédente : `git checkout <tag>` + `deploy/install.sh` (détail dans `OPERATIONS.md`).121- État : sauvegarde quotidienne de la base et du secret serveur (`scripts/backup.sh`), restauration en une commande.122
Files main
Menu

Theme