SPB Git forge

spb/lou-ka

Public

Lou·Ka — tous les logements à louer du Québec, un seul endroit.

232commits 1branches 0releases
172.9 MBsize
maindefault branch
3 days agolast push
HTML 98.9% Python 0.6%
5.4 KB · 80 lines markdown
Rendered Raw Blame History
1# Mellem (Groupe Mach) — connecteur `mellem`23_Fiche générée automatiquement par `scripts/gen_connector_docs.py` le 2026-09-04 14:12 — ne pas éditer à la main, régénérer._45**État : actif** · Région : Outaouais · Backend : direct · Annonces actives : 72/10067## Description de la source89connecteur Mellem (mellem.ca — Groupe Mach) Site Nuxt (rendu serveur) : un projet = une page /projets/<slug> - Mellem Manoir-des-Trembles (189 unités) — Gatineau - Mellem Grace Dart et Mellem Ville-Marie — Montréal (bonus : mêmes pages, même sélecteur, donc même parsing) Le sélecteur d'unités est le module « plans » de Livya/Realvuu, intégré en iframe et décrit dans la page par <div data-module="plans" data-project="…" data-entity="…">. La page du module (app.livya.com, rendue côté serveur par Next.js) embarque l'INVENTAIRE COMPLET en JSON : n° d'unité, étage, typologie (rooms 4.5 -> 4½), loyer exact (rentalPrice), superficie, balcon, chambres/salles de bain, adresse + ville + code postal, latitude/longitude et statut (AVAILABLE / RESERVED / NOT_AVAILABLE). Une annonce = une unité AVAILABLE. Les projets sont découverts via le sitemap (aucune liste codée en dur), et les commodités/inclusions du projet sont lues sur sa page (liste « Plus de commodités pour mieux vivre »).1011- **Site** : https://www.mellem.ca12- **Page des annonces** : https://www.mellem.ca/projets/manoir-des-trembles13- **Secteurs couverts** : Gatineau (Manoir-des-Trembles, boul. Saint-Raymond) ; aussi Montréal (Grace Dart, Ville-Marie)14- **Module** : `louka/connectors/mellem.py` — classe `MellemConnector`1516## Accès1718- **Type d'accès** : sitemap XML + pages HTML19- **Endpoint de base** : https://www.mellem.ca20- **URLs de départ (constantes du module)** : https://www.mellem.ca · https://app.livya.com/fr/{client}/projects/{project}21- **Authentification** : aucune — contenu public22- **Pagination** : page de liste unique (pas de pagination)23- **Backend anti-bot / rendu** : requests direct (session UA LouKaBot, throttling poli)24- **Politesse** : 0.6 s entre requêtes, timeout 30 s, User-Agent identifiable `LouKaBot/1.0 (+https://www.lou-ka.com/bot)`2526## Champs récupérés → schéma cible2728Le connecteur (direct, sitemap XML + pages HTML) alimente les colonnes de la table `listings`. Complétude mesurée en SQL sur les 72 annonces actives ; exemple tiré d'une ligne réelle de la BD.2930| Colonne `listings` | Contenu | Renseignée (actives) | Exemple réel |31|---|---|---|---|32| `title` | Titre de l'annonce | 100 % | Grace Dart — Unité 351 |33| `address` | Adresse civique | 100 % | 6085 Rue Sherbrooke Est, Montréal, H1N 1C2 |34| `city` | Ville (normalisée) | 100 % | Montréal |35| `sector` | Secteur / quartier | 0 % | — |36| `unit_type` | Type d'unité (3½, 4½…) | 93 % | 3½ |37| `price` | Loyer mensuel ($) | 100 % | 1 988 $ |38| `bedrooms` | Chambres | 100 % | 1 |39| `bathrooms` | Salles de bain | 100 % | 1 |40| `area_sqft` | Superficie (pi²) | 100 % | 667 |41| `availability_date` | Date de disponibilité | 100 % | now |42| `lat` | GPS (lat/lng) | 100 % | 45.5784 |43| `description` | Description | 100 % | B30 — 667 pi² — 1 chambre(s) — 1 salle(s) de bain — 3eme étage (B) Habiter au Mellem Grac… |44| `images` | Photos (JSON) | 100 % | 21 photo(s) — https://d10eh8wo1l4y8c.cloudfront.net/projects/a0d89b35-e0de-40d6-bb33-6c0d… |45| `amenities` | Commodités (JSON) | 100 % | ["Internet", "Électricité", "Air climatisé et thermopompe dissimulée sur le toit", "5 éle… |46| `details` | Détails additionnels (JSON) | 100 % | {"inclusions": {"electricity": true, "internet": true}, "appliances": {"fridge": true}, "… |47| `url` | URL de l'annonce source | 100 % | https://www.mellem.ca/projets/grace-dart#unite-351 |4849## Fréquence & budget5051- **Cadence observée** (médiane des passages OK, sync_log) : ≈ 3.4 h52- **Dernier passage OK** : 2026-09-04 08:12 — 71 trouvées, +5 / ~4 / -053- **Throttling** : 0.6 s entre requêtes (constante de classe `request_delay`)54- **Cache des pages détail (BD `detail_cache`)** : activé — évite de re-visiter les fiches inchangées5556## Volumétrie & complétude5758- **Annonces en BD** : 100 au total, **72 actives**59- **Première ingestion** : 2026-08-09 · **Dernière observation** : 2026-09-0460- **Complétude clé (actives)** : GPS 100 % · prix 100 % · photos 100 % · description 100 %61- **Runs journalisés (60 derniers)** : 60, dont 0 en erreur6263## Erreurs connues & dépannage6465Aucune erreur dans les 60 derniers runs journalisés.6667Rejouer la source seule : `python3 run.py sync mellem` · vérifier ensuite `sync_log` (`SELECT * FROM sync_log WHERE source='mellem' ORDER BY ts DESC LIMIT 5;`).6869## Licence, attribution & conditions7071- Scraping poli d'annonces **publiques** (données factuelles : prix, adresse, disponibilité) publiées par le gestionnaire sur son propre site.72- User-Agent **identifiable** avec page d'information et contact : `LouKaBot/1.0 (+https://www.lou-ka.com/bot; contact@spboucher.ai)` ; throttling 0.6 s ; cache détail pour minimiser les requêtes.73- Chaque annonce affichée sur Lou-Ka **pointe vers l'annonce d'origine** (colonne `url`) — la source garde le trafic de conversion.74- Retrait sur demande : contact@spboucher.ai.7576## Historique7778- 2026-08-09 — premières annonces de la source ingérées dans la BD.79- 2026-08-18 — vague d'enrichissement : standardisation de la documentation des connecteurs (fiche générée par `scripts/gen_connector_docs.py`).80