SPB Git forge

spb/lou-ka

Public

Lou·Ka — tous les logements à louer du Québec, un seul endroit.

232commits 1branches 0releases
172.9 MBsize
maindefault branch
3 days agolast push
HTML 98.9% Python 0.6%
5.7 KB · 82 lines markdown
Rendered Raw Blame History
1# Realstar — connecteur `realstar`23_Fiche générée automatiquement par `scripts/gen_connector_docs.py` le 2026-09-04 14:12 — ne pas éditer à la main, régénérer._45**État : actif** · Région : Montréal · Backend : Scrapfly · Annonces actives : 9/2167## Description de la source89connecteur Realstar (realstar.ca) Site protégé par Cloudflare (403 pour les robots) et rendu côté client (moteur RentCafe/Yardi) : tout passe par le rendu Scrapfly avec attente (ex-Firecrawl). 1) /searchlisting?province=Quebec -> cartes propriétés (nom, adresse, lits/sdb/pi², fourchette de prix, téléphone, vignette) ; 2) fiche de chaque propriété couverte (Grand Montréal, Gatineau, Sherbrooke) -> galerie photos, description, points forts ; 3) fiche /floorplans -> plans structurés (type, chambres, pi², prix, nombre d'unités disponibles) — disponibilité et prix réels. Une annonce par propriété (uid stables). Les pages détail passent par self.detail(...) (cache BD) : le rendu n'est rappelé que si la carte liste a changé. Expansion Ontario 2026-08 — gaté LOUKA_ONTARIO : quand LOUKA_ONTARIO=1, un rendu supplémentaire de ?province=Ontario alimente les cartes /apartments/on/ des 7 régions couvertes (Toronto/GTA, Ottawa, Hamilton, Kitchener-Waterloo, London, Cobourg), avec plafonds propriétés/rendus SÉPARÉS (le budget QC n'est jamais entamé). Sans la variable, comportement strictement identique (QC seulement).1011- **Site** : https://www.realstar.ca12- **Page des annonces** : https://www.realstar.ca/apartments/qc/montreal/excelsior-apartments13- **Secteurs couverts** : Côte-Saint-Luc, Brossard14- **Module** : `louka/connectors/realstar.py` — classe `RealstarConnector`1516## Accès1718- **Type d'accès** : pages HTML (rendu serveur)19- **Endpoint de base** : https://www.realstar.ca/searchlisting?province=Quebec20- **URLs de départ (constantes du module)** : https://www.realstar.ca/searchlisting?province=Quebec · https://www.realstar.ca/searchlisting?province=Ontario21- **Authentification** : aucune — contenu public (clé Scrapfly côté Lou-Ka)22- **Pagination** : page de liste unique (pas de pagination)23- **Backend anti-bot / rendu** : Scrapfly render_js (HTML rendu, JavaScript exécuté — ex-Firecrawl, migré 2026-08-27)24- **Politesse** : 1.0 s entre requêtes, timeout 30 s, User-Agent identifiable `LouKaBot/1.0 (+https://www.lou-ka.com/bot)`2526## Champs récupérés → schéma cible2728Le connecteur (Scrapfly, pages HTML (rendu serveur)) alimente les colonnes de la table `listings`. Complétude mesurée en SQL sur les 9 annonces actives ; exemple tiré d'une ligne réelle de la BD.2930| Colonne `listings` | Contenu | Renseignée (actives) | Exemple réel |31|---|---|---|---|32| `title` | Titre de l'annonce | 100 % | Bourg Du Village |33| `address` | Adresse civique | 100 % | 25 Place Casavant, Sainte Therese, QC J7E 5X1 |34| `city` | Ville (normalisée) | 89 % | Sainte-Thérèse |35| `sector` | Secteur / quartier | 0 % | — |36| `unit_type` | Type d'unité (3½, 4½…) | 11 % | 4½ |37| `price` | Loyer mensuel ($) | 100 % | 2 170 $ |38| `bedrooms` | Chambres | 100 % | 2 |39| `bathrooms` | Salles de bain | 100 % | 2 |40| `area_sqft` | Superficie (pi²) | 100 % | 1057 |41| `availability_date` | Date de disponibilité | 89 % | now |42| `lat` | GPS (lat/lng) | 100 % | 45.634686 |43| `description` | Description | 100 % | Le site Bourg Du Village de Realstar se situe dans la petite ville de Sainte-Thérèse. Que… |44| `images` | Photos (JSON) | 100 % | 25 photo(s) — https://resource.rentcafe.com/image/upload//q_auto,f_auto,w_600,h_400,c_lfi… |45| `amenities` | Commodités (JSON) | 78 % | ["Laveuse-sécheuse incluse", "Stationnement Intérieur", "Stationnement extérieur", "Balco… |46| `details` | Détails additionnels (JSON) | 100 % | {"appliances": {"washer_dryer": true}, "elevator": true, "balcony": true, "pool": true, "… |47| `url` | URL de l'annonce source | 100 % | https://www.realstar.ca/apartments/qc/sainte-therese/bourg-du-village |4849## Fréquence & budget5051- **Cadence observée** (médiane des passages OK, sync_log) : ≈ 3.4 h52- **Dernier passage OK** : 2026-09-04 08:26 — 9 trouvées, +0 / ~8 / -053- **Throttling** : 1.0 s entre requêtes (constante de classe `request_delay`)54- **Cache des pages détail (BD `detail_cache`)** : activé — évite de re-visiter les fiches inchangées5556## Volumétrie & complétude5758- **Annonces en BD** : 21 au total, **9 actives**59- **Première ingestion** : 2026-08-06 · **Dernière observation** : 2026-09-0460- **Complétude clé (actives)** : GPS 100 % · prix 100 % · photos 100 % · description 100 %61- **Runs journalisés (60 derniers)** : 60, dont 1 en erreur6263## Erreurs connues & dépannage6465| Date | Message (sync_log) |66|---|---|67| 2026-08-27 05:01 | 502 Server Error: Bad Gateway for url: https://api.firecrawl.dev/v1/scrape |6869Rejouer la source seule : `python3 run.py sync realstar` · vérifier ensuite `sync_log` (`SELECT * FROM sync_log WHERE source='realstar' ORDER BY ts DESC LIMIT 5;`).7071## Licence, attribution & conditions7273- Scraping poli d'annonces **publiques** (données factuelles : prix, adresse, disponibilité) publiées par le gestionnaire sur son propre site.74- User-Agent **identifiable** avec page d'information et contact : `LouKaBot/1.0 (+https://www.lou-ka.com/bot; contact@spboucher.ai)` ; throttling 1.0 s ; cache détail pour minimiser les requêtes.75- Chaque annonce affichée sur Lou-Ka **pointe vers l'annonce d'origine** (colonne `url`) — la source garde le trafic de conversion.76- Retrait sur demande : contact@spboucher.ai.7778## Historique7980- 2026-08-06 — premières annonces de la source ingérées dans la BD.81- 2026-08-18 — vague d'enrichissement : standardisation de la documentation des connecteurs (fiche générée par `scripts/gen_connector_docs.py`).82