SPB Git forge

spb/lou-ka

Public

Lou·Ka — tous les logements à louer du Québec, un seul endroit.

232commits 1branches 0releases
172.9 MBsize
maindefault branch
2 days agolast push
HTML 98.9% Python 0.6%
5.8 KB · 82 lines markdown
Rendered Raw Blame History
1# Killam Apartment REIT (Ontario) — connecteur `killam`23_Fiche générée automatiquement par `scripts/gen_connector_docs.py` le 2026-09-04 14:12 — ne pas éditer à la main, régénérer._45**État : pause** · Région : Ontario — multi-régions · Backend : direct · Annonces actives : 114/11467## Description de la source89connecteur Killam Apartment REIT (killamreit.com) REIT national (~17 000 unités, Maritimes + Ontario + Alberta/C.-B.) — on ne garde ici QUE l'Ontario : Toronto, Ottawa (Kanata), London, Kitchener- Waterloo, Cambridge, Mississauga (~29 propriétés au moment de l'écriture). Le site est un « corporate site » Yardi RentCafe derrière Cloudflare (challenge JS : curl nu = 403 « Just a moment… »). Aucune API interne à rejouer : la page de recherche /apartments embarque TOUT le portefeuille (204 propriétés) dans un input caché `#available_prop` — un JSON doublement encodé (chaîne JSON contenant du JSON aux guillemets "). On le décode avec deux json.loads, sans exécuter de JavaScript : Scrapfly ASP suffit (asp=true, PAS de render_js), via la chaîne de secours de BaseConnector.get (Oxylabs résidentiel → Scrapfly → Bright Data). Le flux liste donne nom, adresse civique, ville/province/code postal, lat/lng, fourchettes loyer/chambres/sdb/pi², politique animaux, téléphone et l'URL de la fiche. La fiche propriété (rendu serveur, même anti-bot) fournit description, galerie photo (resource.rentcafe.com) et les cartes « plans d'étage » (nom, chambres, sdb, pi², « Starting at $X /Month ») — visitée via le cache BD self.detail() (clé = hash de la ligne du flux). On émet UNE annonce PAR PLAN D'ÉTAGE (granularité type d'unité), avec un repli « une annonce par propriété » si les cartes sont introuvables.1011- **Site** : https://www.killamreit.com12- **Page des annonces** : https://www.killamreit.com/apartments13- **Secteurs couverts** : Toronto, Ottawa (Kanata), London, Kitchener-Waterloo, Cambridge, Mississauga14- **Module** : `louka/connectors/killam.py` — classe `KillamConnector`1516## Accès1718- **Type d'accès** : pages HTML (rendu serveur)19- **Endpoint de base** : https://www.killamreit.com20- **URLs de départ (constantes du module)** : https://www.killamreit.com21- **Authentification** : aucune — contenu public22- **Pagination** : page de liste unique (pas de pagination)23- **Backend anti-bot / rendu** : requests direct (session UA LouKaBot, throttling poli)24- **Politesse** : 1.2 s entre requêtes, timeout 30 s, User-Agent identifiable `LouKaBot/1.0 (+https://www.lou-ka.com/bot)`2526## Champs récupérés → schéma cible2728Le connecteur (direct, pages HTML (rendu serveur)) alimente les colonnes de la table `listings`. Complétude mesurée en SQL sur les 114 annonces actives ; exemple tiré d'une ligne réelle de la BD.2930| Colonne `listings` | Contenu | Renseignée (actives) | Exemple réel |31|---|---|---|---|32| `title` | Titre de l'annonce | 100 % | Fairview and Trafalgar Place — Fairview Place - 1 Bedroom |33| `address` | Adresse civique | 100 % | 298 Fairview Place, London, ON N6C 4V1 |34| `city` | Ville (normalisée) | 100 % | London |35| `sector` | Secteur / quartier | 20 % | — |36| `unit_type` | Type d'unité (3½, 4½…) | 100 % | 3½ |37| `price` | Loyer mensuel ($) | 53 % | 1 325 $ |38| `bedrooms` | Chambres | 100 % | 1 |39| `bathrooms` | Salles de bain | 99 % | 1 |40| `area_sqft` | Superficie (pi²) | 96 % | 415 |41| `availability_date` | Date de disponibilité | 100 % | now |42| `lat` | GPS (lat/lng) | 100 % | 42.9653 |43| `description` | Description | 74 % | Fairview Place is centrally located in a quiet, established neighbourhood in South London… |44| `images` | Photos (JSON) | 100 % | 6 photo(s) — https://resource.rentcafe.com/image/upload//q_auto,f_auto,w_600,h_400,c_limi… |45| `amenities` | Commodités (JSON) | 100 % | ["Air climatisé", "Lave-vaisselle", "Balcon/terrasse", "Laveuse-sécheuse", "Accès fauteui… |46| `details` | Détails additionnels (JSON) | 100 % | {"appliances": {"dishwasher": true, "washer_dryer": true}, "ac": true, "balcony": true, "… |47| `url` | URL de l'annonce source | 100 % | https://www.killamreit.com/apartments/on/london/fairview-place |4849## Fréquence & budget5051- **Cadence observée** (médiane des passages OK, sync_log) : ≈ 2.2 h52- **Dernier passage OK** : 2026-08-27 13:28 — 114 trouvées, +0 / ~6 / -053- **Throttling** : 1.2 s entre requêtes (constante de classe `request_delay`)54- **Cache des pages détail (BD `detail_cache`)** : activé — évite de re-visiter les fiches inchangées5556## Volumétrie & complétude5758- **Annonces en BD** : 114 au total, **114 actives**59- **Première ingestion** : 2026-08-27 · **Dernière observation** : 2026-08-2760- **Complétude clé (actives)** : GPS 100 % · prix 53 % · photos 100 % · description 74 %61- **Runs journalisés (60 derniers)** : 6, dont 0 en erreur6263## Erreurs connues & dépannage6465Aucune erreur dans les 60 derniers runs journalisés.6667**Note du registre** : pause6869Rejouer la source seule : `python3 run.py sync killam` · vérifier ensuite `sync_log` (`SELECT * FROM sync_log WHERE source='killam' ORDER BY ts DESC LIMIT 5;`).7071## Licence, attribution & conditions7273- Scraping poli d'annonces **publiques** (données factuelles : prix, adresse, disponibilité) publiées par le gestionnaire sur son propre site.74- User-Agent **identifiable** avec page d'information et contact : `LouKaBot/1.0 (+https://www.lou-ka.com/bot; contact@spboucher.ai)` ; throttling 1.2 s ; cache détail pour minimiser les requêtes.75- Chaque annonce affichée sur Lou-Ka **pointe vers l'annonce d'origine** (colonne `url`) — la source garde le trafic de conversion.76- Retrait sur demande : contact@spboucher.ai.7778## Historique7980- 2026-08-27 — premières annonces de la source ingérées dans la BD.81- 2026-08-18 — vague d'enrichissement : standardisation de la documentation des connecteurs (fiche générée par `scripts/gen_connector_docs.py`).82