SPB Git forge

spb/lou-ka

Public

Lou·Ka — tous les logements à louer du Québec, un seul endroit.

232commits 1branches 0releases
172.9 MBsize
maindefault branch
3 days agolast push
HTML 98.9% Python 0.6%
5.2 KB · 80 lines markdown
Rendered Raw Blame History
1# Apartments.com (CoStar) — connecteur `apartments_com`23_Fiche générée automatiquement par `scripts/gen_connector_docs.py` le 2026-09-04 14:12 — ne pas éditer à la main, régénérer._45**État : actif** · Région : Province · Backend : direct · Annonces actives : 745/74567## Description de la source89Apartments.com (CoStar) — réseau US avec un vrai parc québécois (~500 propriétés / 8 400 unités via /qc/, surtout de grands gestionnaires). Le site est verrouillé par Akamai (403 en direct, via Scrapfly ET via Oxylabs — sondé 2026-08-18/22) : le scraping est délégué à l'ACTEUR APIFY MAISON gorgeous_thistle/ka-apartments-com (source : actors/ka-apartments-com de ce repo) qui passe par le Web Unlocker Bright Data — HTML server-rendered, pas de rendu JS. UNE annonce = UNE PROPRIÉTÉ (immeuble) : prix « à partir de » (minimum des plans d'unités), tous les plans dans details["plans"]. Les fiches détail sont lues en FRANÇAIS (/fr/) : description, GPS, commodités, galerie. Cache détail 30 j + CADENCE : l'inventaire CoStar bouge lentement, l'acteur ne tourne qu'aux LOUKA_APTS_INTERVAL_H heures ; entre deux runs on ré-émet les annonces actives depuis la BD (coût 0).1011- **Site** : https://www.apartments.com12- **Page des annonces** : https://www.apartments.com/qc/13- **Secteurs couverts** : Toute la province via /qc/ (~500 propriétés / 8 400 unités, grands gestionnaires) — acteur Apify maison ka-apartments-com + Bright Data Web Unlocker14- **Module** : `louka/connectors/apartments_com.py` — classe `ApartmentsComConnector`1516## Accès1718- **Type d'accès** : API JSON interne du site19- **Endpoint de base** : https://api.apify.com/v220- **URLs de départ (constantes du module)** : https://api.apify.com/v2 · https://www.apartments.com/qc/21- **Authentification** : aucune — contenu public22- **Pagination** : pagination par offset23- **Backend anti-bot / rendu** : requests direct24- **Politesse** : 1.0 s entre requêtes, timeout 30 s, User-Agent identifiable `LouKaBot/1.0 (+https://www.lou-ka.com/bot)`2526## Champs récupérés → schéma cible2728Le connecteur (direct, API JSON interne du site) alimente les colonnes de la table `listings`. Complétude mesurée en SQL sur les 745 annonces actives ; exemple tiré d'une ligne réelle de la BD.2930| Colonne `listings` | Contenu | Renseignée (actives) | Exemple réel |31|---|---|---|---|32| `title` | Titre de l'annonce | 100 % | Place Du Fort |33| `address` | Adresse civique | 100 % | 1411 St Du Fort |34| `city` | Ville (normalisée) | 99 % | Montréal |35| `sector` | Secteur / quartier | 0 % | — |36| `unit_type` | Type d'unité (3½, 4½…) | 63 % | — |37| `price` | Loyer mensuel ($) | 100 % | 1 250 $ |38| `bedrooms` | Chambres | 94 % | 0 |39| `bathrooms` | Salles de bain | 42 % | 1 |40| `area_sqft` | Superficie (pi²) | 6 % | — |41| `availability_date` | Date de disponibilité | 32 % | now |42| `lat` | GPS (lat/lng) | 78 % | 45.49181 |43| `description` | Description | 65 % | Place du Fort est un immeuble d'appartements situé au cœur de Montréal, une ville inspira… |44| `images` | Photos (JSON) | 100 % | 23 photo(s) — https://images1.apartments.com/i2/U8NaqvSrDRFxjRV-gt5W7Q4kjHyqkDFW9FxafM5yi… |45| `amenities` | Commodités (JSON) | 62 % | ["Cats Allowed", "Maintenance on site", "Controlled Access", "Elevator", "Laundry Facilit… |46| `details` | Détails additionnels (JSON) | 71 % | {"inclusions": {"heating": true, "hot_water": true, "internet": true, "cable": true}, "ap… |47| `url` | URL de l'annonce source | 100 % | https://www.apartments.com/fr/place-du-fort-montreal-qc/n28d2cm/ |4849## Fréquence & budget5051- **Cadence observée** (médiane des passages OK, sync_log) : ≈ 3.3 h52- **Dernier passage OK** : 2026-09-04 13:54 — 745 trouvées, +0 / ~0 / -053- **Throttling** : 1.0 s entre requêtes (constante de classe `request_delay`)54- **Cache des pages détail (BD `detail_cache`)** : activé — évite de re-visiter les fiches inchangées5556## Volumétrie & complétude5758- **Annonces en BD** : 745 au total, **745 actives**59- **Première ingestion** : 2026-08-22 · **Dernière observation** : 2026-09-0460- **Complétude clé (actives)** : GPS 78 % · prix 100 % · photos 100 % · description 65 %61- **Runs journalisés (60 derniers)** : 60, dont 0 en erreur6263## Erreurs connues & dépannage6465Aucune erreur dans les 60 derniers runs journalisés.6667Rejouer la source seule : `python3 run.py sync apartments_com` · vérifier ensuite `sync_log` (`SELECT * FROM sync_log WHERE source='apartments_com' ORDER BY ts DESC LIMIT 5;`).6869## Licence, attribution & conditions7071- Scraping poli d'annonces **publiques** (données factuelles : prix, adresse, disponibilité) publiées par le gestionnaire sur son propre site.72- User-Agent **identifiable** avec page d'information et contact : `LouKaBot/1.0 (+https://www.lou-ka.com/bot; contact@spboucher.ai)` ; throttling 1.0 s ; cache détail pour minimiser les requêtes.73- Chaque annonce affichée sur Lou-Ka **pointe vers l'annonce d'origine** (colonne `url`) — la source garde le trafic de conversion.74- Retrait sur demande : contact@spboucher.ai.7576## Historique7778- 2026-08-22 — premières annonces de la source ingérées dans la BD.79- 2026-08-18 — vague d'enrichissement : standardisation de la documentation des connecteurs (fiche générée par `scripts/gen_connector_docs.py`).80