SPB Git forge

spb/rent-ka

Public
8commits 1branches 0releases
7.4 MBsize
maindefault branch
19 days agolast push
Python 68.8% TypeScript 18.6% CSS 8.7% JavaScript 3.3% HTML 0.6%
6.1 KB · 80 lines markdown
Rendered Raw Blame History
1# Zumper (Québec) — connecteur `zumper`23_Fiche générée automatiquement par `scripts/gen_connector_docs.py` le 2026-08-25 01:59 — ne pas éditer à la main, régénérer._45**État : actif** · Région : Province · Backend : direct · Annonces actives : 4804/518167## Description de la source89Zumper (zumper.com) — portail locatif nord-américain, filtré PROVINCE DE QUÉBEC, en DIRECT (aucun proxy payant). API JSON interne (celle du site) : 1. GET  /api/t/1/bundle                → cookie `csrftoken` + jeton `csrf` 2. POST /api/t/1/pages/listables       → annonces par bbox (en-tête `x-csrftoken`) ; paginé offset/limit, réponse = groupes « immeuble » (fourchettes prix/chambres) et pads individuels, champ `state` filtrable 3. GET  /api/t/1/buildings/{id}        → fiche immeuble : description, `floorplan_listings` = TOUTES les unités (prix, chambres, sdb, pi², disponibilité) — 1 requête par immeuble, mise en cache BD et invalidée par `modified_on` (le champ bouge quand l'inventaire change). Photos : https://img.zumpercdn.com/{media_id}/1280x960 (vérifié 2026-08-18). ⚠️ Le HTML du site est derrière un « Client Challenge » JS, mais l'API répond en direct avec des en-têtes navigateur + le rituel CSRF ci-dessus. Un 429 ponctuel = throttling : une seule reprise après pause, sinon on laisse le disjoncteur d'ingestion faire son travail. ⚠️ PadMapper (padmapper.com) = MÊME compagnie et MÊME API (`/api/t/1/…`, mêmes listing_id — vérifié 100/100 identiques sur Montréal 2026-08-18) : un seul connecteur suffit, `padmapper` reste dans PORTALS (dédup) au cas où. Recherche par bbox métropolitaines (le slug de ville est fragile, ex. « quebec-city-qc » ne matche rien) + filtre state == QC (Ottawa exclu).1011- **Site** : https://www.zumper.com12- **Page des annonces** : https://www.zumper.com/apartments-for-rent/montreal-qc13- **Secteurs couverts** : Grandes régions QC (Montréal/Laval/Longueuil, Québec-Lévis, Gatineau, Sherbrooke, Trois-Rivières, Saguenay, Drummondville, Granby/St-Jean) — API JSON interne en DIRECT (bundle CSRF + pages/listables par bbox + fiches immeubles /buildings), filtre state=QC ; ~3 900 annonces au premier relevé14- **Module** : `louka/connectors/zumper.py` — classe `ZumperConnector`1516## Accès1718- **Type d'accès** : API JSON interne du site19- **Endpoint de base** : https://www.zumper.com20- **URLs de départ (constantes du module)** : https://img.zumpercdn.com/{media_id}/1280x960 · https://www.zumper.com · https://img.zumpercdn.com/{}/1280x96021- **Authentification** : aucune — contenu public22- **Pagination** : pagination par offset23- **Backend anti-bot / rendu** : requests direct (session UA LouKaBot, throttling poli)24- **Politesse** : 1.2 s entre requêtes, timeout 30 s, User-Agent identifiable `LouKaBot/1.0 (+https://www.lou-ka.com/bot)`2526## Champs récupérés → schéma cible2728Le connecteur (direct, API JSON interne du site) alimente les colonnes de la table `listings`. Complétude mesurée en SQL sur les 4804 annonces actives ; exemple tiré d'une ligne réelle de la BD.2930| Colonne `listings` | Contenu | Renseignée (actives) | Exemple réel |31|---|---|---|---|32| `title` | Titre de l'annonce | 100 % | 170 René-Lévesque — Studio Promotional Price |33| `address` | Adresse civique | 100 % | 170 Boul René-Lévesque E |34| `city` | Ville (normalisée) | 99 % | Montréal |35| `sector` | Secteur / quartier | 80 % | Quartier Ville-Marie |36| `unit_type` | Type d'unité (3½, 4½…) | 100 % | Studio |37| `price` | Loyer mensuel ($) | 100 % | 1 440 $ |38| `bedrooms` | Chambres | 100 % | 0 |39| `bathrooms` | Salles de bain | 100 % | 1 |40| `area_sqft` | Superficie (pi²) | 75 % | 391 |41| `availability_date` | Date de disponibilité | 20 % | — |42| `lat` | GPS (lat/lng) | 100 % | 45.51020505957441 |43| `description` | Description | 99 % | 3 Months Free* *Limited time offer. E & OE conditions apply. Advertised price reflects a … |44| `images` | Photos (JSON) | 100 % | 8 photo(s) — https://img.zumpercdn.com/907672238/1280x960 |45| `amenities` | Commodités (JSON) | 98 % | ["Onsite Laundry", "Air Conditioning", "Dishwasher", "Balcony", "In-Unit Laundry", "Heat"… |46| `details` | Détails additionnels (JSON) | 100 % | {"inclusions": {"heating": true, "electricity": true, "hot_water": true}, "appliances": {… |47| `url` | URL de l'annonce source | 100 % | https://www.zumper.com/apartment-buildings/p891463/170-rene-levesque-quartier-ville-marie… |4849## Fréquence & budget5051- **Cadence observée** (médiane des passages OK, sync_log) : ≈ 2.9 h52- **Dernier passage OK** : 2026-08-25 00:06 — 4773 trouvées, +20 / ~30 / -3253- **Throttling** : 1.2 s entre requêtes (constante de classe `request_delay`)54- **Cache des pages détail (BD `detail_cache`)** : activé — évite de re-visiter les fiches inchangées5556## Volumétrie & complétude5758- **Annonces en BD** : 5181 au total, **4804 actives**59- **Première ingestion** : 2026-08-18 · **Dernière observation** : 2026-08-2560- **Complétude clé (actives)** : GPS 100 % · prix 100 % · photos 100 % · description 99 %61- **Runs journalisés (60 derniers)** : 57, dont 0 en erreur6263## Erreurs connues & dépannage6465Aucune erreur dans les 60 derniers runs journalisés.6667Rejouer la source seule : `python3 run.py sync zumper` · vérifier ensuite `sync_log` (`SELECT * FROM sync_log WHERE source='zumper' ORDER BY ts DESC LIMIT 5;`).6869## Licence, attribution & conditions7071- Scraping poli d'annonces **publiques** (données factuelles : prix, adresse, disponibilité) publiées par le gestionnaire sur son propre site.72- User-Agent **identifiable** avec page d'information et contact : `LouKaBot/1.0 (+https://www.lou-ka.com/bot; contact@spboucher.ai)` ; throttling 1.2 s ; cache détail pour minimiser les requêtes.73- Chaque annonce affichée sur Lou-Ka **pointe vers l'annonce d'origine** (colonne `url`) — la source garde le trafic de conversion.74- Retrait sur demande : contact@spboucher.ai.7576## Historique7778- 2026-08-18 — premières annonces de la source ingérées dans la BD.79- 2026-08-18 — vague d'enrichissement : standardisation de la documentation des connecteurs (fiche générée par `scripts/gen_connector_docs.py`).80