SPB Git forge

spb/lou-ka

Public

Lou·Ka — tous les logements à louer du Québec, un seul endroit.

232commits 1branches 0releases
172.9 MBsize
maindefault branch
3 days agolast push
HTML 98.9% Python 0.6%
5.1 KB

# DuProprio (location) — connecteur duproprio

Fiche générée automatiquement par scripts/gen_connector_docs.py le 2026-09-04 14:12 — ne pas éditer à la main, régénérer.

État : actif · Région : Province · Backend : direct · Annonces actives : 3745/4522

# Description de la source

DuProprio (duproprio.com) — section LOCATION ~4 200 annonces de particuliers (sans courtier : zéro chevauchement MLS). Découverte par les 21 sitemaps régionaux sitemaps/fr/<region>-listings.xml.gz filtrés sur /fr/location/. Fiches SSR (Laravel/CloudFront, aucun anti-bot) : JSON-LD Apartment (adresse + code postal + chambres/SDB + amenityFeature) et RealEstateListing (offers.price + availabilityStarts), lat/lng inline, superficie « 970 pi² », galerie dans un JSON échappé ("photos":[…]). Fiche retirée -> 302 vers la page parente (détectée par l'URL finale sans /hab-). Cache détail avec TTL (_detailutil.TtlDetailCache). Respect robots.txt : ne jamais toucher /webservice/, /fr-ca/api, /api-proxy.

# Accès

  • Type d'accès : sitemap XML + pages HTML
  • Endpoint de base : https://duproprio.com
  • URLs de départ (constantes du module) : https://duproprio.com · https://photos.duproprio.com/photos/public/for_rent/
  • Authentification : aucune — contenu public
  • Pagination : page de liste unique (pas de pagination)
  • Backend anti-bot / rendu : requests direct (session UA LouKaBot, throttling poli)
  • Politesse : 0.8 s entre requêtes, timeout 30 s, User-Agent identifiable LouKaBot/1.0 (+https://www.lou-ka.com/bot)

# Champs récupérés → schéma cible

Le connecteur (direct, sitemap XML + pages HTML) alimente les colonnes de la table listings. Complétude mesurée en SQL sur les 3745 annonces actives ; exemple tiré d'une ligne réelle de la BD.

Colonne listings Contenu Renseignée (actives) Exemple réel
title Titre de l'annonce 100 % 91, avenue Jacques-Cartier, Matane à louer
address Adresse civique 100 % 91, avenue Jacques-Cartier
city Ville (normalisée) 94 % Matane
sector Secteur / quartier 19 % —
unit_type Type d'unité (3½, 4½…) 100 % 4½
price Loyer mensuel ($) 100 % 1 750 $
bedrooms Chambres 100 % 2
bathrooms Salles de bain 98 % 1
area_sqft Superficie (pi²) 60 % 1100
availability_date Date de disponibilité 86 % now
lat GPS (lat/lng) 100 % 48.8513
description Description 100 % "Professionnel, retraité confortable, couple stable, personne en transition, employé relo…
images Photos (JSON) 99 % —
amenities Commodités (JSON) 94 % ["Stationnement", "Entrée Laveuse-sécheuse", "Ascenseur", "Entrée Lave-vaisselle", "Range…
details Détails additionnels (JSON) 100 % {"appliances": {"washer_dryer_hookup": true, "dishwasher_hookup": true}, "ac": true, "ele…
url URL de l'annonce source 100 % https://duproprio.com/fr/location/bas-saint-laurent/matane/4-1-2-a-louer/hab-91-avenue-ja…

# Fréquence & budget

  • Cadence observée (médiane des passages OK, sync_log) : ≈ 3.4 h
  • Dernier passage OK : 2026-09-04 13:27 — 3735 trouvées, +31 / ~55 / -0
  • Throttling : 0.8 s entre requêtes (constante de classe request_delay)
  • Cache des pages détail (BD detail_cache) : activé — évite de re-visiter les fiches inchangées

# Volumétrie & complétude

  • Annonces en BD : 4522 au total, 3745 actives
  • Première ingestion : 2026-08-17 · Dernière observation : 2026-09-04
  • Complétude clé (actives) : GPS 100 % · prix 100 % · photos 99 % · description 100 %
  • Runs journalisés (60 derniers) : 60, dont 0 en erreur

# Erreurs connues & dépannage

Aucune erreur dans les 60 derniers runs journalisés.

Rejouer la source seule : python3 run.py sync duproprio · vérifier ensuite sync_log (SELECT * FROM sync_log WHERE source='duproprio' ORDER BY ts DESC LIMIT 5;).

# Licence, attribution & conditions

  • Scraping poli d'annonces publiques (données factuelles : prix, adresse, disponibilité) publiées par le gestionnaire sur son propre site.
  • User-Agent identifiable avec page d'information et contact : LouKaBot/1.0 (+https://www.lou-ka.com/bot; contact@spboucher.ai) ; throttling 0.8 s ; cache détail pour minimiser les requêtes.
  • Chaque annonce affichée sur Lou-Ka pointe vers l'annonce d'origine (colonne url) — la source garde le trafic de conversion.
  • Retrait sur demande : contact@spboucher.ai.

# Historique

  • 2026-08-17 — premières annonces de la source ingérées dans la BD.
  • 2026-08-18 — vague d'enrichissement : standardisation de la documentation des connecteurs (fiche générée par scripts/gen_connector_docs.py).