# ----------------------------------------------------------------------------- # Lou-Ka — Agrégateur de logements à louer (province de Québec) # Auteur : Simon-Pierre Boucher — contact@spboucher.ai # connectors/base.py : classe de base des connecteurs + backends de fetch # (requests direct, ou Firecrawl pour les sites JavaScript) # ----------------------------------------------------------------------------- from __future__ import annotations import os import time import requests from ..schema import Listing USER_AGENT = ("Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) " "AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126 Safari/537.36 " "LouKaBot/1.0 (+https://www.lou-ka.com/bot; contact@spboucher.ai)") FIRECRAWL_API = "https://api.firecrawl.dev/v1/scrape" class BaseConnector: """Un connecteur = un adaptateur propre à un site d'agence. Sous-classes : définir `source_id` et implémenter `fetch()` qui retourne la liste complète des annonces actuellement affichées sur le site. Le pipeline (ingest.py) s'occupe du diff avec la base de données. """ source_id: str = "" request_delay: float = 0.6 # politesse entre requêtes timeout: int = 30 use_detail_cache: bool = True # cache BD des pages détail def __init__(self) -> None: self.session = requests.Session() self.session.headers["User-Agent"] = USER_AGENT self._last_request = 0.0 self._detail_con = None # -- backends ------------------------------------------------------------- def get(self, url: str, **kw) -> requests.Response: """GET direct avec throttling poli.""" wait = self.request_delay - (time.time() - self._last_request) if wait > 0: time.sleep(wait) resp = self.session.get(url, timeout=self.timeout, **kw) self._last_request = time.time() resp.raise_for_status() return resp def get_rendered(self, url: str) -> str: """Récupère le HTML rendu (JavaScript exécuté) via Firecrawl. Nécessite FIRECRAWL_API_KEY dans l'environnement (.env). À utiliser pour les sites SPA (Logisco, Locago, etc.). """ key = os.environ.get("FIRECRAWL_API_KEY") if not key: raise RuntimeError("FIRECRAWL_API_KEY manquant (voir .env)") resp = requests.post( FIRECRAWL_API, json={"url": url, "formats": ["html"]}, headers={"Authorization": f"Bearer {key}"}, timeout=90, ) resp.raise_for_status() data = resp.json() return (data.get("data") or {}).get("html", "") def detail(self, external_id: str, key: str, fetch_fn) -> dict: """Payload « page détail » avec cache : `fetch_fn` n'est appelé que si l'annonce est nouvelle ou si sa clé (hash du contenu liste) a changé. Permet d'extraire les champs riches (description, inclusions, contact…) sans revisiter chaque page détail à chaque synchronisation. `fetch_fn` doit retourner un dict JSON-sérialisable. """ if not self.use_detail_cache: return fetch_fn() or {} from .. import db if self._detail_con is None: self._detail_con = db.connect() cached = db.get_cached_detail(self._detail_con, self.source_id, str(external_id), key) if cached is not None: return cached payload = fetch_fn() or {} db.put_cached_detail(self._detail_con, self.source_id, str(external_id), key, payload) return payload # -- contrat -------------------------------------------------------------- def fetch(self) -> list[Listing]: raise NotImplementedError