SPB Git forge

spb/sorti-ka

Public

Toutes les sorties et tous les événements du Québec, un seul endroit — 7 connecteurs, fiches SSR, design Groupe KA.

58commits 1branches 0releases
13.7 MBsize
maindefault branch
17 days agolast push
HTML 82.9% Python 15.2% TypeScript 0.9% JavaScript 0.7%
7.8 KB · 120 lines markdown
Rendered Raw Blame History
1# Ville de Laval — calendrier vivant laval.ca (`lavalweb`)23> Fiche générée le 2026-08-25 19:01 EDT par `scripts/gen_connector_docs.py` — ne pas éditer à la main, relancer le script.45**Statut : actif** · Type : `municipal` · Connecteur : `sortika/connectors/lavalweb.py`67## Description89- **Source** : [Ville de Laval — calendrier vivant laval.ca](https://www.laval.ca/calendrier-activites/)10- **Couverture** : Activités municipales, Laval (remplace le jeu Données Québec mort à la source depuis 2025-12)11- **Extraction** : listes SSR paginées (cartes .event-item : date FR « 18 août 2026 | 18 h » → date + heure, titre, lieu, lien, image lazy) + fiches détail incrémentales (cache data/lavalweb_cache.json, LAVALWEB_FICHE_MAX/sync, re-visite 7 j) : og:description ; GPS via annuaire de salles + géocodeur1213## Accès1415- **Type** : municipal16- **Endpoint** (`BASE`) : `https://www.laval.ca`17- **Auth** : Aucune (accès public, identification honnête par User-Agent)18- **Pagination** : par numéro de page19- **Backend** : GET direct `requests` (throttlé, UA `SortiKa/1.0` identifié)20- **Throttle** : 0.5 s entre requêtes21- **Accès légal** : robots.txt laval.ca : Disallow /wp-admin/ seulement — pages calendrier publiques, GET throttlés 0,5 s, identification honnête2223<details><summary>En-tête documentaire du connecteur</summary>2425> connectors/lavalweb.py : Ville de Laval — calendrier VIVANT laval.ca (Phase 3)26> Remplace la source « laval » (jeu Données Québec MORT À LA SOURCE depuis27> 2025-12, consigné Phase 2). L'ancien connecteur reste branché (réveil28> automatique si la Ville republie) ; le recoupement éventuel est géré par29> dedup_key.30> Source    : https://www.laval.ca/calendrier-activites/ — WordPress, listes31> rendues serveur, pagination ?findstr[group]=events&findstr[page]=N32> (~58 pages × 8 cartes ≈ 460 activités à venir, vérifié 2026-08-19).33> Extraction: cartes .event-item (date FR « 18 août 2026 | 18 h », titre,34> lieu, lien, image lazy) + fiches détail incrémentales (cache35> data/lavalweb_cache.json, LAVALWEB_FICHE_MAX/sync, re-visite36> 7 j) : og:description. GPS via annuaire de salles/géocodeur.37> Accès     : robots.txt laval.ca : « Disallow: /wp-admin/ » seulement — les38> pages calendrier sont libres. GET throttlés 0,5 s, UA honnête.3940</details>4142## Champs récupérés → schéma4344Complétude mesurée sur les **427 événements actifs** de la source ; exemples tirés d'un événement réel (`lavalweb:famille-fete`).4546| Champ (`events.*`) | Description | Complétude | Exemple réel |47|---|---|---|---|48| `title` — Titre | titre de l'événement | 100 % | Famille à la fête |49| `description` — Description | texte descriptif (source ou fiche détail) | 51 % | Participez à une fête de quartier intergénérationnelle mettant en valeur le patrimoine et l’hist… |50| `url` — URL | lien vers la fiche originale / billetterie | 100 % | https://www.laval.ca/calendrier-activites/famille-fete/ |51| `categories` — Catégories | taxonomie canonique Sorti-Ka (JSON) | 100 % | ["famille"] |52| `venue` — Salle (venue) | nom du lieu | 100 % | Parc de la Renaissance |53| `address` — Adresse | adresse civique | 0 % | ∅ |54| `city` — Ville | municipalité | 100 % | Laval |55| `region` — Région | région administrative | 100 % | Laval |56| `lat` — GPS (lat/lng) | coordonnées géographiques | 89 % | 45.602079, -73.7961698 |57| `start_date` — Date début | date locale AAAA-MM-JJ | 100 % | 2026-09-05 |58| `end_date` — Date fin | date locale AAAA-MM-JJ | 100 % | 2026-09-05 |59| `start_time` — Heure (start_time) | heure locale HH:MM (Québec) | 98 % | 11:00 |60| `end_time` — Heure de fin (end_time) | heure locale HH:MM (Québec) | 0 % | ∅ |61| `status` — Statut | cancelled / postponed / soldout (NULL = prévu) | 0 % | ∅ |62| `is_free` — Gratuité (is_free) | 1 gratuit / 0 payant / NULL inconnu | 0 % | ∅ |63| `price_min` — Prix min | tarif minimal réel ($) | 0 % | ∅ |64| `price_label` — Libellé prix | étiquette tarifaire affichable | 0 % | ∅ |65| `artists` — Artistes | têtes d'affiche / lineup (JSON) | 0 % | [] |66| `organizer` — Organisateur | promoteur / organisme | 100 % | Ville de Laval |67| `image` — Image | visuel (og:image ou média source) | 0 % | ∅ |68| `website` — Site web | site officiel de l'événement | 0 % | ∅ |6970## Fréquence & budgets7172- **Cadence** : horaire (watcher PM2, incrémental)73- **Budgets / plafonds (variables d'environnement)** :7475| Variable | Défaut | Rôle |76|---|---|---|77| `LAVALWEB_PAGES_MAX` | `60` | — |78| `LAVALWEB_FICHE_MAX` | `30` | — |79- **Budget global** : géocodage Nominatim plafonné à `SORTIKA_GEOCODE_MAX` (défaut 120) requêtes réseau/cycle, toutes sources confondues (`sortika/geocode.py`, cache disque).8081## Volumétrie & complétude live8283*(mesuré le 2026-08-25 19:01 EDT dans `data/sortika.db`)*8485- **Événements en base** : 563 (dont **427 actifs**)86- **GPS** : 382/427 actifs (89 %)87- **Prix** : 0/427 actifs (0 %)88- **Heure (start_time)** : 418/427 actifs (98 %)89- **Heure de fin** : 0/427 actifs (0 %)90- **Statut (annulé/reporté/complet)** : 0/427 actifs (0 %)91- **Artistes** : 0/427 actifs (0 %)92- **Image** : 0/427 actifs (0 %)93- **Salle (venue)** : 427/427 actifs (100 %)94- **Dernier sync** : 2026-08-25 18:04 — fetched 426, +0 ajoutés, ~0 mis à jour, -1 retirés95- **Syncs enregistrés** (sync_log) : 1369697## Erreurs & dépannage9899Erreurs relevées dans `sync_log` :100101| Erreur | Occurrences | Dernière fois |102|---|---|---|103| HTTPSConnectionPool(host='www.laval.ca', port=443): Read timed out. (read timeout=60) | 1 | 2026-08-19 14:16 |104105- Rejouer un sync isolé : `python3 run.py sync --source lavalweb` (ou via le watcher PM2) ; inspecter ensuite `sync_log` : `sqlite3 data/sortika.db "SELECT * FROM sync_log WHERE source='lavalweb' ORDER BY ts DESC LIMIT 5;"`106107## Licence / attribution108109- robots.txt laval.ca : Disallow /wp-admin/ seulement — pages calendrier publiques, GET throttlés 0,5 s, identification honnête110111## Historique112113- **2026-08-18 — Vague 1 d'enrichissement** (commit `7d9d1b0`) : géocodage Nominatim des salles (`sortika/geocode.py`, cache disque, plafond `SORTIKA_GEOCODE_MAX`), fiches détail lepointdevente (description, heure, tarifs réels `/plugins/rates/<id>`), contacts Tourinsoft (SITQ), heure locale Montréal via JSON-LD.114- **2026-08-18 — Vague 2 d'enrichissement** (commit `65d2d33`) : colonnes additives `events.start_time` (HH:MM locale QC) et `events.artists` (JSON) + migration auto ; heure captée partout où la source la publie (lepointdevente, evenko, Laval, Sherbrooke, Montréal, atuvu) ; artistes (headliners evenko, lineup Bandsintown, attractions Ticketmaster, patrons sûrs sur les titres) ; 3 nouveaux connecteurs (brossard, ticketmaster, bandsintown).115- **2026-08-19 — Phase 2 (travail de moine)** : colonnes additives `end_time`, `status` (annulé/reporté/complet) et `quarantine` (règles anti-aberrations, non publié mais réintégrable) ; règle d'ARCHIVAGE des événements terminés à chaque cycle (jamais supprimés) ; dedup_key inclut désormais l'heure (les séances multiples d'un même jour ne sont plus écrasées à l'affichage) ; alerte « 0 événement futur / chute > 80 % » par source (data/future_counts.json + /api/sources) ; heure et description La Vitrine ; end_time/organisateur/statut Eventbrite ; og:description Atuvu ; premières parties + portes + tournée evenko ; offres billets Bandsintown ; taxonomie type-event + description intégrale Brossard ; image Longueuil ; géocodage par ADRESSE CIVIQUE prioritaire ; villes normalisées au Répertoire MAMH (data/villes_canon.json) ; laval consignée « morte-a-la-source ».116117Commits touchant `sortika/connectors/lavalweb.py` :118119- `0b8a6f8` 2026-08-19 Phase 3 — 9 nouveaux connecteurs + déroulage des périodes SITQ (fiches d évaluation avant connexion)120