SPB Git forge

spb/sorti-ka

Public

Toutes les sorties et tous les événements du Québec, un seul endroit — 7 connecteurs, fiches SSR, design Groupe KA.

58commits 1branches 0releases
13.7 MBsize
maindefault branch
17 days agolast push
HTML 82.9% Python 15.2% TypeScript 0.9% JavaScript 0.7%
7.9 KB · 115 lines markdown
Rendered Raw Blame History
1# Événements Attractions Québec (quebecvacances.com) (`evenementsattractions`)23> Fiche générée le 2026-08-25 19:01 EDT par `scripts/gen_connector_docs.py` — ne pas éditer à la main, relancer le script.45**Statut : actif** · Type : `agregateur` · Connecteur : `sortika/connectors/evenementsattractions.py`67## Description89- **Source** : [Événements Attractions Québec (quebecvacances.com)](https://www.quebecvacances.com/)10- **Couverture** : 696 fiches sitemap (festivals/événements membres EAQ, toute la province) — ~1/3 avec dates publiées11- **Extraction** : sitemap paginé /sitemap.xml?page=1..4 → fiches /fr/evenements/<slug> JSON-LD Event (dates de la prochaine édition, lieu, ville, image Cloudinary) ; anti-bot 403 → chaîne de secours Oxylabs/Scrapfly/Bright Data avec réparation d'encodage UTF-8 ; incrémental cache 14 j, plafond EAQ_DETAIL_MAX=801213## Accès1415- **Type** : agregateur16- **Endpoint** (`BASE`) : `https://www.quebecvacances.com`17- **Auth** : Aucune côté source ; `SCRAPFLY_API_KEY` requis pour le backend Scrapfly18- **Pagination** : par numéro de page, parcours de sitemap XML19- **Backend** : Scrapfly (anti-bot / rendu JS) via `base.get_scrapfly()`20- **Throttle** : 1.0 s entre requêtes21- **Accès légal** : robots.txt User-agent: * / Allow: / ; rate-limiting poli, identification honnête ; coût escalade contenu par cache2223<details><summary>En-tête documentaire du connecteur</summary>2425> connectors/evenementsattractions.py : connecteur Événements Attractions Québec26> Source    : répertoire consommateur des festivals/événements membres d'EAQ,27> publié sur quebecvacances.com (~350 fiches fr, toute la province).28> (Le site corporatif evenementsattractions.quebec ne liste que29> des formations aux membres — sondé 2026-08-25, sans intérêt.)30> Extraction: sitemap paginé (/sitemap.xml?page=1..N) → fiches31> /fr/evenements/<slug>, chacune avec JSON-LD Event complet32> (nom, description, dates ISO de la prochaine édition, lieu,33> adresse, image Cloudinary). Le site est derrière un anti-bot34> (403 en GET direct) → chaque GET passe par la chaîne de secours35> du BaseConnector (Oxylabs → Scrapfly ASP → Bright Data),36> d'où un cache INCRÉMENTAL agressif (data/37> evenementsattractions_cache.json) : nouvelles fiches d'abord,38> re-visite après 14 jours (festivals annuels stables), plafond39> EAQ_DETAIL_MAX fiches/sync.40> Accès     : quebecvacances.com/robots.txt « User-agent: * / Allow: / » →41> crawl permis ; rate-limiting poli, identification honnête.42> Prix      : non publié dans le JSON-LD → is_free inconnu (jamais inventé).4344</details>4546## Champs récupérés → schéma4748Complétude mesurée sur les **20 événements actifs** de la source ; exemples tirés d'un événement réel (`evenementsattractions:artistes-en-fete`).4950| Champ (`events.*`) | Description | Complétude | Exemple réel |51|---|---|---|---|52| `title` — Titre | titre de l'événement | 100 % | Artistes en Fête |53| `description` — Description | texte descriptif (source ou fiche détail) | 100 % | Artistes en Fête est un événement unique qui célèbre les arts visuels. Plus de 40 artistes expos… |54| `url` — URL | lien vers la fiche originale / billetterie | 100 % | https://www.quebecvacances.com/fr/evenements/artistes-en-fete |55| `categories` — Catégories | taxonomie canonique Sorti-Ka (JSON) | 100 % | ["festival"] |56| `venue` — Salle (venue) | nom du lieu | 0 % | ∅ |57| `address` — Adresse | adresse civique | 100 % | Centre culturel du Vieux Presbytère : 505, route de la Mer |58| `city` — Ville | municipalité | 100 % | Sainte-Flavie |59| `region` — Région | région administrative | 95 % | Bas-Saint-Laurent |60| `lat` — GPS (lat/lng) | coordonnées géographiques | 40 % | 48.6108549, -68.229553 |61| `start_date` — Date début | date locale AAAA-MM-JJ | 100 % | 2027-07-22 |62| `end_date` — Date fin | date locale AAAA-MM-JJ | 100 % | 2027-07-25 |63| `start_time` — Heure (start_time) | heure locale HH:MM (Québec) | 0 % | ∅ |64| `end_time` — Heure de fin (end_time) | heure locale HH:MM (Québec) | 0 % | ∅ |65| `status` — Statut | cancelled / postponed / soldout (NULL = prévu) | 0 % | ∅ |66| `is_free` — Gratuité (is_free) | 1 gratuit / 0 payant / NULL inconnu | 0 % | ∅ |67| `price_min` — Prix min | tarif minimal réel ($) | 0 % | ∅ |68| `price_label` — Libellé prix | étiquette tarifaire affichable | 0 % | ∅ |69| `artists` — Artistes | têtes d'affiche / lineup (JSON) | 0 % | [] |70| `organizer` — Organisateur | promoteur / organisme | 0 % | ∅ |71| `image` — Image | visuel (og:image ou média source) | 55 % | https://res.cloudinary.com/dqmiqekxl/image/upload/c_auto,f_auto/artistes-en-fete-20340-2026-mem-… |72| `website` — Site web | site officiel de l'événement | 100 % | https://www.quebecvacances.com/fr/evenements/artistes-en-fete |7374## Fréquence & budgets7576- **Cadence** : hebdomadaire77- **Budgets / plafonds (variables d'environnement)** :7879| Variable | Défaut | Rôle |80|---|---|---|81| `EAQ_DETAIL_MAX` | `80` | — |82- **Budget global** : géocodage Nominatim plafonné à `SORTIKA_GEOCODE_MAX` (défaut 120) requêtes réseau/cycle, toutes sources confondues (`sortika/geocode.py`, cache disque).8384## Volumétrie & complétude live8586*(mesuré le 2026-08-25 19:01 EDT dans `data/sortika.db`)*8788- **Événements en base** : 21 (dont **20 actifs**)89- **GPS** : 8/20 actifs (40 %)90- **Prix** : 0/20 actifs (0 %)91- **Heure (start_time)** : 0/20 actifs (0 %)92- **Heure de fin** : 0/20 actifs (0 %)93- **Statut (annulé/reporté/complet)** : 0/20 actifs (0 %)94- **Artistes** : 0/20 actifs (0 %)95- **Image** : 11/20 actifs (55 %)96- **Salle (venue)** : 0/20 actifs (0 %)97- **Dernier sync** : 2026-08-25 18:48 — fetched 21, +21 ajoutés, ~0 mis à jour, -0 retirés98- **Syncs enregistrés** (sync_log) : 199100## Erreurs & dépannage101102Aucune erreur dans `sync_log` pour cette source. ✅103104- Rejouer un sync isolé : `python3 run.py sync --source evenementsattractions` (ou via le watcher PM2) ; inspecter ensuite `sync_log` : `sqlite3 data/sortika.db "SELECT * FROM sync_log WHERE source='evenementsattractions' ORDER BY ts DESC LIMIT 5;"`105106## Licence / attribution107108- robots.txt User-agent: * / Allow: / ; rate-limiting poli, identification honnête ; coût escalade contenu par cache109110## Historique111112- **2026-08-18 — Vague 1 d'enrichissement** (commit `7d9d1b0`) : géocodage Nominatim des salles (`sortika/geocode.py`, cache disque, plafond `SORTIKA_GEOCODE_MAX`), fiches détail lepointdevente (description, heure, tarifs réels `/plugins/rates/<id>`), contacts Tourinsoft (SITQ), heure locale Montréal via JSON-LD.113- **2026-08-18 — Vague 2 d'enrichissement** (commit `65d2d33`) : colonnes additives `events.start_time` (HH:MM locale QC) et `events.artists` (JSON) + migration auto ; heure captée partout où la source la publie (lepointdevente, evenko, Laval, Sherbrooke, Montréal, atuvu) ; artistes (headliners evenko, lineup Bandsintown, attractions Ticketmaster, patrons sûrs sur les titres) ; 3 nouveaux connecteurs (brossard, ticketmaster, bandsintown).114- **2026-08-19 — Phase 2 (travail de moine)** : colonnes additives `end_time`, `status` (annulé/reporté/complet) et `quarantine` (règles anti-aberrations, non publié mais réintégrable) ; règle d'ARCHIVAGE des événements terminés à chaque cycle (jamais supprimés) ; dedup_key inclut désormais l'heure (les séances multiples d'un même jour ne sont plus écrasées à l'affichage) ; alerte « 0 événement futur / chute > 80 % » par source (data/future_counts.json + /api/sources) ; heure et description La Vitrine ; end_time/organisateur/statut Eventbrite ; og:description Atuvu ; premières parties + portes + tournée evenko ; offres billets Bandsintown ; taxonomie type-event + description intégrale Brossard ; image Longueuil ; géocodage par ADRESSE CIVIQUE prioritaire ; villes normalisées au Répertoire MAMH (data/villes_canon.json) ; laval consignée « morte-a-la-source ».115