SPB Git forge

spb/sorti-ka

Public

Toutes les sorties et tous les événements du Québec, un seul endroit — 7 connecteurs, fiches SSR, design Groupe KA.

58commits 1branches 0releases
13.7 MBsize
maindefault branch
17 days agolast push
HTML 82.9% Python 15.2% TypeScript 0.9% JavaScript 0.7%
8.0 KB · 116 lines markdown
Rendered Raw Blame History
1# Quoi faire — agrégateur de sorties québécois (`quoifaire`)23> Fiche générée le 2026-08-25 19:01 EDT par `scripts/gen_connector_docs.py` — ne pas éditer à la main, relancer le script.45**Statut : actif** · Type : `agregateur` · Connecteur : `sortika/connectors/quoifaire.py`67## Description89- **Source** : [Quoi faire — agrégateur de sorties québécois](https://quoifaire.com/)10- **Couverture** : centaines de fiches à venir (Québec, Montréal, Saguenay, Outaouais, Mauricie) — site lent, sections parfois 502 (tolérées)11- **Extraction** : listes HTML rendues serveur /<ville>/evenements (+?page=N, 5 sections villes) puis fiches serveur : dates FR, heure (À confirmer→None), prix publié brut, région touristique, lieu/adresse, lat/lng Google Maps, auditoire, og:image ; incrémental cache 7 j, plafond QUOIFAIRE_DETAIL_MAX=1501213## Accès1415- **Type** : agregateur16- **Endpoint** (`BASE`) : `https://quoifaire.com`17- **Auth** : Aucune (accès public, identification honnête par User-Agent)18- **Pagination** : par numéro de page, parcours de sitemap XML19- **Backend** : GET direct `requests` (throttlé, UA `SortiKa/1.0` identifié)20- **Throttle** : 0.8 s entre requêtes21- **Accès légal** : robots.txt Allow: / (seuls /search et admin exclus, non visités), GET throttlés 0,8 s, identification honnête2223<details><summary>En-tête documentaire du connecteur</summary>2425> connectors/quoifaire.py : connecteur Quoi faire (quoifaire.com) — agrégateur26> Source    : agrégateur de sorties québécois (sections villes : Québec,27> Montréal, Saguenay, Outaouais, Mauricie — les autres sections28> renvoyaient 502 à la sonde du 2026-08-25, ignorées proprement).29> Extraction: listes HTML rendues serveur /<ville>/evenements (+ ?page=N)30> → URLs de fiches À VENIR seulement (le sitemap remonte 15 ans31> d'archives, on ne s'en sert pas). Fiches rendues serveur :32> h1, résumé, plage de dates FR (next-date__date), prix publié33> (next-date__price « min. X$ | max. Y$ »), heure (data-meta-time,34> « À confirmer » → None), Région touristique / Lieu / adresse,35> lat/lng du lien Google Maps, auditoire, catégorie, og:image.36> INCRÉMENTAL avec cache disque (data/quoifaire_cache.json) :37> nouvelles fiches d'abord, re-visite après 7 jours, plafonné à38> QUOIFAIRE_DETAIL_MAX fiches/sync.39> Accès     : robots.txt « Allow: / » (seuls /search et l'admin sont exclus,40> on n'y touche pas) ; GET throttlés 0,8 s, identification honnête.41> Prix      : price_label = texte publié (« min. 40.00$ | max. 150.00$ ») →42> parse_price en aval (price_min = plus bas montant). Jamais inventé.4344</details>4546## Champs récupérés → schéma4748Complétude mesurée sur les **113 événements actifs** de la source ; exemples tirés d'un événement réel (`quoifaire:61e-coupe-vanier-greenshield`).4950| Champ (`events.*`) | Description | Complétude | Exemple réel |51|---|---|---|---|52| `title` — Titre | titre de l'événement | 100 % | 61e Coupe Vanier GreenShield |53| `description` — Description | texte descriptif (source ou fiche détail) | 100 % | La grande finale du football universitaire canadien est de retour à Québec! |54| `url` — URL | lien vers la fiche originale / billetterie | 100 % | https://quoifaire.com/quebec/evenements/61e-coupe-vanier-greenshield |55| `categories` — Catégories | taxonomie canonique Sorti-Ka (JSON) | 100 % | ["sport"] |56| `venue` — Salle (venue) | nom du lieu | 42 % | PEPS (Université Laval) |57| `address` — Adresse | adresse civique | 42 % | 2300 Rue de la Terrasse, Saint-Thomas-d'Aquin, Cité-Universitaire, Sainte-Foy–Sillery–Cap-Rouge,… |58| `city` — Ville | municipalité | 41 % | Québec |59| `region` — Région | région administrative | 100 % | Capitale-Nationale |60| `lat` — GPS (lat/lng) | coordonnées géographiques | 100 % | 46.784796, -71.276909 |61| `start_date` — Date début | date locale AAAA-MM-JJ | 100 % | 2026-11-28 |62| `end_date` — Date fin | date locale AAAA-MM-JJ | 100 % | 2026-11-28 |63| `start_time` — Heure (start_time) | heure locale HH:MM (Québec) | 56 % | 15:00 |64| `end_time` — Heure de fin (end_time) | heure locale HH:MM (Québec) | 0 % | ∅ |65| `status` — Statut | cancelled / postponed / soldout (NULL = prévu) | 0 % | ∅ |66| `is_free` — Gratuité (is_free) | 1 gratuit / 0 payant / NULL inconnu | 100 % | 0 |67| `price_min` — Prix min | tarif minimal réel ($) | 75 % | 20.0 |68| `price_label` — Libellé prix | étiquette tarifaire affichable | 100 % | min. 20.00$ \| max. 26.00$ |69| `artists` — Artistes | têtes d'affiche / lineup (JSON) | 0 % | [] |70| `organizer` — Organisateur | promoteur / organisme | 0 % | ∅ |71| `image` — Image | visuel (og:image ou média source) | 100 % | https://quoifaire.tor1.digitaloceanspaces.com/prod/events/Xp3IjJQGTc7mgqU5TYcX1OiWuNlaqeJyJAtCe0… |72| `website` — Site web | site officiel de l'événement | 0 % | ∅ |7374## Fréquence & budgets7576- **Cadence** : hebdomadaire77- **Budgets / plafonds (variables d'environnement)** :7879| Variable | Défaut | Rôle |80|---|---|---|81| `QUOIFAIRE_CITIES` | `quebec,montreal,saguenay,outaouais,mauricie` | — |82| `QUOIFAIRE_DETAIL_MAX` | `150` | — |83- **Budget global** : géocodage Nominatim plafonné à `SORTIKA_GEOCODE_MAX` (défaut 120) requêtes réseau/cycle, toutes sources confondues (`sortika/geocode.py`, cache disque).8485## Volumétrie & complétude live8687*(mesuré le 2026-08-25 19:01 EDT dans `data/sortika.db`)*8889- **Événements en base** : 113 (dont **113 actifs**)90- **GPS** : 113/113 actifs (100 %)91- **Prix** : 113/113 actifs (100 %)92- **Heure (start_time)** : 63/113 actifs (56 %)93- **Heure de fin** : 0/113 actifs (0 %)94- **Statut (annulé/reporté/complet)** : 0/113 actifs (0 %)95- **Artistes** : 0/113 actifs (0 %)96- **Image** : 113/113 actifs (100 %)97- **Salle (venue)** : 47/113 actifs (42 %)98- **Dernier sync** : 2026-08-25 18:52 — fetched 113, +113 ajoutés, ~0 mis à jour, -0 retirés99- **Syncs enregistrés** (sync_log) : 1100101## Erreurs & dépannage102103Aucune erreur dans `sync_log` pour cette source. ✅104105- Rejouer un sync isolé : `python3 run.py sync --source quoifaire` (ou via le watcher PM2) ; inspecter ensuite `sync_log` : `sqlite3 data/sortika.db "SELECT * FROM sync_log WHERE source='quoifaire' ORDER BY ts DESC LIMIT 5;"`106107## Licence / attribution108109- robots.txt Allow: / (seuls /search et admin exclus, non visités), GET throttlés 0,8 s, identification honnête110111## Historique112113- **2026-08-18 — Vague 1 d'enrichissement** (commit `7d9d1b0`) : géocodage Nominatim des salles (`sortika/geocode.py`, cache disque, plafond `SORTIKA_GEOCODE_MAX`), fiches détail lepointdevente (description, heure, tarifs réels `/plugins/rates/<id>`), contacts Tourinsoft (SITQ), heure locale Montréal via JSON-LD.114- **2026-08-18 — Vague 2 d'enrichissement** (commit `65d2d33`) : colonnes additives `events.start_time` (HH:MM locale QC) et `events.artists` (JSON) + migration auto ; heure captée partout où la source la publie (lepointdevente, evenko, Laval, Sherbrooke, Montréal, atuvu) ; artistes (headliners evenko, lineup Bandsintown, attractions Ticketmaster, patrons sûrs sur les titres) ; 3 nouveaux connecteurs (brossard, ticketmaster, bandsintown).115- **2026-08-19 — Phase 2 (travail de moine)** : colonnes additives `end_time`, `status` (annulé/reporté/complet) et `quarantine` (règles anti-aberrations, non publié mais réintégrable) ; règle d'ARCHIVAGE des événements terminés à chaque cycle (jamais supprimés) ; dedup_key inclut désormais l'heure (les séances multiples d'un même jour ne sont plus écrasées à l'affichage) ; alerte « 0 événement futur / chute > 80 % » par source (data/future_counts.json + /api/sources) ; heure et description La Vitrine ; end_time/organisateur/statut Eventbrite ; og:description Atuvu ; premières parties + portes + tournée evenko ; offres billets Bandsintown ; taxonomie type-event + description intégrale Brossard ; image Longueuil ; géocodage par ADRESSE CIVIQUE prioritaire ; villes normalisées au Répertoire MAMH (data/villes_canon.json) ; laval consignée « morte-a-la-source ».116