SPB Git forge

spb/sorti-ka

Public

Toutes les sorties et tous les événements du Québec, un seul endroit — 7 connecteurs, fiches SSR, design Groupe KA.

58commits 1branches 0releases
13.7 MBsize
maindefault branch
17 days agolast push
HTML 82.9% Python 15.2% TypeScript 0.9% JavaScript 0.7%
7.7 KB

# BAnQ — calendrier des activités (banq)

Fiche générée le 2026-08-25 19:01 EDT par scripts/gen_connector_docs.py — ne pas éditer à la main, relancer le script.

Statut : actif · Type : agregateur · Connecteur : sortika/connectors/banq.py

# Description

  • Source : BAnQ — calendrier des activités
  • Couverture : ~140 activités à venir (Grande Bibliothèque + centres régionaux — ateliers, conférences, heure du conte)
  • Extraction : Scrapfly obligatoire (anti-bot Radware) : liste rendue JS → fiches HTML serveur via Scrapfly sans JS, JSON-LD Event complet (dates ISO -04:00, lieu, adresse, image, organisateur, offers.price 0.00 = gratuité publiée) ; incrémental cache 14 j, plafond BANQ_DETAIL_MAX=50

# Accès

  • Type : agregateur
  • Endpoint (BASE) : https://www.banq.qc.ca
  • Auth : Aucune côté source ; SCRAPFLY_API_KEY requis pour le backend Scrapfly
  • Pagination : aucune (flux unique)
  • Backend : Scrapfly (anti-bot / rendu JS) via base.get_scrapfly()
  • Throttle : 1.0 s entre requêtes
  • Accès légal : robots.txt Drupal standard (calendrier non exclu) ; 1 rendu JS + ≤50 fiches par sync, cadence contenue
En-tête documentaire du connecteur

connectors/banq.py : connecteur BAnQ (banq.qc.ca) — activités & conférences Source : calendrier des activités de Bibliothèque et Archives nationales du Québec (Grande Bibliothèque + centres régionaux) — ateliers, conférences, heure du conte, expositions (~140 fiches à venir). Extraction: SCRAPFLY obligatoire (anti-bot Radware : GET direct → 302 challenge, /jsonapi bloqué — sondé 2026-08-25). Liste /calendrier/a-venir rendue AVEC JavaScript (les cartes sont injectées côté client) → liens /calendrier/a-venir/. Fiches : Scrapfly SANS rendu JS (HTML serveur), JSON-LD Event complet (nom, dates ISO avec fuseau -04:00, lieu, adresse, ville, image, organisateur, offre 0,00 $ → gratuité PUBLIÉE). INCRÉMENTAL avec cache disque (data/banq_cache.json) : nouvelles fiches d'abord, re-visite après 14 jours, plafond BANQ_DETAIL_MAX fiches/sync pour contenir le coût en crédits. Accès : robots.txt Drupal standard (le calendrier n'est pas exclu) ; 1 rendu JS + quelques fiches par sync, cadence hebdomadaire. Prix : offers.price du JSON-LD (« 0.00 » = gratuit affiché par la source) → is_free/price_label. Jamais inventé.

# Champs récupérés → schéma

Complétude mesurée sur les 50 événements actifs de la source ; exemples tirés d'un événement réel (banq:135922).

Champ (events.*) Description Complétude Exemple réel
title — Titre titre de l'événement 100 % Camelot d'un jour
description — Description texte descriptif (source ou fiche détail) 100 % Venez appuyer la mission de L’Itinéraire ! La Grande Bibliothèque accueille pour une cinquième a…
url — URL lien vers la fiche originale / billetterie 100 % https://www.banq.qc.ca/calendrier/a-venir/135922
categories — Catégories taxonomie canonique Sorti-Ka (JSON) 100 % ["autre"]
venue — Salle (venue) nom du lieu 96 % Grande Bibliothèque
address — Adresse adresse civique 96 % 475, boulevard De Maisonneuve Est
city — Ville municipalité 96 % Montréal
region — Région région administrative 96 % Montréal
lat — GPS (lat/lng) coordonnées géographiques 96 % 45.5153771, -73.5622117
start_date — Date début date locale AAAA-MM-JJ 100 % 2026-09-15
end_date — Date fin date locale AAAA-MM-JJ 100 % 2026-09-15
start_time — Heure (start_time) heure locale HH:MM (Québec) 100 % 10:00
end_time — Heure de fin (end_time) heure locale HH:MM (Québec) 100 % 15:00
status — Statut cancelled / postponed / soldout (NULL = prévu) 4 % ∅
is_free — Gratuité (is_free) 1 gratuit / 0 payant / NULL inconnu 100 % 1
price_min — Prix min tarif minimal réel ($) 0 % ∅
price_label — Libellé prix étiquette tarifaire affichable 100 % Gratuit (0,00 $ affiché)
artists — Artistes têtes d'affiche / lineup (JSON) 0 % []
organizer — Organisateur promoteur / organisme 100 % Bibliothèque et Archives nationales du Québec
image — Image visuel (og:image ou média source) 100 % https://www2.banq.qc.ca/cal/attachments/24047/135922/Entete-visuel_Camelot.png
website — Site web site officiel de l'événement 0 % ∅

# Fréquence & budgets

  • Cadence : hebdomadaire
  • Budgets / plafonds (variables d'environnement) :
Variable Défaut Rôle
BANQ_DETAIL_MAX 50 —
  • Budget global : géocodage Nominatim plafonné à SORTIKA_GEOCODE_MAX (défaut 120) requêtes réseau/cycle, toutes sources confondues (sortika/geocode.py, cache disque).

# Volumétrie & complétude live

(mesuré le 2026-08-25 19:01 EDT dans data/sortika.db)

  • Événements en base : 50 (dont 50 actifs)
  • GPS : 48/50 actifs (96 %)
  • Prix : 50/50 actifs (100 %)
  • Heure (start_time) : 50/50 actifs (100 %)
  • Heure de fin : 50/50 actifs (100 %)
  • Statut (annulé/reporté/complet) : 2/50 actifs (4 %)
  • Artistes : 0/50 actifs (0 %)
  • Image : 50/50 actifs (100 %)
  • Salle (venue) : 48/50 actifs (96 %)
  • Dernier sync : 2026-08-25 18:42 — fetched 50, +50 ajoutés, ~0 mis à jour, -0 retirés
  • Syncs enregistrés (sync_log) : 1

# Erreurs & dépannage

Aucune erreur dans sync_log pour cette source. ✅

  • Rejouer un sync isolé : python3 run.py sync --source banq (ou via le watcher PM2) ; inspecter ensuite sync_log : sqlite3 data/sortika.db "SELECT * FROM sync_log WHERE source='banq' ORDER BY ts DESC LIMIT 5;"

# Licence / attribution

  • robots.txt Drupal standard (calendrier non exclu) ; 1 rendu JS + ≤50 fiches par sync, cadence contenue

# Historique

  • 2026-08-18 — Vague 1 d'enrichissement (commit 7d9d1b0) : géocodage Nominatim des salles (sortika/geocode.py, cache disque, plafond SORTIKA_GEOCODE_MAX), fiches détail lepointdevente (description, heure, tarifs réels /plugins/rates/<id>), contacts Tourinsoft (SITQ), heure locale Montréal via JSON-LD.
  • 2026-08-18 — Vague 2 d'enrichissement (commit 65d2d33) : colonnes additives events.start_time (HH:MM locale QC) et events.artists (JSON) + migration auto ; heure captée partout où la source la publie (lepointdevente, evenko, Laval, Sherbrooke, Montréal, atuvu) ; artistes (headliners evenko, lineup Bandsintown, attractions Ticketmaster, patrons sûrs sur les titres) ; 3 nouveaux connecteurs (brossard, ticketmaster, bandsintown).
  • 2026-08-19 — Phase 2 (travail de moine) : colonnes additives end_time, status (annulé/reporté/complet) et quarantine (règles anti-aberrations, non publié mais réintégrable) ; règle d'ARCHIVAGE des événements terminés à chaque cycle (jamais supprimés) ; dedup_key inclut désormais l'heure (les séances multiples d'un même jour ne sont plus écrasées à l'affichage) ; alerte « 0 événement futur / chute > 80 % » par source (data/future_counts.json + /api/sources) ; heure et description La Vitrine ; end_time/organisateur/statut Eventbrite ; og:description Atuvu ; premières parties + portes + tournée evenko ; offres billets Bandsintown ; taxonomie type-event + description intégrale Brossard ; image Longueuil ; géocodage par ADRESSE CIVIQUE prioritaire ; villes normalisées au Répertoire MAMH (data/villes_canon.json) ; laval consignée « morte-a-la-source ».