SPB Git forge

spb/api-ka

Public

API-KA — plateforme centrale : collecte quotidienne des 8 services KA, historisation append-only et API publique sur www.api-ka.com

48commits 1branches 0releases
5.9 MBsize
maindefault branch
20 days agolast push
Python 60.9% HTML 21% TypeScript 7.3% JavaScript 5.2% CSS 4.8% Shell 0.8%

History of tests/test_connector_health.py · clear filter

  1. Mon, Aug 24, 2026 1

    1. feat(monitoring): statut retired — retrait des sources désactivées ou disparues
      …
      Le registre connector_health est persisté et jamais purgé : une source
      désactivée côté app (ex. stores fabri-ka enabled=0) restait broken/stale à
      perpétuité et les agents gardiens la missionnaient sans fin (2026-08-24 :
      37 missions ka6 sur origin-north.ai). Désormais :
      - nouvelle colonne last_seen (dernière apparition dans une fenêtre de sync,
        ALTER TABLE appliqué en prod + backfill sur checked_at) ;
      - statut retired si la source est déclarée désactivée par l app
        (disabled_stores/disabled_sources du /api/stats — 58 sources fabri-ka
        retirées au premier run) ou absente de tout journal depuis > 14 j ;
      - une source retired qui réapparaît dans le journal est réévaluée
        normalement (last_seen remis à jour, statut recalculé) ;
      - retired exposé dans les résumés (monitoring, /health) et le détail
        (last_seen ajouté), jamais alerté, ignoré par les gardiens (trigger
        broken/stale inchangé).
      
      Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
      Simon-Pierre Boucher committed 1 mo ago · 1 file +1
  2. Sun, Aug 23, 2026 1

    1. monitoring: sources vides légitimes ≠ pannes + stale seulement si la dernière synchro observée est malsaine
      …
      Revue du parc 2026-08-23 : les « brisés » niddamour, courtemanche,
      place_florimay, atlas_immo étaient des sources sans inventaire en ligne
      (vérifiées à la main) qui synchronisaient ok à 0 résultat.
      
      - un 0 résultat n est suspect que si la médiane historique de la source
        est ≥ 1 ; sinon c est un vide légitime (streak remis à zéro)
      - une source dont la dernière synchro observée est saine n est plus
        marquée stale même si son dernier succès avec résultats est ancien
      - tests mis à jour + 2 nouveaux cas (53 verts)
      
      Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
      Simon-Pierre Boucher committed 1 mo ago · 1 file +30 −2
  3. Tue, Aug 18, 2026 2

    1. feat: intégration de job-ka (9e service KA) — collecteur + supervision
      …
      - Collecteur JobkaCollector (src/collectors/jobka_collector.py) : GET /api/jobs
        de job-ka (M3U96a:8096), pagination limit/offset (clé jobs, total annoncé),
        table jobka_data — pipeline standard fetch → checksum → dédup → backup pg_dump
        → collection_runs. One-shot validé : 7 953 offres actives collectées.
      - Config : jobka ajouté aux SERVICES (9) + JOBKA_SOURCE_URL (.env/.env.example).
        Il hérite automatiquement du run quotidien 02:00, du backfill, du backup 03:30
        et des endpoints /api/v1/jobka{,/latest,/date/…,/stats}.
      - Supervision : jobka dans connector_health (cadence attendue 1 h, recent_syncs
        par source + facteur de rotation — 200+ sources pour une fenêtre de 20) ;
        visible dans /api/v1/monitoring/connectors (19 sources + _app, tout ok).
      - Stats : libellé Job·Ka ; page /stats à 9 services.
      - Tests : 3 tests jobka (pipeline, pagination offset, registre) + compteurs
        8→9 — suite complète 51 passed.
      
      Rien à changer côté CORS (job-ka.com déjà dans les origines) ni côté agent KA
      (chercher_emplois pointe déjà sur www.job-ka.com/api/jobs).
      
      Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
      Simon-Pierre Boucher committed 1 mo ago · 1 file +1 −1
    2. feat: supervision centralisée des connecteurs de l'écosystème KA
      …
      - table connector_health (une ligne par service/source, upsert) + job
        src/monitoring/connector_health.py toutes les 2 h dans apika-scheduler
        (lecture seule des GET /api/stats des 8 apps sœurs, timeout 5 s,
        échec d'une app sans impact sur le job)
      - classement : broken (≥3 échecs ou 0 résultat ×3), stale (>2× cadence,
        facteur de rotation au niveau source), degraded (<50 % de la médiane),
        ok — cadences par service (lou-ka 1 h … resto-ka 168 h)
      - alertes logs/alerts.log uniquement sur transition vers broken/stale
        (anti-spam via l'état précédent mémorisé en table)
      - endpoints publics GET /api/v1/monitoring/connectors(/{service}) +
        bloc connectors dans /health
      - 15 tests (classement, parsing, anti-spam, endpoints) — suite 48/48
      
      Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
      Simon-Pierre Boucher committed 1 mo ago · 1 file +364