SPB Git forge

spb/trouve-ka

Public ★ Pinned

Trouve-KA — moteur de recherche web indépendant, Québec-first. Crawler distribué, index OpenSearch, ranking bilingue, galerie d'images. En prod : www.trouve-ka.com

40commits 1branches 0releases
9.2 MBsize
maindefault branch
23 days agolast push
Python 51.9% TypeScript 32.7% JavaScript 4.8% CSS 4.1% Shell 2.9% HTML 1.8% SQL 1.5%

History of infrastructure/migrations/004_domains_autovacuum.sql · clear filter

  1. Sun, Aug 16, 2026 1

    1. Crawler équitable, recherche hybride sémantique, architecture native multi-nodes
      …
      Crawl : claim 1 URL/domaine (DISTINCT ON), backoff adaptatif réparé (defer ne
      touche plus last_crawled_at), décroissance de priorité sur pages inchangées,
      enqueue_urls_bulk (1 transaction/page vs 1/lien), cap réel urls/domaine
      (migration 003), blocklist plateformes+CDN, timeout fetch 10s, boucle de claim
      résiliente aux pannes DB.
      
      Recherche : minimum_should_match 2<70%, index kNN (e5-small 384d, migration
      alias v2), service embeddings+reranker cross-encoder (services/embedding),
      fusion RRF avec gate de couverture, reranking du top-20 aussi en lexical,
      55 groupes de synonymes QC appliqués à chaud, endpoint admin zero-results.
      
      Infra : OpenSearch sur M2M32b (heap 8G, 2 shards), Postgres max_connections
      200 + timeouts anti-zombies + shared_buffers 2G, backfill embeddings
      anti-blocage avec superviseur, migration 004 autovacuum domains.
      
      Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
      Simon-Pierre Boucher committed 1 mo ago · 1 file +20